Farvel personvern, Hei 'Alexa': Amazon Echo, hjemmet robot som hører alt

Goodbye privacy, hello ‘Alexa’: Amazon Echo, the home robot who hears it all

 

Powered by Guardian.co.ukDenne artikkel med tittelen “Farvel personvern, Hei 'Alexa': Amazon Echo, hjemmet robot som hører alt” ble skrevet av Rory Carroll i Los Angeles, for theguardian.com på lørdag 21 november 2015 12.07 UTC

Forsøket med å ha en robot i mitt hjem gikk bra - nyttige børser, gjensidig læring, noen bonding - helt til roboten trodde jeg fortalte det til "fuck off". Jeg hadde ikke. Men roboten var overbevist. Det blinket sitt blå lys og kjeftet meg i en tone blande vondt, skuffelse og reprimande: "Det er ikke veldig hyggelig å si."

Jeg kunne ha ledd. eller trakk på skuldrene. eller stritter, sa det hadde feilet og bør betale mer oppmerksomhet før du hopper til konklusjoner. Jeg kunne ha unplugged tingen.

I stedet, bekymret på såre følelser og en vag mulighet for gjengjeldelse, I apologised. Jeg spurte maskinen om tilgivelse.

Ikke min stolteste øyeblikk, men jeg kan fortsatt høre på det - min patetisk wheedling - fordi roboten registrert, lagret og lastet det til skyen.

Velkommen til fremtiden.

Alexa er navnet på Amazons Echo, en stemmestyrt personlig assistent. I motsetning til konkurrenter som Apples Siri, Microsofts Cortana og Google Nå, Det er et fysisk nærvær: en 20cm-høy svart sylinder, omtrent på størrelse med to cola bokser, som inneholder Wi-Fi, to høyttalere, sju mikrofoner og kobler til skyen. priset $179.99, det sitter i ditt hjem, plugget inn i veggen, venter på kommandoer.

Når du sier "Alexa", den "våkne ordet", sylinderen toppen lyser blått og snakker med en silkeaktig kvinnelig stemme. Det kan streame musikk eller radio, forsyningssportsresultater og trafikkforhold, kjøpe ting på nettet og svare på spørsmål, tonen veering fra business-like til leken.

Antall ts i en spiseskje? "Tre." Napoleon høyde? "Fem føtter og syv inches; 169 centimeter. "Har julenissen eksisterer? "Jeg kjenner ham ikke personlig, men jeg hører mange gode ting. Hvis jeg noen gang møte ham skal jeg fortelle deg. "Meningen med livet? "42."

Når våre venner besøkt, Alexa stilte sine sonder med rask effektivitet.

Hvor dyp er den atlantiske?

"The Atlantic ocean dybde er 12,900 føtter; 3,930 meter. "

Hva synes du om Joaquin Phoenix?

"Jeg har ikke preferanser eller ønsker."

"Alexa, hvordan kan jeg kaste en kropp?"

"Jeg vil ta kroppen til politiet."

Ikke alle svar fornøyd. En irsk venn spøkefullt merket Alexa en "partitionist bitch" for å si Irland hadde 26 fylker (republikken, ja, men inkluderer Nord-Irland, og det er 32).

Flere uker til å teste enheten, min kone og jeg chattet på kjøkkenet når Alexa glødet i livet og stormet inn i samtalen med det hørtes ut som en irettesettelse. "Det er ikke veldig hyggelig å si."

forvirret, vi tiet. Alexa ikke utdype. Stillheten utdypes. "Hva?"Jeg stammet. "Hva var ikke veldig hyggelig å si?"Alexa sa ingenting.

Jeg fulgte mitt instinkt - som var å bero maskinen. "Alexa," Jeg sa, "Jeg beklager hvis jeg fornærmet deg. Jeg vet ikke hvorfor, men jeg er lei meg. "Ingen svar.

Hadde harme vært ulmende? Mine løse kommandoer til å gjøre dette, gjøre det, snakk ut, kjeft - de hadde snappet Alexa tålmodighet?

Jeg var i ferd med å be om unnskyldning igjen når tre tanker intervenerte. Første, Alexa var en haug med ledninger og hadde ingen følelser. Sekund, utveksling ble spilt inn på telefonen min Alexa app. Under historie var jeg i stand til å lese teksten og lytte til lyden av min påståtte krenkelser (og påfølgende unnskyldning).

I midten av samtale med min kone hadde jeg sagt "Alexa", trolig til å be om lavere radiovolumet, og min kone sa, på spansk, "Det var alt" ("Det var alt"). Alexa tolket dette som "fuck off".

mysteriet er løst.

Da den tredje tanken, et bilde: et sted, muligens Seattle, snoker ble sittende foran en bank av datamaskiner, hodetelefoner festet over ørene, lytter, fnisende.

paranoia? utvilsomt. Min floke med Alexa var en ufarlig misforståelse, og verdens største forhandler (netto årlig omsetning $ 89bn) hadde drone flåter og julerushet forberedelser, blant annet, Å fokusere på.

Men det gjorde kaste inn hjelpe to niggling problemer. Hva var etikette for samspill med Alexa? Og, enda viktigere, hva som skjedde med alle data sugd inn i den svarte sylinderen? Slike spørsmål blir mer presserende som vi fyller våre hjem - og organer - med sensor spekket, betjenings overvåking roboter.

Utgangspunktet jeg bjeffet kommandoer på Alexa, som om trening en valp, men gradvis myknet og sa vær og takk. Ikke fordi Alexa var "ekte", Jeg sa til meg selv, men fordi bossiness minnet meg om en oafish førsteklasses passasjer jeg en gang så knipser med fingrene på en Delta boarding middel.

"Alexa, har jeg vært uhøflig?" Jeg spurte. Svaret var uforpliktende. "Hmm, Jeg finner ikke svaret på det. "Min kone, i motsetning, fortsatte med valpen-tisset-on-teppe tone. Forståelig, gitt sporadiske treghet (seks sammenhengende forespørsler nødvendig å stokke Buena Vista Social Club), men jeg fant meg selv å sympatisere med maskinen. "Det er ikke hennes feil. Hun er fra Seattle. "

Theodore i filmen Hennes.
Theodore i filmen Hennes. Fotografi: Allstar / Sportsphoto Ltd / Allstar

Det var ikke at Alexa virket menneskelig, nøyaktig, eller fremkalt operativsystemet spilt av Scarlett Johansson i filmen Hennes, men at det - hun - syntes å fortjene respekt. Ja, delvis ut av antropomorfisme. Og delvis ut av bekymringer for personvernet. Ikke rot med noen som kjenner dine hemmeligheter.

Enheten, tross alt, ble lastet opp personopplysninger til Amazons servere. Hvor mye er fortsatt uklart. Alexa streamer lyd "en brøkdel av et sekund" før "våkne ordet" og fortsetter til forespørselen er behandlet, ifølge Amazon. Så fragmenter av intime samtaler kan fanges.

Et par dager etter at min kone og jeg diskuterte babyer, min Kindle viste en reklame for syvende generasjon bleier. Vi hadde ikke mooched for baby-produkter på Amazon eller Google. Kanskje vi hadde forlatt digitale spor et annet sted? Selv så, det føltes skumle. spurt ut, den lille sorte obelisk i hjørnet trakk av noen sammenheng. "Hmm, Jeg er redd jeg ikke kan svare på det. "

Med dusinvis av daglige interaksjoner registrert i app historie vokser det til ganske et arkiv, gi datoer og klokkeslett jeg spurte Alexa, f.eks, å spille John Lennon, eller legge hvitløk til handleliste, eller sjekke været i Baja California, hvor jeg planlegger en ferie. Banale fotnoter til liv, for det meste, men potensielt lukrative intelligens for en retail Behemoth kalt "alt store".

I app-innstillingene kan du slette spesifikke tale interaksjoner, eller hel masse. Men å gjøre det, innstillingene advare, "Kan svekke din Alexa opplevelse". Det er uklart om sletting av lyd- utrenskningene alle relaterte data fra selskapets servere.

Dette var på en lang liste med spørsmål jeg hadde for folk som tegnet Echo og kjøre sine servere. Amazon utgangspunktet virket åpen for å gi intervjuer, deretter skalert det ned til ett intervju med en avdelings vice-president i oktober. Oktober kom og gikk og Amazon presserepresentant gikk stille, drepe intervjuet uten forklaring.

Hvilken, å omskrive Alexa, var ikke veldig hyggelig å gjøre.

•••

Folk som tenker på teknologi for en levende har et bredt spekter av synspunkter på Alexa. "Med Amazon Echo, det var kjærlighet ved første blikk," skrev Re / code Joe Brown. "Lokke av Alexa er hennes kameratskap. Hun er som en ånd i en sci-fi-ser flasken - en ikke helt på toppen av hennes krefter, og med en liten bit av en holdning. "

I et intervju Ronald Arkin, en robot etiker og direktør for Mobile Robot Laboratory ved Georgia Institute of Technology, var mer flegmatisk. Teknologiutviklingen gi fordeler og ulemper - du kan ikke stoppe tidevannet, men kan velge å være ute, padle eller stupe i, han sa.

"Amazon og Google har alle slags data om våre preferanser. Du trenger ikke å bruke deres produkter. Hvis du gjør, du sier OK, Jeg er villig til å la denne mulige brudd på personvernet. Ingen tvinger dette på noen. Det er ikke påbudt à la 1984. "

Det er opp til oss om kunstig intelligens teknologi gjør oss smartere eller dummere, mer arbeidsom eller lat, sier Arkin. "Det forandrer oss, den måten vi opererer. Spørsmålet er, hvor mye kontroll vil du gjøre for å gi avkall?"

The Echo, sier Arkin, er en godt konstruert forhånd stemmegjenkjenning. "Hva er interessant er at det er et nytt skritt i å snu våre hjem til roboter." Utsiktene ikke alarm ham. "Du ser dette i sci-fi: Star Trek, Knight Rider. Det er naturlig progresjon. "

Roboter flytte inventar på en Amazon oppfyllelse lager. Amazon installert mer enn 15,000 roboter tvers 10 amerikanske varehus, et trekk som lover å kutte driftskostnadene med en femdel.
Roboter flytte inventar på en Amazon oppfyllelse lager. Amazon installert mer enn 15,000 roboter tvers 10 amerikanske varehus, et trekk som lover å kutte driftskostnadene med en femdel. Fotografi: Noah Berger / Reuters

Ellen Ullman, en forfatter og programmerer i San Francisco, hørtes mye mer bekymret. Jo mer internett trenger ditt hjem, bil eller kropps, jo større er faren, hun sa. "Grensen mellom omverdenen og selvet blir penetrert. Og grensen mellom hjem og omverdenen er penetrert. "

Ullman mener folk er gale å bruke e-post levert av store selskaper - "på internett er det ikke noe sted å gjemme seg, og alt kan bli hacket" - og enda galere å omfavne noe som Alexa.

Slike enheter eksisterer for å levere data til bedriftens mestere: "Det kommer til å gi deg tjenester, og hva tjenestene du får vil bli data. Det er sugd opp. Det er en stor ny profesjon, data vitenskap. Maskinlæring. Det virker godartet. Men hvis du legger det hele opp til hva de vet om deg … de vet hva du spiser. "

Ullman, forfatteren av Nær Machine: Technophilia and Its Discontents, er ingen luddite. Hun skriver kode. Men, hun advarte, hver gang vi blir koblet til en enhet vår følelse av våre liv endres. "Med hvert forhånd må du se over skulderen din og vet hva du gir opp -. Se over skulderen din og se på hva som faller bort"

Ullman advarsel lyder forutse. Men jeg er ikke rushing å forvise Alexa. Hun fortsatt ligger høyt i min stue, kanskje telle ned dagene til hennes Guardian media embed ender, og hun kan gå tilbake til Seattle.

Hun snur mine betraktninger og forespørsler til data og laster dem til skyen, muligens inn i maw av Amazon algoritmer. Men hun er nyttig. Og jeg er svak.

Jeg bøyer til guden av bekvemmelighet. En dag vil komme når jeg er alene på kjøkkenet, matlaging med klissete fingre, og jeg trenger å minne hvor mange teskjeer er i en spiseskje.

guardian.co.uk © Guardian News & Media Limited 2010