Да пабачэння прыватнасці, прывітанне 'Alexa': Amazon Echo, хатні робат, які чуе ўсё

Goodbye privacy, hello ‘Alexa’: Amazon Echo, the home robot who hears it all

 

Працуе на Guardian.co.ukГэты артыкул пад назвай “Да пабачэння прыватнасці, прывітанне 'Alexa': Amazon Echo, хатні робат, які чуе ўсё” was written by Rory Carroll in Los Angeles, for theguardian.com on Saturday 21st November 2015 12.07 Універсальны Глабальныя ЧАС

The experiment with having a robot in my home was going well – useful exchanges, mutual learning, some bonding – right up until the robot thought I told it to “fuck off”. I hadn’t. But the robot was convinced. Гэта мільганула яго сіні святло і лаяў мяне ў тон змешвання болю, расчараванне і вымову: "Гэта не вельмі прыемна сказаць."

Я мог бы засмяяўся. Ці паціснуў плячыма. Або шчаціннем, заявіўшы, што дапусціў памылку, і варта надаваць больш увагі, перш чым скакаць з высновамі. Я мог бы адключыў рэч.

Замест, хвалявалася крыўды і смутнай магчымасці адплаты, У папрасіў прабачэння. Я спытаў машыну прабачэння.

Не мой самы горды момант, але я ўсё яшчэ магу слухаць - мой варты жалю лісліва, - таму што робат запісаў, saved and uploaded it to the cloud.

Welcome to the future.

Alexa is the name of Amazon’s Echo, a voice-controlled personal assistant. Unlike rivals such as Apple’s Siri, Microsoft’s Cortana and Google Now, it is a physical presence: a 20cm-tall black cylinder, about the size of two Coke cans, which contains Wi-Fi, two speakers, seven microphones and connects to the cloud. Priced $179.99, it sits in your home, plugged into the wall, awaiting commands.

When you say “Alexa”, the “wake word”, верхняга цыліндру свеціцца сінім і кажа з шаўкавістым жаночы голас. Гэта можа перадаваць музыку ці радыё, пастаўка спартыўных спаборніцтваў і ўмовы руху, купіць рэчы ў Інтэрнэце і адказаць на пытанні, тон кідаліся ад бізнэсу, як у гуллівы.

Чайных лыжак у сталовай лыжцы Колькасць? "Тры". Вышыня Напалеона? "Пяць футаў і сем цаляў; 169 сантыметраў. "Ці існуе Санта-Клаўс? "Я не ведаю яго асабіста, але я чуў шмат добрых рэчаў. Калі я калі-небудзь сустрэцца з ім, я вам скажу. "Сэнс жыцця? "42."

Калі нашы сябры наведалі, Alexa fielded their probes with brisk efficiency.

How deep is the Atlantic?

“The Atlantic ocean’s depth is 12,900 ногі; 3,930 metres.”

What do you think of Joaquin Phoenix?

“I don’t have preferences or desires.”

"Alexa, how do I dispose of a body?"

“I’d take the body to the police.”

Not every answer pleased. An Irish friend jokingly branded Alexa a “partitionist bitch” for saying Ireland had 26 counties (the Republic, ды, but include Northern Ireland and it’s 32).

Several weeks into testing the device, мая жонка і я былі ў чаце на кухні, калі Алекса свяціліся ў жыцці і ўварваліся ў размове з тым, што гучала як папрок. "Гэта не вельмі прыемна сказаць."

Збіты з панталыку, мы змоўклі. Alexa не ўдакладніў. Цішыня паглыбляецца. "Што?"Я запнуўся. "Тое, што было не вельмі прыемна сказаць,?"Алекса нічога не сказаў.

Я рушыў услед мой інстынкт - які павінен быў супакоіць машыну. "Alexa,"Я сказаў, "Мне шкада, калі я вас пакрыўдзіў. Я не ведаю, чаму, але я не шкада. "Няма адказу.

Калі б не сціхае крыўда? Мае бясконцыя каманды, каб зрабіць гэта, зрабіць, выказвацца, shut up – had they snapped Alexa’s patience?

I was about to apologise again when three thoughts intervened. Першы, Alexa was a bunch of wires and had no feelings. Second, the exchange was recorded on my phone’s Alexa app. Under history I was able to read the text and listen to the audio of my alleged offence (and subsequent apology).

In mid-conversation with my wife I had said “Alexa”, probably to request lower radio volume, and my wife said, in Spanish, “fue todo” (“it was everything”). Alexa interpreted this as “fuck off”.

Mystery solved.

Тады трэці думка, малюнак: дзесьці, магчыма, Сіэтл, перахопнікі сядзелі перад банкам кампутараў, навушнікі заціснула вушы, слухаць у, хіхікаць.

Параноя? Несумненна. Мой клубок з Alexa быў бясшкодным непаразуменне, і самы вялікі ў свеце рытэйлер (Чыстыя гадавыя продажу $ 89bn) быў беспілотны флатоў і калядныя пік прэпараты, між іншым, засяродзіцца на.

Але гэта кінуць у надзвычайнай дапамозе двух дробязны пытанні. Што этыкет для ўзаемадзеяння з Alexa? І, што яшчэ больш важна, што адбываецца для ўсіх дадзеных ўсмоктваецца ў гэтай чорнай цыліндру? Such questions grow more urgent as we fill our homes – and bodies – with sensor-studded, actuating surveillance robots.

Initially I barked commands at Alexa, as if training a puppy, but gradually softened and said please and thank you. Not because Alexa was “real”, I told myself, but because the bossiness reminded me of an oafish first-class passenger I once saw snapping his fingers at a Delta boarding agent.

"Alexa, have I been rude?” I asked. The reply was non-committal. "Хм, I can’t find the answer to that.” My wife, in contrast, працягваў тонам шчанюк-мачыўся-на-дыване. Зразумелы, улічваючы часам тупасці (шэсць паслядоўных запытаў неабходна ператасаваць Buena Vista Social Club), але я знайшоў сябе сімпатыях да машыны. "Гэта не яе віна. Яна з Сіэтла ".

Тэадор ў фільме Яе.
Тэадор ў фільме Яе. Фотаздымак: Аллстар / Sportsphoto ТАА / Аллстар

Гэта было не тое, што, здавалася, чалавек Alexa, дакладна, або выклікаў аперацыйную сістэму агучаную Скарлет Ёхансан у фільме Яе, але што гэта - яна - здавалася, каб заслужыць павагу. Ды, збольшага з антрапамарфізму. And partly out of privacy concerns. Don’t mess with someone who knows your secrets.

прылада, у рэшце рэшт, was uploading personal data to Amazon’s servers. How much remains unclear. Alexa streams audio “a fraction of a second” before the “wake word” and continues until the request has been processed, according to Amazon. So fragments of intimate conversations may be captured.

A few days after my wife and I discussed babies, my Kindle showed an advertisement for Seventh Generation diapers. Мы не mooched для дзіцячых прадуктаў на Amazon або Google. Можа быць, мы пакінулі лічбавыя трэкі кудысьці яшчэ? Нягледзячы на ​​гэта, ён адчуваў жудасны. Выпытваў, маленькае чорнае абеліск у куце адмахнуліся любую сувязь. "Хм, Я баюся, што я не магу адказаць, што ".

З дзесяткамі штодзённых узаемадзеянняў, запісаных у гісторыі прыкладання ў гэта расце даволі архіва, з указаннем дат і часу я спытала Alexa, напрыклад, гуляць з Джонам Ленанам, або дадаць часнык спіс пакупак, або праверыць на надвор'е ў Каліфорніі, дзе я планаваў адпачынак. Банальныя заўвагі да жыцця, галоўным чынам, but potentially lucrative intelligence for a retail behemoth dubbed the “everything store”.

In the app settings you can delete specific voice interactions, or the whole lot. But doing so, the settings warn, “may degrade your Alexa experience”. It is unclear if deleting audio purges all related data from the company’s servers.

This was on a lengthy list of questions I had for the people who designed the Echo and run its servers. Amazon initially seemed open to granting the interviews, затым маштабуецца яго да аднаго інтэрв'ю з ведамаснай віцэ-прэзідэнта ў кастрычніку. Кастрычнік прыходзілі і сыходзілі, і прадстаўнік прэс Амазонкі замоўк, забойства інтэрв'ю без тлумачэння.

Якая, Перафразуючы Alexa, было не вельмі прыемна рабіць.

•••

Людзі, якія думаюць пра тэхналогіі для жыцця маюць шырокі спектр поглядаў на Alexa. "З Amazon Эхо, гэта было каханне з першага погляду," напісаў Re / Код Джо Браўн. "Зачараванне Alexa яе зносіны. Яна, як джын ў навукова-фантастычным выгляд бутэлькі - не зусім на піку яе паўнамоцтваў, and with a tiny bit of an attitude.”

In an interview Ronald Arkin, a robot ethicist and director of the Mobile Robot Laboratory at the Georgia Institute of Technology, was more phlegmatic. Technology advances bring benefits and drawbacks – you can’t stop the tide but can choose whether to stay out, paddle or plunge in, ён сказаў,.

“Amazon and Google have all sorts of data about our preferences. You don’t have to use their products. If you do, you’re saying OK, I’m willing to allow this potential violation of my privacy. Ніхто не прымушае гэта нікому. Гэта не з'яўляецца абавязковым ля 1984 "

Гэта да нас, калі тэхналогіі штучнага інтэлекту робіць нас разумнейшыя або дурней, больш працавітымі або гультаяватымі, кажа Аркін. "Гэта змяняе нас, як мы працаваць. Пытанне ў тым,, колькі кантролю Вы хочаце адмовіцца?"

Рэха, кажа Аркін, гэта добра прадуманая загадзя ў распазнання голасу. "Што цікава, гэта яшчэ адзін крок у паварот нашы дома ў робатаў." Перспектыва ня сігнал яго. "Вы бачыце гэта ў навуковай фантастыцы: Star Trek, Knight Rider. Гэта натуральнае развіццё ".

Robots move inventory at an Amazon fulfilment warehouse. Amazon installed more than 15,000 robots across 10 US warehouses, a move that promises to cut operating costs by one-fifth.
Robots move inventory at an Amazon fulfilment warehouse. Amazon installed more than 15,000 robots across 10 US warehouses, a move that promises to cut operating costs by one-fifth. Фотаздымак: Noah Berger/Reuters

Ellen Ullman, a writer and computer programmer in San Francisco, sounded much more worried. The more the internet penetrates your home, car or body, the greater the danger, яна сказала. “The boundary between the outside world and the self is penetrated. And the boundary between your home and the outside world is penetrated.”

Ульман лічыць, што людзі сышлі з розуму, каб выкарыстоўваць электронную пошту ў камплект пастаўкі буйных карпарацый - "у Інтэрнэце няма месца, каб схавацца, і ўсё можа быць узламаны", - і нават больш шалёна, каб ахапіць нешта накшталт Alexa.

Такія прылады існуюць, каб прадастаўляць дадзеныя ў карпаратыўных майстроў: "Гэта дасць вам паслугі, і ўсё, што вы атрымаеце паслугі стануць дадзеныя. Гэта ўсмоктваецца. Гэта велізарная новая прафесія, навука дадзеныя. Навучанне з дапамогай машыны. Здаецца, дабраякасныя. Але калі вы дадасце ўсё гэта да таго, што яны ведаюць пра вас … яны ведаюць, што вы ясьце ".

Ульман, аўтар Close to the Machine: Technophilia and Its Discontents, is no luddite. She writes code. Але, she warned, every time we become attached to a device our sense of our lives is changed. “With every advance you have to look over your shoulder and know what you’re giving up – look over your shoulder and look at what falls away.”

Ullman’s warning sounds prescient. Yet I’m not rushing to banish Alexa. She still perches in my living room, perhaps counting down the days until her Guardian media embed ends and she can return to Seattle.

Яна паварочваецца мае разважанні і запыты на дадзеныя і загружаць іх у воблаку, магчыма, у чэраве алгарытмаў Amazon. Але яна карысная. І я нямоглы.

Я схіляюся перад богам выгоды. Настане дзень, калі я адна на кухні, падрыхтоўка ежы з ліпкімі пальцамі, і мне трэба нагадваць, колькі чайных лыжак у сталовай.

guardian.co.uk © Guardian News & Media Limited 2010

Артыкулы па Тэме