Алгарытмы, як нябачныя суддзі, якія вырашаюць нашы лёсы

Algorithms are like invisible judges that decide our fates

 

Працуе на Guardian.co.ukГэты артыкул пад назвай “Алгарытмы, як нябачныя суддзі, якія вырашаюць нашы лёсы” была напісана Дэйвам Бры, для theguardian.com ў панядзелак 27-га красавіка 2015 09.00 Універсальны Глабальныя ЧАС

Уявіце, што вы ўдзельнік у праслухоўванні раўнда The Voice, дзе вы рэмень вашыя лепшыя "I Will Always Love You". Праз хвіліну праходзіць. Ніякай рэакцыі ад суддзяў знакамітасці. Вы працягваеце спяваць. яшчэ хвіліна, не да гэтага часу не абнадзейваючым ўсмешка або ківок. Вы напружвацца, каб ударыць самую высокую ноту, молячы сваім выступам: "Калі ласка,, калі ласка, прыміце мяне! Я раблю ўсё магчымае,!"Песня сканчаецца. Ніхто не хоча, каб вы. Ваша сям'я схіляюць галовы ад сораму. Твая мама плача. Вы стаіце на сцэне, адзін у цэнтры ўвагі, забіты горам. Дзверы адчыняецца пастка пад вашымі нагамі, і вы слізгаеце крычаць у падвал лабірынтам катаванні Адама Левіна.

Падумайце, што гэта дрэнна? У рэальным свеце, навука прыдумаць нешта горш. Кампанія пад назвай Jobaline прапануе "галасавой прафіляванне", каб прадказаць поспех працу на аснове таго, як гук кандыдатаў; Яго алгарытм вызначае і аналізуе больш за тысячу вакальных характарыстык, з дапамогай якіх ён класіфікуе прэтэндэнтаў на прыдатнасць.

Гэта жудасна і дэгуманізацыі, як і ўсе іншыя нашы прафілявання (расавы выгляд заўсёды вялікі хіт!) Reliant на народжанага-в, поспехі-оф-генетыка-накрэсліць фактары, якія мы не можам ні пазбегнуць або кантролю. Па-за залежнасці ад настрою або намеры, згодна да NPR ў Aaarti Shehani, "Ваш голас мае схаваны, складаная архітэктура з уласным подпісам – гэтак жа, як адбіткі пальцаў ".

Гэта не толькі жудасныя сістэма алгарытм HR дэпартаментаў былі выкарыстаннем, каб дапамагчы кампаніі ніжняй радку. Такія кампаніі, як Wal-Mart і Credit Suisse былі храбусценне дадзеныя для прагназаваць якія супрацоўнікі "лётныя рызыкі", якія, хутчэй за ўсё, кінуць паліць (лёгка выправіць з дапамогай простага шчыкалатцы далучэнне работніка да яго ці яе касавага апарата ці кабінкі) супраць тых, хто лічыцца "ліпкія,"Сэнс у-It-для-далёкамагістральных. Інфармацыя дазваляе босы як палепшыць маральны стан або атрымаць добры старт на пошук замены.

Аўтары такіх праграм часта атрымліваць асалоду ад падлягае сумневу, амаральны плашч навуковай легітымнасьці. Калі гаворка ідзе пра галасавых прафіляванне, кампутары не судзіць самі акустычныя сістэмы; толькі рэакцыі галасы хто гаворыць правакуе ў іншых (меркавана чалавек) слухачоў. "Функцыі алгарытму ў якасці механічнага суддзі ў конкурсе голасам на аснове прыгажосці", напісаў Чамора-Premuzic і Адлер ў Harvard Business Review. "Пажаданыя галасы запрошаны на наступны раўнд, дзе яны судзяць людзей, у той час як непажаданыя галасы выключаюцца з конкурсу ".

Стваральнікі профільных праграм галасы рэкламуюць гэта як дасягненне маральнага. Чалавечыя істоты прыносяць грузы ухілаў ў любой ацэнкі; кампутары ў шчасным недасведчанасці пра адрозненні ў гонцы, падлогу, сэксуальныя перавагі або ўзросту. "Гэта прыгажосць матэматыкі!"Генеральны дырэктар Jobaline NPR Луіс Салазар паведаміў. "Гэта сляпы".

Праблема ў, пры ўжыванні ў капіталістычнай сістэме ўжо пакутуе ад несправядлівасці і нялюдскасці, гэта гучыць сапраўды слепата, вельмі небяспечна. Безаблічная кампутарная праграма атрымлівае першыя кажуць пра тое, хто атрымлівае, каб зарабіць грошы, каб купіць ежу, а хто не, заснаваныя на ўжыванні двайковага кода занадта тонкім і складаным для нас, каб зразумець,. Больш за тысячу фактараў, аналізавалі для кожнага вакальнага ўзору. Больш за тысячу адзінак або нулёў пстрыкнуў ў адпаведныя скрынкі пстрычкі. Хто правярае глюках? Хто ты жалішся, каб, калі вы думаеце, што вы атрымліваеце несумленная здзелка? Гэта толькі мяне ці робіць тэхналогіі, як гэта проста перадаць нашу схільнасць да прадузятасцяў на машынах, якія ў хуткім часе адваяваць планетарны кантроль ад нашай мяккай, заснаваныя на вугляродзе рук?

"Добры дзень, Я хацеў бы падаць заяўку на працу,"Чалавечая істота кажа, вымаўляючы як мага больш выразна ў тэлефонную трубку. "Мяне завуць-"

"дыскваліфікавалі,” says the cold, computerized voice on the other end of the line. “Too squeaky. Perhaps you should seek work in the silent film business.”

guardian.co.uk © Захавальнік Навіны & Media Limited 2010

Апублікавана з дапамогай Захавальнік Стужка навін Убудова для WordPress.

Артыкулы па Тэме