Algoritmos son como xuíces invisibles que deciden o noso destino

Algorithms are like invisible judges that decide our fates

 

Alimentado por Guardian.co.ukEste artigo titulado “Algoritmos son como xuíces invisibles que deciden o noso destino” foi escrito por Dave Bry, para theguardian.com luns 27 de abril 2015 09.00 Tempo Universal Coordinado (Universal Time Coordinated

Imaxina que é un rival nunha rolda audición de The Voice, onde correa para fóra o mellor "I Will Always Love You". Un minuto pasa. Ningunha reacción dos xuíces de famosos. Continúa cantando. Un minuto, aínda ningún sorriso alentador é aceno. Vostede esforzarse para bater o seu maior nota, articulado co seu funcionamento: "Por favor, por favor, acepte o meu! Eu estou facendo o meu mellor!"A canción termina. Ninguén quere vostede. A súa familia abaixar a cabeza de vergoña. A súa nai chora. Estar no escenario, só no centro de atención, inconsolável. Un alçapão ábrese baixo os seus pés e conduce gritando en labirinto tortura soto da casa de Adam Levine.

Creo que iso é malo? No mundo real, ciencia xurdiu algo peor. Unha empresa chamada Jobaline ofrece "profiling voz" para prever o éxito do traballo con base en como os candidatos son; seus identifica algoritmo e analiza máis de mil características vocais polo cal categoriza candidatos a emprego sobre a adecuación.

É horrible e inhumana, como tamén todas as outras profiling (o tipo racial é sempre un grande éxito!) Dependente nacido-in, factores que non podemos nin evitar ou controlar a sorte-of-the-xenética-deseñar. Independentemente do estado de ánimo ou intención, segundo a NPR Aaarti Shehani, "A súa voz ten un oculto, arquitectura complexa cunha sinatura intrínseca – así como unha impresión dixital ".

Esta non é a única departamentos sistema de algoritmo de RRHH asustado veñen empregando para axudar a liña de fondo empresa. Empresas como Wal-Mart e Credit Suisse foron esmaga datos para predicir que os empregados son "risco de voo" que están propensos a abandonar (facilmente remediado cunha tornozeleira simple de fixar o traballador ao seu rexistro de diñeiro ou cubículo) vs aqueles considerados "Sticky,"Significado en-it-for-the-long-Haul. A información permite aos patróns quere mellorar a moral ou obter unha vantaxe inicial nunha procura por un substituto.

Os inventores de tales programas xeralmente gozar da impeachable, manto amoral de lexitimidade científica. Cando se trata de expresar profiling, ordenadores non están xulgando os propios falantes; só as reaccións voz do locutor provoca o outro (presuntamente humano) oíntes. "As funcións algoritmo como un xuíz mecánica nun concurso de beleza a base de voz", escribiu Chamorro-Premuzic e Adler en The Harvard Business Review. "Voces desexables están invitados á seguinte rolda, onde son xulgados polos seres humanos, mentres voces desexadas son eliminados do concurso ".

Os fabricantes de programas de creación de perfil de voz tout isto como unha conquista moral. Os seres humanos traer carga de prexuízos en calquera avaliación; computadores son alegremente inconscientes de diferenzas de raza, sexo, preferencia sexual ou idade. "Esa é a beleza das matemáticas!"CEO Jobaline NPR Luis Salazar dixo. "El é cego."

O problema é, Cando aplicado nun sistema capitalista xa atormentado por inxustiza e inhumanidad, esta cegueira soa realmente, realmente perigoso. Un programa de ordenador impersoal primeiro dicir respecto de quen está a gañar cartos para mercar comida e quen non ten, con base nun petición dun código binario moi sutil e complexo para nós entendermos. Máis de mil factores, analizada para cada mostra vocal. Máis de mil queridos ou ceros premendo nas caixas Fai clic na icona correspondente. Quen verifica o fallo? Quen queixa-se se pensa que está a recibir un tratamento inxusto? É só min ou fai unha tecnoloxía como esta simplemente pasar a nosa propensión ao prexuízo para as máquinas que pronto tomar o control planetario da nosa suave, mans a base de carbono?

"Ola, Gustaríame concorrer a un emprego,"O ser humano di, enunciando tan claramente como sexa posible para o receptor do teléfono. "O meu nome é-"

"desclasificado,"Di o frío, voz computerizada na outra extrema da liña. "Too sibilante. Quizais ten que buscar traballo no negocio do cine mudo ".

guardian.co.uk © Guardian News & Media Limited 2010

Publicado por medio do Gardián News Feed Extensión para WordPress.

Artigos Relacionados