Αλγόριθμοι είναι σαν αόρατο δικαστές που αποφασίζουν την τύχη μας

Algorithms are like invisible judges that decide our fates


Powered by Guardian.co.ukΑυτό το άρθρο με τίτλο “Αλγόριθμοι είναι σαν αόρατο δικαστές που αποφασίζουν την τύχη μας” γράφτηκε από τον Dave Bry, για theguardian.com στις Δευτέρα 27 Απρίλιος 2015 09.00 UTC

Φανταστείτε ότι είστε ένας αγωνιζόμενος σε ένα γύρο οντισιόν του The Voice, όπου μπορείτε ζώνη έξω το καλύτερό σας "θα σας αγαπήσω πάντα". Ένα λεπτό περνάει. Καμία αντίδραση από τους δικαστές προσωπικοτήτων. Κρατάτε το τραγούδι. Ένα άλλο λεπτό, εξακολουθεί να μην υπάρχει ενθαρρυντικό χαμόγελο ή νεύμα. Μπορείτε στέλεχος να χτυπήσει υψηλότερη σημείωσή σας, υπόμνημα με την απόδοσή σας: "Σας παρακαλούμε, παρακαλώ δεχθείτε μου! Κάνω το καλύτερό μου!"Το τραγούδι τελειώνει. Κανείς δεν σας θέλει. Η οικογένειά σας σκύβουν το κεφάλι τους στην ντροπή. Η μαμά σου φωνάζει. Μπορείτε να σταθεί στη σκηνή, μόνος του στο προσκήνιο, λυπημένος κατάκαρδα. Μια καταπακτή ανοίγει κάτω από τα πόδια σας και σύρετε ουρλιάζοντας σε υπόγειο βασανιστήρια λαβύρινθο Adam Levine της.

Νομίζω ότι είναι κακό? Στον πραγματικό κόσμο, η επιστήμη έχει καταλήξει σε κάτι χειρότερο. Μια εταιρεία με την επωνυμία Jobaline προσφέρει «φωνή προφίλ" για να προβλέψει την επιτυχία θέσεων εργασίας με βάση το πώς ακούγονται οι υποψήφιοι; αλγόριθμος εντοπίζει και αναλύει πάνω από χίλια φωνητικά χαρακτηριστικά με τα οποία κατηγοριοποιεί τους αιτούντες εργασία σχετικά με την επάρκεια.

Είναι φρικτή και απάνθρωπη, όπως και όλα τα άλλα προφίλ μας (το φυλετικό είδος είναι πάντα ένα μεγάλο χτύπημα!) Εξαρτώνται από την γεννήθηκαν στο, τύχη-of-the-γενετικό-συντάξει παράγοντες που δεν μπορούμε ούτε να αποφύγετε ή τον έλεγχο. Ανεξάρτητα από τη διάθεση ή πρόθεση, σύμφωνα με να του NPR Aaarti Shehani, "Η φωνή σας έχει ένα κρυφό, περίπλοκη αρχιτεκτονική με μια εγγενή υπογραφή – μοιάζει πολύ με ένα δακτυλικό αποτύπωμα ".

Αυτό δεν είναι τα μόνο ανατριχιαστικό τμήματα ανθρώπινου δυναμικού συστήματος αλγόριθμο έχουν απασχολούν για να βοηθήσει την κατώτατη γραμμή της εταιρείας. Companies like Wal-Mart and Credit Suisse have been crunching data to predict which employees are “flight risks” who are likely to quit (easily remedied with a simple anklet attaching the worker to his or her cash register or cubicle) vs those deemed “sticky,” meaning in-it-for-the-long-haul. The information lets bosses either improve morale or get a head-start on a search for a replacement.

The inventors of such programs often enjoy the impeachable, amoral cloak of scientific legitimacy. When it comes to voice profiling, computers are not judging the speakers themselves; only the reactions the speaker’s voice provokes in other (presumably human) listeners. “The algorithm functions as a mechanical judge in a voice-based beauty contest”, wrote Chamorro-Premuzic and Adler in The Harvard Business Review. “Desirable voices are invited to the next round, where they are judged by humans, while undesirable voices are eliminated from the contest”.

The makers of voice profiling programs tout this as a moral achievement. Human beings bring loads of biases into any evaluation; computers are blissfully unaware of differences in race, gender, sexual preference or age. “That’s the beauty of math!” Jobaline CEO Luis Salazar told NPR. “It’s blind.”

The problem is, when applied in a capitalist system already plagued by unfairness and inhumanity, this blindness sounds really, really dangerous. An impersonal computer program gets first say as to who gets to earn money to buy food and who doesn’t, based on an application of a binary code too subtle and complex for us to understand. Over a thousand factors, analyzed for every vocal sample. Over a thousand ones or zeros clicked in the corresponding click boxes. Who checks for the glitch? Who do you complain to if you think you’re getting a raw deal? Is it just me or does technology like this simply pass our penchant for prejudice on to the machines who will soon wrest planetary control from our soft, carbon-based hands?

“Hello, I’d like to apply for a job,” the human being says, enunciating as clearly as possible into the phone receiver. “My name is—”

“Disqualified,” says the cold, computerized voice on the other end of the line. “Too squeaky. Perhaps you should seek work in the silent film business.”

guardian.co.uk © Guardian Ειδήσεις & Media Limited 2010

Δημοσιεύθηκε μέσω του Guardian News Feed plugin για WordPress.