Τεχνορατσισμός ~ Εφαρμογή της Google πέρασε 2 μαύρους για...

Σε μεγάλο «φάουλ» υπέπεσε η Google όταν μια εφαρμογή της δεν αναγνώρισε ένα ζευγάρι μαύρων ως ανθρώπους, αλλά αντιθέτως ως γορίλες.

Συγκεκριμένα η διαδικτυακή εφαρμογή εικόνων της Google, το Google Photos, το οποίο δίνει τη δυνατότητα... αυτόματης προσθήκης ετικετών σε φωτογραφίες ήταν εκείνη που προκάλεσε θύελλα αντιδράσεων και ανάγκασε την εταιρεία να ζητήσει δημοσίως συγνώμη.


Το ζευγάρι των μαύρων είχε ανεβάσει διάφορες φωτογραφίες στο Google Photos και η εφαρμογή πρόσθεσε αυτόματα ετικέτες σε καθεμιά από αυτές με βάση το «θέμα» των εικόνων. Στη μια φωτογραφία, για παράδειγμα, η «λεζάντα» είναι «αεροπλάνα», στην άλλη «ποδήλατα», σε μια άλλη όπου οι άνθρωποι φορούν τις χαρακτηριστικές στολές αποφοίτησης η εφαρμογή αναγνωρίζει όντως ότι πρόκειται για «αποφοίτηση». Ωστόσο σε μια φωτογραφία, όπου τα πρόσωπα του ζευγαριού φαίνονται από πολύ κοντά, η ετικέτα που επέλεξε η εφαρμογή γράφει «γορίλες».

Οπως ήταν φυσικό, η εφαρμογή αλλά και η ίδια η Google δέχτηκαν σωρεία αρνητικών σχολίων και μηνυμάτων, όχι μόνο από το ίδιο το ζευγάρι αλλά και από άλλους χρήστες του Διαδικτύου. 

Ορισμένοι, μάλιστα, χαρακτήρισαν το περιστατικό ως την πρώτη εκδήλωση ρατσισμού από τεχνητή νοημοσύνη.

«Kακοήθεια»

Η Google προχώρησε αμέσως σε αναγνώριση του λάθους της και ζήτησε δημοσίως συγνώμη, λέγοντας πως το σφάλμα στην εφαρμογή είναι «κακοήθεια».
 
«Δεν είναι διόλου εντάξει αυτό, είναι 100% καθόλου εντάξει», απάντησε στον χρήστη που έστειλε μήνυμα διαμαρτυρίας το ανώτερο στέλεχος του ιντερνετικού κολοσσού Γιονάταν Ζούνγκερ, μόλις ενημερώθηκε για το συμβάν. «Ηταν ένα από τα σφάλματα που εύχεσαι να μην είχαν συμβεί ποτέ», πρόσθεσε ο ίδιος λέγοντας ότι η Google έχει ήδη λάβει μέτρα προκειμένου να διορθωθεί το πρόβλημα, ούτως ώστε να μη χρειαστεί να το αντιμετωπίσουν και άλλοι χρήστες. Ο Ζούνγκερ διαβεβαίωσε επίσης ότι η Google εργάζεται πάνω «σε διορθώσεις γύρω από την αναγνώριση εικόνων - να είναι δηλαδή σε θέση η εφαρμογή να αναγνωρίζει σκουρόχρωμα πρόσωπα».
 
Ο ίδιος ο Ζούνγκερ παραδέχτηκε ότι η αναγνώριση προσώπων και η κατηγοριοποίησή τους ήταν το μεγαλύτερο πρόβλημα που έπρεπε να λύσουν κατά τη διαδικασία δημιουργίας της εφαρμογής - και προφανώς δεν τα κατάφεραν. Μάλιστα αποκάλυψε ότι αρχικά η εφαρμογή αναγνώριζε όλους τους ανθρώπους, ανεξαρτήτως χρώματος, ως σκύλους εξαιτίας της αδυναμίας του να διαχωρίσει τον φωτισμό και την ιδιαιτερότητα του ανθρώπινου δέρματος.
 
Στην προσπάθεια της εταιρείας να διαχειριστεί αυτό το λεπτό ζήτημα όσο πιο γρήγορα και άμεσα γίνεται, αφαιρέθηκε εντελώς η ετικέτα «γορίλας», μέχρι τουλάχιστον να βρεθεί μια λύση. Γενικότερα οι χρήστες έχουν τη δυνατότητα να αφαιρέσουν ή να διορθώσουν τις ετικέτες που προστίθενται αυτόματα στις φωτογραφίες, κάτι που με την πάροδο του χρόνου «εκπαιδεύει» το πρόγραμμα ώστε σταδιακά να γίνεται πιο ακριβές.