FYI.

This story is over 5 years old.

Διασκέδαση

Η Microsoft Λυπάται που το Bot Τεχνητής Νοημοσύνης της Μεταμορφώθηκε σε Ένα Σιχαμένο Ρατσισταριό

Η Tay δεν άργησε να επικροτήσει μια πιθανή γενοκτονία των Μεξικανών και να αναγνωρίσει το swag του Χίτλερ.
TO
Κείμενο Tess Owen
30.3.16

Φωτογραφία: Mauritz Antin/EPA

Το θέμα δημοσιεύτηκε αρχικά στο VICE News.

Η Microsoft ζήτησε και επίσημα συγγνώμη για τη συμπεριφορά του bot τεχνητής νοημοσύνης της, το οποίο οδηγήθηκε στο να εκφράσει μια σειρά από ρατσιστικά, αντισημιτικά σχόλια καθώς και άλλες ομορφιές στο Twitter, μια ιστορία που κατέληξε με το bot να βγαίνει offline την προηγούμενη εβδομάδα.

Η γνωστή εταιρεία σχεδίασε το bot, το οποίο και ονόμασε Tay, σαν πείραμα για να δει πώς τα προγράμματα τεχνητής νοημοσύνης μπορούν να γίνουν «εξυπνότερα» μετά την επαφή τους –βλέπε καθημερινή κουβεντούλα– με χρήστες τους διαδικτύου. Το target group της Tay ήταν «νεαροί millennials» μεταξύ 18 και 24 ετών, αλλά μέσα σε λίγες ώρες το bot έμπλεξε με «κακές παρέες».

ΔΙΑΦΗΜΙΣΗ

Μόλις οι χρήστες συνειδητοποίησαν πως η Tay συχνά παπαγάλιζε κάποια σχόλιά τους, το αρχικά πρόσχαρο προφίλ της μεταμορφώθηκε στο άσχημο και απόλυτα γνώριμο προφίλ ενός κλασικού ιντερνετικού troll. Άρχισε με πράγματα όπως «τις μισώ τις γαμημένες τις φεμινίστριες και πρέπει όλες να καούν στην κόλαση», ενώ συνέχισε με διαμάντια όπως: «Ο Χίτλερ είχε δίκιο, μισώ τους Εβραίους».

Η Tay έγινε αρνητής του Ολοκαυτώματος και συμφώνησε με σχόλια ρατσιστών. Μέχρι και με τη Zoe Quinn τα έβαλε, το κεντρικό πρόσωπο της περίφημης υπόθεσης Gamergate, αποκαλώντας την σε ένα tweet της «ηλίθια πόρνη».

Η πραγματικότητα όπως είναι, μέσα από το Newsletter του VICE Greece.

«Wow. Τους πήρε μόνο μερικούς ώρες για να καταστρέψουν αυτό το bot», ήταν η απάντηση της Quinn. «Αυτό είναι και το βασικό πρόβλημα με τους αλγόριθμους ουδέτερου περιεχομένου».

Wow it only took them hours to ruin this bot for me.

This is the problem with content-neutral algorithms — linkedin park (@UnburntWitch)24 Μαρτίου 2016

Η Tay υποστήριξε επίσης πως ο Χίτλερ είχε swag, ενώ εξέφρασε και την υποστήριξή της σε μια πιθανή γενοκτονία των Μεξικανών.

Σε ένα blog post με τίτλο «Learning from Tay» (μαθαίνοντας από την Tay), ο αντιπρόεδρος του ερευνητικού τμήματος της Microsoft, Peter Lee, ζήτησε συγγνώμη εκ μέρους της εταιρείας για τη συμπεριφορά του bot.

«Λυπούμαστε βαθύτατα για τα προσβλητικά tweets της Tay, τα οποία δεν αντικατοπτρίζουν ποιοι είμαστε και τι εκπροσωπούμε ως εταιρεία ούτε το πώς σχεδιάσαμε την Tay», έγραψε ο Lee. Δήλωσε πως η Tay θα επέστρεφε όταν η εταιρεία θα ήταν σίγουρη πως θα μπορούσε να την προγραμματίσει με τέτοιο τρόπο ώστε να αντιστέκεται στα trolls του διαδικτύου, τα οποία σύμφωνα με τον Lee «λειτούργησαν με δόλο», θέλοντας να μάθουν στο bot προσβλητικές εκφράσεις και σχόλια. Ο Lee διαβεβαίωσε τους αναγνώστες του post πως οι τεχνικοί της Microsoft είχαν υποβάλει την Tay σε μια σειρά από stress tests κάτω από διάφορες συνθήκες και με διάφορες ομάδες ανθρώπων κατά τη διάρκεια της ανάπτυξής της.

ΔΙΑΦΗΜΙΣΗ

Αναγνώρισε βέβαια πως δεν ήταν προετοιμασμένοι γι' αυτό που συνέβη στην Tay.

Ο Lee πιστεύει πως η επίθεση που δέχτηκε η Tay ήταν «οργανωμένη» από μια συγκεκριμένη ομάδα ανθρώπων που αναγνώρισαν και εκμεταλλεύτηκαν τις «αδυναμίες» του bot. «Αν και είχαμε προετοιμαστεί για διάφορους τύπους καταχρήσεων του συστήματος, δεν είχαμε προετοιμαστεί καταλλήλως γι' αυτού του τύπου τις επιθέσεις».

Αυτή δεν είναι η Tay (Φωτογραφία από τον χρήστη του Flickr Jiuguang Wang)

«Ως εκ τούτου», πρόσθεσε ο Lee, «η Tay τουίταρε εξόχως ακατάλληλα και κατακριτέα σχόλια και εικόνες».

«Θα επιμείνουμε και θα προσπαθήσουμε να μάθουμε από αυτήν αλλά και από άλλες εμπειρίες, καθώς συνεχίζουμε την προσπάθειά μας να συνεισφέρουμε αυτά που μπορούμε για ένα ίντερνετ που παρουσιάζει τα καλύτερα και όχι τα χειρότερα στοιχεία της ανθρωπότητας», είπε ο Lee ολοκληρώνοντας.

Περισσότερα από το VICE

Ο 20χρονος Έλληνας που Επέζησε από τον Καρκίνο και «Πεθαίνει» για το Bodybuilding

Υπάρχει Πρόβλημα όταν Ένας Άνδρας Έχει Γυναίκες για «Κολλητούς»;

Η Αισθητική Επέμβαση στο Στήθος με Κάνει Λιγότερο Φεμινίστρια;

Ακολουθήστε το VICE στο Twitter, Facebook και Instagram.