Αυτό το Εxtension του Chrome σου Επιτρέπει να Αφαιρείς τα Τοξικά Σχόλια στο Ίντερνετ

Ως κάποιος που περνά πολλή ώρα αφήνοντας όλη τη γλίτσα του Ίντερνετ να τον πνίγει, η σκέψη ότι μπορώ να αφαιρέσω τα σχόλια και τις απαντήσεις με βάση την τοξικότητά τους φαντάζει δελεαστική.

Το Tune είναι ένα extension του Chrome που κάνει αυτό ακριβώς: χρησιμοποιώντας ένα διακόπτη μπορείς να «χαμηλώσεις την ένταση» σχολίων σε πλατφόρμες social media όπως Twitter, Reddit, Facebook και YouTube. Οι ρυθμίσεις του διακόπτη κυμαίνονται από «χαμηλά» μέχρι « πολύ δυνατά», ανάλογα με το πόσο έντονο θέλεις να είναι το φίλτρο περιεχομένου.

Το Tune δημιουργήθηκε από την Jigsaw, μια θερμοκοιτίδα τεχνολογίας που ήταν μέχρι πρότινος γνωστή ως Google Ideas αλλά είναι πλέον θυγατρική της Alphabet, Inc. Για τον περιορισμό των τοξικών σχολίων, το extension χρησιμοποιεί το Perspective, ένα Application Programming Interface (API, δηλαδή Διασύνδεση Προγραμματισμού Εφαρμογών - ένα ενδιάμεσο λογισμικό που επιτρέπει την επικοινωνία μεταξύ δύο εφαρμογών) που χρησιμοποιεί μοντέλα μηχανικής μάθησης για να ελέγχει τα κείμενα για τοξικότητα. Ενώ το Perspective το χρησιμοποιεί μεμονωμένα κάποιος για να κάνει moderation ή να γράφει σχόλια, το Tune είναι για μας τους υπόλοιπους, που απλώς παρακολουθούμε.

«Με το Tune μπορείς να μειώσεις την ένταση των τοξικών σχολίων σε "zen mode" για να αποφύγεις τελείως περιεχόμενο ή να το "δυναμώνεις" για να βλέπεις τα πάντα - ακόμη και τα πολύ άσχημα», έγραψε σε μια ανάρτηση blog για το extension o CJ Adams, product manager. «Ή μπορείς να το βάλεις κάπου στο ενδιάμεσο για να κάνεις ρυθμίσεις το επίπεδο τοξικότητας (επιθέσεις, προσβολές, χυδαία γλώσσας κλπ) που είσαι πρόθυμος να βλέπεις σε σχόλια».

Ο διαδικτυακός σχολιασμός είναι άθλιος λόγω του moderation του αλγόριθμου. Το βλέπουμε στο πώς ο αλγόριθμος του Facebook βγάζει ( ή δεν βγάζει) ιστορίες στο newsfeed και πώς το Tumblr βασίστηκε σε αλγόριθμο για να πιάσει τα NSFW blogs πέρσι με ανάμικτα αποτελέσματα.

Μπορεί ένας άλλος αλγόριθμος να πιάσει επαρκώς -και να ορίσει έξυπνα- τι είναι τοξικός λόγος και τι δεν είναι; Για να το μάθω, έβαλα το Tune στο «χαμηλό» και το δοκίμασα σε μερικά από τα πιο εκρηκτικά μέρη το Reddit.

To Tune είχε πολλά να κάνει στο r/Drama, ένα subreddit που αυτοπροσδιορίζεται ως «μια από τις πιο κακόβουλες, σκληρές, ψυχρές διαδικτυακές κοινότητες που θα βρεις». Το extension σχεδόν αφαίρεσε τελείως ένα thread για το Rotten Tomatoes που απέσυρε το στοιχείο βαθμολόγησης “want to see” πριν την κυκλοφορία όταν το Captain Marvel καταποντίστηκε από χρήστες που έκαναν αρνητικές κριτικές.

To Tune κατάφερε να κρύψει τα σχόλια. Έκρυβε όμως τα σωστά σχόλια, τα πραγματικά τοξικά; Όταν το ξανάβαλα στο «δυνατό», τα σχόλια που είχαν αφαιρεθεί ήταν ελαφρώς τοξικά για τα δεδομένα του subreddit, αλλά το φίλτρο του Tune δεν ενέκρινε τις βρισιές και τα συκοφαντικά, κυρίως, πράγματα που υπάρχουν σε αφθονία στο subreddit. Πολλά από τα σχόλια που μπλόκαρε το Tune δεν ήταν απαραίτητα τοξικά, απλώς περιείχαν βρισιές.

Εφόσον τα αποτελέσματα του Tune στο r/ Drama ήταν ανάμικτα, έπρεπε να το δοκιμάσω σε άλλο ένα subreddit. Έτσι μπήκα στο r/MensRights, «ένα μέρος για όσους θέλουν να συζητήσουν τα δικαιώματα των ανδρών και τους τρόπους που αυτά καταπατώνται». Πάλι το Τune λογόκρινε τα σχόλια με τις βρισιές σε ένα thread με τίτλο “Emma Watson's blatant feminist hypocrisy”, ακόμη κι όταν τα σχόλια καταδίκαζαν τον αμφιλεγόμενο τόνο του τίτλου του thread.

Οι περισσότεροι ενήλικες ξέρουν ότι οι βρισιές δεν είναι απαραίτητα ενδεικτικό τοξικότητας -η έντονη γλώσσας μεταδίδει έντονα συναισθήματα, θετικά ή αρνητικά- αλλά το φίλτρο του Tune δεν το αντιλαμβανόταν αυτό.

Έτσι, δοκίμασα το Tune σε ένα από τα πιο καθαρά subreddits, το r/DiWHY, που είναι αφιερωμένο σε ποσταρίσματα σχετικά με τα πιο τρελά αχρείαστα DIY hacks που μπορεί να κάνει κάποιος. Σε ένα thread για ένα άθλιο «hack πακεταρίσματος», το Tune κρύβει αρκετά σχόλια για λόγο που δεν μπόρεσα να διακρίνω. Δεν περιείχαν καν βρισιές. Ένα κρυμμένο σχόλιο έλεγε απλός «πιπέρι πιπέρι πιπέρι» - και φαντάζομαι πως τόσο πιπέρι είναι κυριολεκτικά τοξικό;

Στο Twitter feed μου τα αποτελέσματα του «ήσυχου» Tune ήταν αντίστοιχα παράξενα. Αποφάσισε ότι tweets που προωθούσαν βιβλία και μια εικόνα ενός αρχιτεκτονικού κτίσματος ήταν τοξικά και τα έκοψε.

Η εφαρμογή είναι ακόμα σε πειραματική φάση, κι έτσι είναι δύσκολο να κρίνει κανείς για το αν είναι χρήσιμη για τους καθημερινούς χρήστες του ίντερνετ. Ακόμη κι αν δούλευε τέλεια, δεν μπορώ να φανταστώ να κάνω τα στραβά μάτια σε τόσο μεγάλο όγκο σχολίων - ακόμα και σε κοινότητες που θεωρούνται τοξικές.

Αυτήν τη στιγμή, το Tune δείχνει ότι δεν μπορείς να εμπιστευτείς έναν αλγόριθμο να κάνει moderation στον λόγο. Αλλά έτσι δουλεύει το Ίντερνετ σε μεγάλο βαθμό. To moderation ενός αλγόριθμου μπορεί να είναι ιδιαίτερα επιζήμιο αν είσαι sex worker ή επιμορφωτής σε θέματα σεξ ή αν ανήκεις σε άλλες περιθωριοποιημένες ταυτότητες.

Το Twitter συχνά «κατεβάζει» τα σχόλια sex workers και κρύβει τους λογαριασμούς τους από την αναζήτηση, ακόμα κι αν ακολουθούν τους κανόνες του Twitter. Το Instagram συχνά καταργεί λογαριασμούς επειδή είναι πολύ «για ενηλίκους», μερικές φορές χωρίς εξήγηση και πάλι, ακόμη και όταν αυτοί οι λογαριασμοί ακολουθούν τους κανόνες ή είναι για εκπαιδευτικούς σκοπούς.

Το φίλτρο άσεμνου περιεχομένου του iOS 12 άφησε να ξεφύγει hate speech υποστηρικτών της "λευκής υπεροχής" και βίας, αλλά μπλόκαρε αποτελέσματα που είχαν να κάνουν με την εκπαίδευση γύρω από το σεξ. Η κίνηση του Tumblr να απαγορεύσει περιεχόμενο «για ενηλίκους» πέρσι που χρησιμοποίησε έναν αλγόριθμο για να εντοπίζει και να κρύβει NSFW αναρτήσεις, ήταν μια κωμικά προβληματική προσπάθεια που «καθάριζε» την πλατφόρμα από τα πάντα, από γυμνά γλυπτά μέχρι ωμό κοτόπουλο.

Το σύστημα του Twitter να κρύβει ευαίσθητο περιεχόμενο δεν διαφέρει τελείως από αυτό που κάνει το Tune. Μια λειτουργία «κρύψε τις απαντήσεις» ανακοινώθηκε στα τέλη Φεβρουαρίου και επιτρέπει στους χρήστες να κρύβουν περιεχόμενο που δεν θέλουν να βλέπουν αν ένα thread γίνει τοξικό ή αν η παρενόχληση αρχίσει να αποτελεί πρόβλημα. Το 2017, η πλατφόρμα άρχισε να συγκεντρώνει τα «λιγότερο σχετικά» στο κάτω μέρος των threads, με βάση παράγοντες όπως το περιεχόμενο του tweet και τον αριθμών followers του χρήστη.

Η λογοκρισία μεγάλου μέρους διαφόρων φωνών είναι μερικές φορές απαραίτητα, για παράδειγμα, όταν δέχεσαι παρενόχληση ή είσαι στόχος τρολαρίσματος. Αλλά είναι επικίνδυνο να εμπιστευτείς έναν αλγόριθμο να «χαμηλώσει την ένταση» μαζικά - ακόμη κι αν το αντίθετο σημαίνει ότι θα βλέπεις και τα «άσχημα σχόλια».

Το άρθρο δημοσιεύτηκε αρχικά στο Motherboard US.

Περισσότερα από το VICE

«Χειρότερο Κακό Δεν θα Κάνει»- Η Νίκαια Περιμένει το Μετρό

Oύτε ο Μπασίστας των Μadrugada Δεν Ξέρει Γιατί Έχουν Τόση Επιτυχία στην Ελλάδα

Mewing: Η Oρθοδοντική Tεχνική που Σαρώνει στο YouTube