FYI.

This story is over 5 years old.

Motherboard

Het anti-pestalgoritme van Google verwart correcte taal met fatsoen

De beleefdheidscultuur op internet is nadelig voor ons allemaal.

Nu de politiek in Europa en Amerika steeds meer verdeeld is geworden, pleiten opinieschrijvers en politici allemaal om meer 'beleefdheid' in onze debatten, ook online. Temidden van deze oproep kwam Google met een nieuwe tool, Jigsaw. Met behulp van machine learning kijkt Jigsaw naar de "giftigheid" van een bepaalde zin of uitdrukking. Maar de tool wordt nu bekritiseerd door onderzoekers omdat het algoritme niet in staat blijkt haatdragende opmerkingen te identificeren, terwijl onschadelijke opmerkingen als kwetsend worden gecategoriseerd.

Advertentie

Het project, Perspective, is een API die getraind is door mensen die online opmerkingen moesten indelen op een schaal van "heel kwetsend" tot "heel aardig". Kwetsend stond daarbij voor een "onbeleefde, respectloze, of onredelijke opmerking die je ertoe aanzet om een discussie te verlaten." Het maakt onderdeel uit van een groeiende poging om de digitale bezem door online gesprekken te halen: een goede weerspiegeling van de beleefdheidscultuur, die in Silicon Valley, de Verenigde Staten en Europa steeds grotere vormen aan begint te nemen.

Lees verder op Motherboard.