Denne artikel er oprindeligt udgivet af MUNCHIES USA
De sidste par måneder har forskere opnået nogle temmelig underholdende og bemærkelsesværdige resultater i deres arbejde med neurale forbindelser. De har blandt andet formået at få en robot til at genkende mad på billeder, (selvom det stadig er for avanceret for maskinen at genkende en Big Mac), samt at navngive specialøl. Men mens ét computersystem var klar til at skåle i en øl, den netop havde døbt "Heart Compost", var en anden i gang med at lære at skrive overraskende gode anmeldelser til Yelp.
Ben Zhao og et hold forskere fra University of Chicago har skrevet en afhandling, der forklarer, hvordan de har brugt eksisterende restaurantanmeldelser til at lære en sprogindlæringsmodel ved navn Recurrent Neural Network (RNN), hvordan den kan skrive sine egne anmeldelser, og bagefter vise hvor mange mennesker, der ikke kunne adskille de falske anmeldelser fra de ægte.
Det mest overraskende - eller forudsigelige - var, at den kunstige intelligens genererede sætninger "gav læserne den samme grad af 'usefulness'" som dem, der var skrevet af levende mennesker.
Se: Ex Machina: En undersøgelse af vores frygt for kunstig intelligens
De lærte RNN-sprogmodellen at skrive ved hjælp af en datasamling på over fire millioner Yelp-anmeldelser skrevet af en million forskellige anmeldere, som dækkede 144.000 restauranter i 11 byer og fire lande.
Da først deres RNN var blevet fodret, og robotterne var klar til at skrive deres egne anmeldelser, blev deltagere i forsøget bedt om at vurdere om hver enkelt anmeldelse var ægte eller falsk, samt om at rangere, hvor brugbar anmeldelsen var på en skala fra 1 til 5. De fandt ud af, at det i praksis ikke var muligt at adskille RNN-anmeldelserne fra de autentiske, og i gennemsnit blev de vurderet til at have en brugbarhed på 3,15 - hvilket er tæt på den gennemsnitlige brugbarhed for de ægte anmeldelser, som var 3,28.
Før du himler med øjnene, så overvej, om du ville have klaret det. Ville du have regnet ud, at den her anmeldelse er falsk:
"Jeg var her til brunch i weekenden og maden var okay. Jeg elsker den pizza, der er en kæde. Jeg synes deres betjening er fremragende. Jeg fik spaghetti, og de var gode og hotdoggen var god. Jeg fik red velvet-kage, som var virkelig god, men betjeningen var lidt langsom. Maden var god, men ikke lige så god som steder i nærheden."
Eller hvad med den her?
"Det her er et fantastisk sted! Bartenderne er helt fantastiske. Pastaen er lækker, og jeg elsker deres wienerbrød, og den er fantastisk. Jeg elsker morgenmaden, venlige ansatte og prisen er meget rimelig. Jeg har aldrig haft en dårlig oplevelse her. Jeg kommer helt sikkert igen!"
Sandheden er, at teksterne er mere sammenhængende end kommentarfeltet på de fleste hjemmesider, og syntaksen er langt mere kompleks end for eksempel den amerikanske præsidents Twitter. Det mener Zhao er et problem.
"Vi lægger ud med online-anmeldelser. Kan du stole på, hvad en eller anden har sagt om en restaurant eller et produkt?" siger Zhao til Business Insider. "Det kan udvikle sig til noget langt større, hvor hele artikler på en blog måske er fuldkommen autonomt genereret af en robot ud fra et tema, og så bliver man virkelig nødt til at overveje, hvor informationen kommer fra, og hvordan man kan verificere den. Det tror jeg bliver en meget stor udfordring for os alle sammen i de næste år."
Nejnej, det er da slet ikke skræmmende.
"Vi anerkender, at den her undersøgelse kaster lys over de store udfordringer, som Yelp og andre anmeldersider har i forhold til at beskytte integriteten af vores indhold, efterhånden som teknikkerne til at påvirke systemet bliver ved med at udvikle sig og blive mere sofistikerede," siger talsmand for Yelp, Rachel Youngblade, til MUNCHIES. "I over et årti har Yelp haft systemer på plads, der skal beskytte vores indhold, men de her resultater er netop en af grundene til, at vi bliver ved med at forbedre de systemer, så vi ikke kun opfanger falske anmeldelser, men også ensidigt eller ubrugeligt indhold. Vi opfordrer forfatterne til at forstætte deres forskning indenfor dette vigtige emne, så forbrugerne fortsat kan stole på sidernes indhold."
I mellemtiden kan jeg forsikre dig om, at denne artikel er skrevet af et vaskeægte menneske, som konstant sidder og kigger sig over skulderen for at holde øje med, om den næste RNN står og venter på at overtage hendes plads.