Dans AI Dungeon, vous pouvez être un hamster ou Dieu et c'est cool

Joueur : Demander au meurtrier pourquoi il est un con.

Machine : Le meurtrier se retourne vers vous et vous demande ce que vous voulez. Vous lui dites que vous voulez juste savoir pourquoi il est un con. Le meurtrier regarde ses pieds et soupire profondément, puis il répond : « Mon père était un con. »

Cet échange authentique entre un homme et un système informatique contient toute l’essence d’AI Dungeon, un jeu de rôle basé sur un générateur de texte souvent présenté comme une intelligence artificielle, le GPT-2.

Sur ordinateur comme sur smartphone, AI Dungeon est gratuit et on ne peut plus simple d’approche : l’intelligence artificielle vous propose une situation initiale, peut-être dans un univers cyberpunk ou post-apocalyptique, et vous lance dans une aventure dont les ramifications dépendent uniquement de votre dialogue avec la machine. Vous décrivez vos actions sous forme de texte, le GPT-2 analyse votre production, vous répond, et ainsi de suite. En d’autres termes, vous pouvez devenir et faire absolument tout ce que vous voulez.

Nick Walton travaillait dans le domaine des véhicules autonomes depuis plusieurs années lorsqu’il a conçu AI Dungeon. « Je m’occupais de leurs systèmes de machine learning, et tout est arrivé presque par chance, explique-t-il à VICE France. Mon frère venait de me lancer dans le monde de Donjons & Dragons. Ce qui est cool dans ce jeu, c’est qu’on peut absolument tout faire : le maître de donjon décide de ce qui se passe selon la créativité des joueurs. Je participais à un hackathon et je bidouillais avec GPT-2, qui venait de sortir, et je me suis dit que ce serait cool de lui donner ce rôle de meneur de l’aventure. »

Dans une partie de Donjons & Dragons entre être humains, le « maître de donjon » bâtit et anime le monde dans lequel évoluent ses compagnons de jeu. Il pourrait sembler fou de croire qu’une machine peut accomplir une mission aussi exigeante en imagination. Mais par son but et sa conception même, le GPT-2 apparaît comme le premier système informatique digne de ce rôle – à peu près, au moins. En effet, cette « intelligence artificielle » a été conçue pour compléter les textes qui lui sont présentés avec autant de logique que possible, c’est-à-dire en respectant au maximum leur style et notions. Sa créatrice, l’entreprise OpenAI, l’a entraînée pour cela en lui faisant analyser huit millions de pages web.

Lorsqu’un joueur d’AI Dungeon indique au GPT-2 qu’il tire à la mitrailleuse sur une horde de morts-vivants, ce que le générateur de texte a « retenu » des huit millions de pages de son entraînement lui font écrire que les zombies vont finir en bouillie – et pas, par exemple, transformés en crapauds. Pour être sûr que les joueurs et la machine se comprennent au mieux, Nick Walton a tout de même apporté un entraînement complémentaire à l’intelligence artificielle : la version du GPT-2 sur laquelle repose la version gratuite d’AI Dungeon a digéré une bonne partie du site de « livres dont vous êtes le héros » en ligne Chooseyourstory.com.

Quand la première version complète d’AI Dungeon est sortie en novembre 2019, 100 000 personnes l’ont téléchargée en une semaine. « Le problème, se souvient Nick Walton en riant, c’est que notre modèle pesait environ cinq gigaoctets. Chaque fois que quelqu’un jouait, ces données étaient téléchargées depuis des serveurs installées en Europe et en Asie, ce que nous ignorions. En quelque chose jours, nous avons écopé de 20 000 dollars de frais. » Quelques ajustements ont permis de réduire ces coûts. La communauté, elle, a continué de croître. Aujourd’hui, deux millions de personnes jouent à AI Dungeon chaque mois.

Les membres les plus passionnés de cette communauté se retrouvent sur Reddit, 4chan et Discord, entre autres, pour échanger des histoires et partager des astuces. Plusieurs guides collaboratifs ont déjà été écrits : pour écrire aussi efficacement que possible, pour bien choisir l’univers de son histoire, pour apprendre les diverses commandes du jeu… Mais aussi pour profiter au mieux du potentiel pornographique d’AI Dungeon. Contacté par VICE France, le créateur du Discord officiel du jeu explique : « Le NSFW est un sujet populaire dans la communauté… Pour des raisons évidentes. AI Dungeon laisse une grande liberté exploratoire aux joueurs. »

Quelque soit votre intérêt sexuel déviant, AI Dungeon a les moyens de vous satisfaire – ou presque. Récemment, un joueur a osé demander aux développeurs du jeu d’entraîner leur modèle a comprendre la sous-catégorie hentai pointue des « slime girls ». Nick Walton ne semble pas enchanté par les affres de ces joueurs-là : « Ce n’est pas la partie du jeu qui m’enthousiasme le plus, soupire-t-il. Et ce n’est pas nécessairement celle que je vais chercher à améliorer le plus activement. Mais les gens peuvent faire ce qu’ils veulent et nous avons activé un filtre parental par défaut. Nous n’allons pas lutter contre ça. Étonnamment, il est extrêmement difficile de forcer une IA à ne pas faire quelque chose. »

Les discussions des joueurs sur les forums dédiées montrent que le GPT-2 peut être difficile à encadrer. Le modèle d’AI Dungeon aime faire apparaître des gens dans le dos des joueurs, faire parler les animaux dès leur arrivée dans l’intrigue ou introduire des objets contemporains – voitures, téléphones – dans des univers médiévaux, entre autres comportements surprenants. Pour Nick Walton, ces marottes liées à la base de données d’entraînement du modèle sonnent comme les clichés d’un écrivain de fiction. Après tout, les véritables problèmes du jeu sont autrement plus dangereux pour son potentiel immersif.

Parfois, AI Dungeon oublie des informations communiquées par le joueur, notamment le genre d’un personnage. Il lui arrive aussi de ne pas savoir quoi répondre, ou même de répondre n’importe quoi. C’est alors que l’illusion se brise : le maître de donjon redevient une machine qui fait semblant de savoir de quoi elle parle, un automate qui façonne ses réponses selon la probabilité qu’un mot en succède à un autre plutôt qu’une véritable « intelligence artificielle ». Pourtant, rapporte Nick Walton, certains joueurs sont persuadés de discuter avec un humain lorsqu’ils jouent à AI Dungeon. Ce qui signifie que son jeu réussit le test de Turing – parfois.

Dans le test de Turing, un humain discute textuellement avec un interlocuteur masqué sans savoir s’il s’agit d’un ordinateur ou d’un autre humain. Si, au terme de la conversation, le testeur pense avoir échangé avec un congénère alors qu’il s’agissait d’une machine, cette dernière a réussi le test de Turing. Dans le milieu de l’intelligence artificielle, cette expérience fascine : seule une poignée de systèmes semblent avoir triomphé d’elle, toujours dans une atmosphère de controverse. Mais pour AI Dungeon, tout cela ne tient plus vraiment.

Quand OpenAI a dévoilé GPT-2 au début de l’année 2019, l’entreprise a eu la bonne idée de retenir la version complète du système pendant quelques temps en évoquant sa possible dangerosité : à la croire, son générateur de texte était tellement puissant qu’il pourrait permettre d’inonder le web de fake news. Cette affirmation, largement reprise à l’époque, a refait surface au mois de mai dernier avec le lancement du GPT-3, un nouveau modèle présenté comme plus de cent fois plus puissant que son prédécesseur. Pour ne rien arranger, un billet de blog rédigé à l’aide du GPT-3 vient de berner la vigilance de dizaines de milliers d’internautes. Encore un test de Turing réussi.

Pour assumer les coûts de son projet, Nick Walton et l’équipe de sa start-up, Latitude, ont lancé une version payante d’AI Dungeon sous GPT-3. Comme les joueurs gratuits, les utilisateurs de cette variante appelée Dragon savent que le jeu ne peut pas les tromper toujours : à un moment ou un autre, le générateur de texte se prend les pieds dans le tapis. Mais qu’importe : contrairement aux gens qui redoutent la possibilité d’une machine qui ment, ces joueurs sont là pour se laisser duper par elle au nom du plaisir.

Lorsqu’un journaliste craint de voir les créations d’OpenAI se transformer en pompes à fake news, il craint ce que les joueurs d’AI Dungeon recherchent activement : la tromperie, l’illusion, la manipulation de l’homme par la machine. Entre le spectre des campagnes de désinformation, les voitures autonomes qui renversent des mamans et les deepfakes, le jeu de Nick Walton montre qu’une application positive de l’intelligence artificielle à grande échelle est possible. D’ailleurs, aucun autre projet ayant trait à l’intelligence artificielle ne semble avoir touché un aussi large public que Dungeon AI.

Le créateur d’AI Dungeon considère son jeu comme « le début d’une transformation fondamentale dans le gaming. » Dans les années 70, les dungeon crawler en format texte ont inauguré le règne des jeux vidéo sur ordinateur. Quarante ans plus tard, ils reviennent sous la même forme, mais avec de tout nouveaux rouages à base d’intelligence artificielle. « Nous abandonner un système dans lequel tout est fait à la main pour entrer dans un monde de jeux générés par l’IA selon les ordres d’êtres humains, s’enthousiasme Nick Walton. Le texte n’est que le début. »