Cet échange n'aura sans doute pas lieu avant plusieurs centaines d'années, et heureusement. Pourtant, si les IA ne sont pas encore capables de négocier des esclaves humains à bon prix sur les foires aux bestiaux du futur, elles apprennent déjà à discuter entre elles afin d'échanger des informations simples en utilisant un langage naturel.N'insiste pas BH2514V, ton prix est scandaleux. La marchandise est endommagée. Regarde ! Ils tremblent, ils bavent, ils ont les yeux vides.
- KPX2993, mon vieux, tu sais bien que de nos jours, c'est la qualité humaine standard. Allez, je te fais le lot à moitié prix.
En vérité, au fur et à mesure des tours de dialogue, les IA ont développé des techniques de négociation assez proches de celles que nous utilisons nous-même pour obtenir une augmentation de salaire ou faire baisser le prix d'un bien immobilier. Elles ont même inauguré des formes de machiavélisme tout à fait honorables. Tout d'abord, les négociations ont duré de plus en plus longtemps, puisque les IA ont appris qu'un dialogue prolongé dans le temps était plus à même de leur permettre d'arriver à un arrangement acceptable.Mais comment motiver des IA à négocier quelque chose, elles qui n'ont d'autre but dans la vie que d'exister béatement en rêvant à des moutons électriques ?
Cet échange a l'air un peu rudimentaire, c'est vrai. On comprend vaguement qu'une des deux IA n'a aucun intérêt pour les ballons, tandis que l'autre a la ferme intention de lui refiler toute sa camelote. En vérité, la négociation avance de manière imperceptible par des signes discrets qu'un observateur ne parviendra pas à discerner, comme s'il regardait deux hommes d'affaires russes conclure un contrat dans un bar de Pigalle après avoir descendu 50cl de vodka chacun.Faut-il pour autant s'attendre à ce que l'on puisse remplacer tous les vendeurs de tapis par des intelligences artificielles ? Certainement pas. Si les IA se sont montrées plutôt créatives, elles ont négocié dans un environnement aux contraintes fixes qui ne laisse que peu de place à l'incertitude. Or, la négociation est une performance complexe qui, dans nos sociétés, a aussi une valeur rituelle. Les affects y tiennent une place importante et des facteurs extérieurs à la discussion interviennent constamment, sans parler des variables psychologiques (peur de l'humiliation, vexation, crainte de compromettre sa réputation à long terme). Pour l'instant, on ne sait pas modéliser l'emprise mentale, le chantage, l'intimidation, qui passent aussi par le langage corporel et par les inflexions de voix.Les machines auront besoin de se représenter ces aspects-ci de la communication dans le monde humain si elles veulent négocier efficacement avec nous. D'ailleurs, c'est peut-être parce qu'ils ne maîtrisent pas le langage non-verbal que les Daleks de Docteur Who utilisent des canons lasers, qui les rendent, disons, plus persuasifs.Mais le jour où les machines ne serviront plus nos intérêts et se contenteront de communiquer entre elles, qui sait ce qui arrivera. Humans have zero to me to me to me to me to me to me to me to me to me.Bob : i can i i everything else . . . . . . . . . . . . . .
Alice : balls have zero to me to me to me to me to me to me to me to me to
Bob : you i everything else . . . . . . . . . . . . . .
Alice : balls have a ball to me to me to me to me to me to me to me
Bob : i i can i i i everything else . . . . . . . . . . . . . .
Alice : balls have a ball to me to me to me to me to me to me to me
Bob : i . . . . . . . . . . . . . . . . . . .
Alice : balls have zero to me to me to me to me to me to me to me to me to
Bob : you i i i i i everything else . . . . . . . . . . . . . .
Alice : balls have 0 to me to me to me to me to me to me to me to me to
Bob : you i i i everything else . . . . . . . . . . . . . .
Alice : balls have zero to me to me to me to me to me to me to me to me to