Facebook stoppe ses robots qui avaient inventé leur propre langue

03 Août, 2017, 18:36 | Auteur: Ludovic Moineau
  • Facebook débranche l'IA qui avait inventé son propre langage

Facebook a désactivé deux intelligences artificielles qui discutaient entre elles dans un langage compris d'elles seules.

Selon un rapport de Digital Journal, les chercheurs du Facebook Artificial Intelligence Research (FAIR), le laboratoire dédié à l'intelligence artificielle du groupe, ont dû débrancher une IA qu'ils ont mise au point à cause d'un fait inattendu: celle-ci a inventé un nouveau langage, son propre dialecte. Ce titre racoleur du site TechTimes a été repris par de nombreux tabloïds, lundi, surfant sur la bataille récente entre Elon Musk et Mark Zuckerberg sur les risques posés par l'intelligence artificielle.

En effet, les deux I.A ont utilisé un anglais incorrect au lieu de s'exprimer d'une manière classique et n'ont pas non plus donné de chiffres dans le cadre de l'échange afin de se diviser des objets. "C'est assez semblable aux communautés d'humains qui créent des raccourcis via la sténographie", expliquait le chercheur Dhruv Batra au site FastCoDesign. Avant de démarrer leur conversation, les robots sont informés de la valeur de ce que représente chaque objet pour eux.

I can can I I everything else.

Bob: i i can i i i everything else.

Bob: you i i i everything else. Comme les humains, les machines étaient programmées à négocier en vue de l'issue qui leur était la plus favorable, du point de vue de leur intérêt personnel, mais contrairement à beaucoup d'êtres humains, "le robot de cette expérience négocie jusqu'à ce qu'il parvienne à un résultat satisfaisant", de façon incroyablement intelligente. Néanmoins ici, il semble n'y avoir aucune règle au niveau des discours bien que les chatbots insistent sur leur nom dans ce processus de négociation. Les agents dérivent donc du langage compréhensible pour s'inventer des noms de code. Par exemple si je dis cinq fois "le", vous l'interprétez en comprenant que j'en veux cinq exemplaires.

L'intelligence artificielle fascine autant qu'elle inspire la crainte et les personnes pensant qu'il s'agit d'une technologie non sans danger y trouveront là une preuve supplémentaire confortant leur opinion. Ont-ils tort? L'avenir nous le dira, reste que si l'I.A nous est vendue comme un moyen d'aider l'humain au quotidien, s'inquiéter quelque peu et ne pas accepter cette technologie les yeux fermés est gage de prudence.

Recommande: