Google a appris à des intelligences artificielles à parler entre elles en code... Et personne ne sait comment ça marche

Google Brain team est un programme de Google de deep learning, qui travaille sur l'intelligence artificelle, AI. Une des expériences qu'ils ont menée a permis d'apprendre à deux intelligences artificielles (AI) à communiquer l'une avec l'autre, d'une manière codée. De cette façon, une troisième AI, qui a appris à craquer le code et à écouter, ne peut plus comprendre ce que les deux premières se disent.

Google Brain est un programme du géant de la Silicon Valley qui est spécialisé dans les techniques de Deep learning (les ordinateurs qui peuvent s'auto-enseigner de nouvelles choses), afin de développer l'intelligence artificielle (AI). C'est donc un vaste assemblage d'ordinateurs (16.000 en 2012) qui essaient, ensemble, de se stimuler en copiant certaines fonctionnalités du cerveau humain. En 2012, cette intelligence artificielle était par exemple parvenue à reconnaître un chat parmi 10 millions d'images sur YouTube.

Mais maintenant Google Brain débarque avec une nouvelle expérience: laisser deux AI coder et communiquer entre elles, sans qu'une autre ne puisse décoder ce qu'elles se disent. L'équipe travaille donc avec trois AI: Alice, Bob et Eve. L'idée, c'est que Alice dise un petit secret à Bob et que Eve écoute et, surtout, parvienne à le craquer.

L'expérience a marché: Alice est arrivée à envoyer un message qui a pu être décodé par Bob. Ils ont donc développé à eux deux une manière de communiquer qui met une troisième personne hors jeu. La seule avance avec laquelle Bob et Alice sont partis, c'était une clé secrète, commune, pour le code.

On n'avait dit à aucune des trois AI comment elles devaient encrypter un message, ou comment elles pouvaient le recevoir secrètement, ni même ce qu'elles pouvaient utiliser comme technique d'encryptage. La seule chose qu'elles avaient reçue, c'est une "fonction d'oubli": un signal négatif, si leur message était reçu et décrypté par Eve.

Tout à fait possible de laisser des ordinateurs discuter en secret

Au final, l'équipe de Google Brain les a laissé essayer pas mal de fois. Et certaines fois, ça a tout à fait raté: Bob n'a jamais compris le message d'Alice. Mais, la plupart des cas, Alice et Bob sont parvenus à communiquer sans faire trop de fautes. Et parfois Eve est parvenue à craquer leur code, jusqu'à ce que Bob et Alice deviennent meilleurs à (dé)coder.

D'après les chercheurs Martín Abadi et David G. Andersen, c'est donc tout à fait possible que deux intelligences artificielles parlent entre elles sans que d'autres puissent savoir ce qu'elles se disent... Si elles reçoivent à l'avance la consigne de communiquer en secret.

L'intelligence artificielle est un des domaines dans lequel la science et Silicon Valley investissent à une allure phénoménale. Les développements vont donc ultra-vite. À une telle vitesse que Elon Musk et Stephen Hawking, entre autres, ont prévenu des dangers que cela pouvait représenter pour les hommes.

Lisez aussi