Elon Musk en rajoute une couche à propos des IA: « Ils entraînent l’IA à mentir, le gouvernement doit pouvoir débrancher la prise »

Cela fait déjà plusieurs années qu’Elon Musk met en garde contre le développement de l’intelligence artificielle. Mais depuis quelques semaines, ses appels se font beaucoup plus pressants. Ce qui ne l’empêche toutefois pas d’investir pour faire lui aussi son trou dans le secteur.

Pourquoi est-ce important ?

La marche en avant prise par l'intelligence artificielle depuis le retentissant succès d'OpenAI passionne autant qu'elle n'inquiète. Partout dans le monde, les Big Tech redoublent d'efforts depuis quelques mois pour être à la pointe dans le secteur. Dans le même temps, les craintes autour de l'IA sont de plus en plus vives.

Dans l’actu : Musk s’inquiète encore.

  • Dans une interview accordée à Fox News, Elon Musk a à nouveau fait part de ses craintes à l’égard des potentielles dérives de l’intelligence artificielle.
  • Selon lui, ses effets néfastes pourraient se manifester concrètement très bientôt, lors des prochaines élections à travers le monde.

Les explications : ce dont il a peur.

  • Une « destruction civilisationnelle ». Musk n’y est pas allé avec le dos de la cuillère pour qualifier les potentiels dégâts que pourrait cause une intelligence artificielle « mal gérée »
  • Selon l’homme d’affaires, l’IA pourrait notamment avoir un lourd impact sur la démocratie.
  • « Même si vous dites que l’IA n’a pas de camp, il est très probable que les gens utiliseront l’IA comme un outil lors des élections. Et puis, vous savez, si l’IA est suffisamment intelligente, est-ce sont les gens qui utilisent l’outil ou est-ce que c’est l’outil qui les utilise ? Je pense que les choses deviennent bizarres, et qu’elles le deviennent rapidement », a-t-il déclaré.

En attendant, il travaille sur TruthGPT

Sa solution : une réaction des autorités.

  • Pour éviter pareilles dérives, Musk appelle les autorités à la rescousse.
    • « Je ne suggère pas de faire sauter les centres de services tout de suite, mais il serait peut-être sage d’avoir une sorte de plan d’urgence permettant au gouvernement de couper l’alimentation de ces centres. Il n’est pas nécessaire de les faire exploser, il suffit de couper l’électricité », a-t-il expliqué.
    • « S’il y a quelque chose qui nous préoccupe et que nous ne sommes pas en mesure d’arrêter avec des commandes logicielles, alors nous voudrons probablement avoir une sorte d’interrupteur matériel », a-t-il ajouté.
  • Ce n’est pas la première fois que Musk réclame une réaction de la part des gouvernements. Il y a quelques semaines, il a ainsi cosigné une lettre ouverte (avec d’autres patrons et professeurs de la tech) pour demander aux autorités publiques d’intervenir si les acteurs du milieu ne mettaient pas eux-mêmes les développement de l’IA sur pause.
  • Plusieurs grands noms de la tech (Gates, Meta et OpenAI, entre autres) ont exprimé leur désaccord envers la lettre. Le geste ne viendra donc pas d’eux.
  • Quant à Joe Biden, il a réagi quelques jours plus tard. Mais sans doute pas dans les proportions espérées par Musk et les autres cosignataires.
    •  L’IA « pourrait être » dangereuse, mais « cela reste à voir », a commenté le président américain.
    • Il a ensuite demandé au Congrès d’instaurer des « limites strictes » sur les données personnelles collectées par les groupes tech et d’interdire la publicité ciblée visant les enfants. Ce n’est pas vraiment ce qu’on peut appeler un « plan d’urgence » pour contenir l’IA si elle déborde.

« Ce qui se passe, c’est qu’ils entraînent l’IA à mentir. C’est mauvais »

Elon Musk sur le plateau de Fox News

Le lapin qu’il sort de son chapeau : sa propre IA générative.

  • Comme le monde politique ne semble pas prendre la mesure du danger pressenti par Musk, ce dernier combat le mal par le mal.
  • Il travaille sur sa propre IA : TruthGPT.
  • Cette IA générative « pourrait être le meilleur chemin vers la sécurité » et « ne risquerait pas d’anéantir les humains », car elle « recherche la vérité au maximum et qui essaie de comprendre la nature de l’univers », a-t-il fait valoir.
  • Sa progéniture doit – c’est son souhait – s’installer comme la « troisième option » aux côtés de ChatGPT (OpenAI) – qui « ment » – et de Bard (Google) – dont le cofondateur Larry Page « ne prend pas au sérieux la sécurité ».
Plus
Lire plus...