Apple présente Personal Voice, une nouvelle fonctionnalité qui inquiète à l’heure des IA génératives et deep fakes

Apple a présenté plusieurs fonctionnalités qui seront disponibles sur votre iPhone et iPad dans le courant de l’année. L’une de ces fonctionnalités – Personal Voice – aura la capacité de reproduire votre voix en 15 minutes. Une manière de rendre les conversations plus accessibles pour les utilisateurs en situation de handicap. Mais à l’heure de l’IA générative et des deep fakes, cela inquiète.

Dans l’actu : Apple présente une série de fonctionnalités.

  • On y retrouve Personal Voice et Live Speech. En résumé, les utilisateurs pourront écrire un message qui sera lu à voix haute lors d’appels téléphoniques ou de conversations sur FaceTime. Nous pourrons également faire lire à haute voix des expressions couramment utilisées et pré-enregistrées, par exemple lors de conversations en groupe.
  • L’intention est noble : redonner la voix à ceux qui l’ont perdue au fil du temps. Les utilisateurs pourront créer leur voix personnelle en lisant un ensemble de textes aléatoire en 15 minutes sur iPhone ou iPad, et la garder en mémoire.

Les inquiétudes : ces voix personnelles pourraient-elles être détournées ?

  • Bien sûr, Apple promet que les voix personnelles seront totalement privées et sécurisées. Mais à l’heure de l’IA générative et des deep fakes, il est légitime de s’interroger : c’est une question de temps avant que l’on puisse facilement reproduire votre image et votre voix.
  • L’enjeu est considérable alors que les fausses informations se multiplient sur internet. Vous êtes sans doute déjà tombés sur un discours politique trompeur. Des logiciels sont déjà capables de reproduire le visage et la voix de personnalités.
  • Il est désormais même question d’arnaques : des escrocs lancent des appels téléphoniques avec des voix qui vous sont familières pour tenter de vous extorquer.
  • D’autres géants de la technologie ont déjà expérimenté l’utilisation de l’IA pour recréer une voix. Amazon a annoncé l’année dernière qu’elle planchait sur cette nouvelle fonctionnalité pour l’intégrer à son assistant Alexa, qui permettrait, en principe, de reproduire n’importe quel voix, par exemple celle d’un proche décédé.
Plus
Lire plus...