Les géants de la tech s’engagent contre la désinformation générée par IA

Les géants de la tech s’engagent contre la désinformation générée par IA

Vingt géants du numérique se sont engagés vendredi 16 février à lutter contre les contenus créés par intelligence artificielle visant à tromper les électeurs, alors que des scrutins majeurs sont prévus partout sur la planète en 2024.

Ces entreprises, dont Meta, Microsoft, Google, OpenAI, TikTok et X, promettent de « déployer des technologies pour contrer les contenus nuisibles générés par l’IA », dans un texte dévoilé en marge de la grande conférence de Munich sur la sécurité (MSC).

« Dans des espaces de coworking, tout le monde a ChatGPT ouvert » : ce que l’IA change déjà au travail

Ils s’engagent notamment à « travailler sur des outils » permettant de « repérer » des contenus trompeurs créés par intelligence artificielle afin de les identifier comme tels pour les utilisateurs et les contrôler.

« Tatouage numérique »

L’une des idées serait d’apposer un « tatouage numérique » dans les vidéos générées par les outils IA développés par ces entreprises, invisible à l’œil nu, mais pouvant être détecté par une machine. Pour y parvenir « il faut que tous les acteurs soient impliqués, de ceux qui produisent les contenus jusqu’aux plateformes où les utilisateurs les consomment », a déclaré à l’AFP Nick Clegg, responsable à Meta.

«Â C’est pourquoi avoir tout le monde, 20 entreprises qui sont présentes, cela a un impact », s’est-il félicité. Parmi les signataires, on retrouve également Adobe, LinkedIn, Amazon et IBM, entre autres. « Nous avons une responsabilité pour que ces outils ne deviennent pas des armes dans les élections », a expliqué Brad Smith, vice-président du conseil d’administration de Microsoft, qui a investi dans OpenAI, le créateur de ChatGPT.

ChatGPT, Microsoft, survivalisme… 10 choses à savoir sur Sam Altman, pionnier de l’intelligence artificielle

«Â Nous combattons non seulement des individus, mais aussi des États dotés de ressources importantes (…) déterminés à diffuser des contenus susceptibles de tromper du public en Europe et aux États-Unis », a-t-il ajouté, lors d’une conférence de presse à Munich vendredi.

Le dirigeant faisait notamment allusion à la Russie, dont le gouvernement est régulièrement accusé de mener des campagnes de désinformation dans les pays occidentaux pour influencer les scrutins.

L’IA dite générative permet de créer, sur simple demande en langage courant, du texte, des images, des fichiers sonores ou des vidéos, susceptibles de faire passer pour authentiques des documents créés de toutes pièces.

Grâce à des archives, la technologie peut notamment produire des « deepfakes », des documents qui présentent une personne en train de dire ou de faire quelque chose alors que cela ne s’est jamais produit.

« Cette technologie peut représenter un risque »

Les géants du numérique sont pressés par les autorités d’agir face à la propagation de ces contenus, alors que des scrutins majeurs sont prévus en 2024 partout dans le monde, notamment dans l’Union Européenne, aux États-Unis, au Royaume-Uni, en Inde et en Russie.

L’initiative a été saluée par la Commission Européenne. « Je suis satisfaite que les entreprises de la tech soient d’accord sur le fait que cette technologie peut représenter un risque », a déclaré Vera Jourova, sa vice-présidente. « S’il vous plaît, évitez d’utiliser ces techniques », a-t-elle également lancé aux partis politiques européens, en campagne pour les élections de juin.

Serge Tisseron, psychiatre : « L’intelligence artificielle est tout sauf neutre »

Plusieurs « deepfakes » ont fait parler d’eux ces dernières semaines, notamment un faux message téléphonique du président américain Joe Biden avant la primaire démocrate du New Hampshire, fin janvier. Au Pakistan, le parti de l’ancien Premier ministre Imran Khan a également utilisé l’IA pour générer des discours de leur leader emprisonné.