Cette initiative, dévoilée lors de la conférence de Munich sur la sécurité, vise à déployer des technologies pour détecter et contrer les contenus nuisibles générés par l'IA.

Les entreprises signataires se sont engagées à développer des outils permettant de repérer les contenus trompeurs créés par l'intelligence artificielle, afin de les identifier pour les utilisateurs et de les contrôler. Une proposition envisagée consiste à utiliser un "tatouage numérique" dans les vidéos générées par ces outils IA, invisible à l'œil nu mais détectable par une machine.

Nick Clegg, responsable chez Meta, souligne l'importance de l'implication de tous les acteurs, de la production des contenus aux plateformes de consommation. Cette mobilisation de 20 entreprises est perçue comme un pas significatif dans la lutte contre la manipulation électorale. Outre les entreprises mentionnées, des acteurs comme Adobe, LinkedIn, Amazon et IBM ont également signé cet engagement.

Brad Smith, vice-président de Microsoft, met en avant la responsabilité des entreprises pour éviter que leurs outils ne soient détournés à des fins malveillantes, notamment par des États disposant de ressources importantes. Les "deepfakes", produisant des contenus falsifiés, sont au cœur des préoccupations, en particulier à l'approche des élections de 2024 dans des pays tels que l'Union Européenne, les États-Unis, le Royaume-Uni, l'Inde et la Russie.

L'initiative a été saluée par la Commission Européenne, qui reconnaît le risque que représente cette technologie. Vera Jourova, vice-présidente de la Commission Européenne, en appelle aux partis politiques européens pour éviter l'utilisation de telles techniques, alors que plusieurs incidents impliquant des "deepfakes" ont récemment défrayé la chronique, notamment dans le cadre des élections primaires aux États-Unis et au Pakistan.