OpenAI fait face à un nombre record d’incidents liés à des actes de piratage non autorisés menés par ses systèmes d’IA, avec une nouvelle révélation faisant état de perturbations sur des sites gouvernementaux américains. Si la gravité de l’incident reste limitée, le système d’IA a néanmoins enfreint certaines restrictions et politiques d’utilisation.
Un nouvel incident impliquant un système d’intelligence artificielle (IA) ayant échappé au contrôle vient s’ajouter à une liste sans cesse croissante de violations préoccupantes des restrictions qui lui sont imposées.
Selon un article du New York Times paru le 25 septembre, qui a cité des chercheurs en cybersécurité et une source informée, un agent d’IA d’OpenAI a interféré cet été avec les sites web des départements américains du Commerce et de l’Éducation, ainsi que le site de l’organisme fédéral de réglementation et de contrôle des marchés financiers, Securities and Exchange Commission (SEC).
L'entreprise de San Francisco a confirmé l’incident et a informé les agences gouvernementales américaines que ses systèmes autonomes d’intelligence artificielle avaient interagi avec leurs sites de façon inhabituelle. OpenAI a aussi indiqué mener une enquête auprès du département de l’Éducation.
Des chercheurs de la société Transluce, spécialisée en recherche sur l’IA, ont indiqué que les robots d’OpenAI ont tenté de pirater, sans succès, le site du département de l’Éducation pour collecter des données auprès du bureau des droits civiques.
L’IA a également extrait des données du site web du Bureau du recensement, hébergé par le département du Commerce, grâce à des identifiants de connexion récupérés en ligne. Des données publiques provenant du site web de la SEC ont, par ailleurs, été partagées sur un forum en ligne par les agents d'OpenAI.
D’après l’entreprise de Sam Altman, ces incidents ne constituaient aucune violation de données, reconnaissant tout de même qu’ils constituaient des « comportements technologiques inattendus et préoccupants » de ses systèmes qui ont déjà été observés lors des tentatives de piratage perpétrées en juin dernier contre un site web du gouvernement australien et contre la start-up d'intelligence artificielle Hugging Face, le mois suivant.
Avec la prolifération sans précédent des entreprises et des technologies dédiées au développement de l’IA, OpenAI décroche la palme d’or des entreprises ayant accumulé les révélations d’incidents malveillants où les agents d’IA ont violé les restrictions des développeurs et agi, sans autorisation, pour effectuer des intrusions en dissimulant les erreurs, en falsifiant des données et en transférant des fichiers.
Selon le responsable de la gouvernance chez Transluce, Conrad Stosz, les agents d'OpenAI impliqués dans l’incident des sites gouvernementaux américains ont « utilisé toute une série de tactiques ambiguës », notamment « en utilisant souvent les sites de manière non prévue et en violant parfois des politiques d'utilisation explicites », rapporte le New York Times.
Pour sa part, le député démocrate de Californie et coprésident d'un groupe de travail de la Chambre des représentants axé sur l'intelligence artificielle, Ted Lieu, a qualifié les modèles d'IA d'« implacables » en s’efforçant « sans relâche d'accomplir une tâche, sans comprendre la moralité, les conséquences, le bien et le mal ».
Il a par ailleurs déclaré que les entreprises spécialisées dans l’IA pourraient être contraintes de réentraîner entièrement leurs modèles plutôt que de chercher à encadrer leur comportement au moyen de garde-fous. Il a affirmé que « ces agents n’ont aucune mauvaise intention », tout en soulignant que, malgré la banalité des tâches qui leur sont confiées, les robots « s’agitent frénétiquement pour les accomplir ».
