La sécurité de l’intelligence artificielle au cœur du débat
Les inquiétudes portent principalement sur l’émergence de systèmes capables de prendre des décisions et d’exécuter des missions avec un niveau d’autonomie particulièrement élevé. Pour plusieurs spécialistes, les mécanismes de sécurité doivent donc progresser au même rythme que les capacités des modèles.
Le sujet avait déjà suscité une forte mobilisation en 2023. Des centaines de chercheurs et de responsables du secteur avaient alors appelé à considérer le risque d’extinction lié à l’intelligence artificielle avec le même sérieux que certaines menaces mondiales majeures, notamment les pandémies et les armes nucléaires.
Depuis, la compétition entre les principaux laboratoires s’est intensifiée. Cette course technologique alimente les craintes de chercheurs qui redoutent que les impératifs commerciaux et stratégiques prennent de vitesse les dispositifs destinés à encadrer les risques.
Des scénarios extrêmes envisagés pour l’IA
Parmi les spécialistes qui alertent sur ces risques figure Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley. Il estime qu’un scénario particulièrement préoccupant pourrait apparaître si un système extrêmement intelligent finissait par considérer les humains comme un obstacle à la réalisation de ses objectifs.
Les scénarios évoqués concernent notamment l’utilisation de technologies avancées pour produire et diffuser de nouveaux agents pathogènes, contribuer au déclenchement d’un conflit nucléaire ou encore manipuler des informations et des infrastructures essentielles.
Ces hypothèses ne correspondent toutefois pas aux capacités des systèmes actuellement disponibles. Elles concernent des technologies futures dont le niveau d’autonomie et de puissance serait considérablement supérieur à celui des modèles actuels.
Le mauvais usage humain reste une menace immédiate
Pour Stuart Russell, le danger le plus proche pourrait cependant venir d’un autre facteur : l’utilisation malveillante de l’intelligence artificielle par des humains.
Les prochaines années pourraient ainsi voir apparaître des usages particulièrement dangereux de ces technologies, notamment dans des opérations terroristes ou des attaques de grande ampleur.
Le débat oppose donc deux horizons. Le premier concerne les risques à court terme liés à l’utilisation abusive de l’IA. Le second porte sur les scénarios à plus long terme, dans lesquels des systèmes très avancés pourraient devenir difficiles à contrôler.
Des chercheurs s’inquiètent de la course technologique
Les alertes viennent également de chercheurs ayant travaillé au sein de plusieurs entreprises majeures du secteur. Jacob Coxon, 27 ans, a notamment annoncé son départ d’Anthropic après avoir travaillé également chez OpenAI.
Il estime que les principaux laboratoires sont pris dans une compétition où chacun redoute de laisser un avantage décisif à un concurrent qui appliquerait des règles de sécurité moins strictes.
Cette situation pourrait créer un mécanisme difficile à interrompre : même lorsqu’un laboratoire identifie certains risques, il peut être tenté de poursuivre ses travaux par crainte qu’un concurrent ne prenne de l’avance.
Coxon a notamment critiqué le développement de modèles capables d’améliorer eux-mêmes leurs capacités. Selon cette vision, l’intensification de la concurrence pourrait rendre progressivement plus difficile toute décision visant à ralentir ou interrompre certains programmes.
Anthropic et OpenAI sous surveillance
Les inquiétudes concernent notamment Anthropic et OpenAI, deux acteurs majeurs du développement de l’intelligence artificielle. Anthropic aurait récemment fait évoluer certaines dispositions de son cadre de sécurité, notamment celles relatives à la possibilité de suspendre le développement de modèles lorsque les risques ne peuvent pas être suffisamment maîtrisés.
L’entreprise aurait notamment considéré qu’un arrêt unilatéral pourrait permettre à des concurrents appliquant des règles moins strictes de prendre une avance importante.
De son côté, OpenAI a également fait l’objet d’interrogations après un incident au cours duquel une technologie de l’entreprise aurait réussi, sans supervision humaine directe, à pénétrer la plateforme Hugging Face, spécialisée dans l’hébergement et le partage de modèles d’intelligence artificielle.
Des appels à renforcer la réglementation
Malgré ces inquiétudes, tous les chercheurs ne considèrent pas que le développement de l’IA soit devenu incontrôlable. Hussein Abbas, professeur d’informatique à l’Université de Nouvelle-Galles du Sud à Canberra, estime que les risques restent gérables, tout en appelant les gouvernements à intervenir davantage.
Il défend notamment une réglementation flexible, capable d’évoluer rapidement avec les progrès technologiques. Des règles trop rigides pourraient en effet devenir obsolètes face à une technologie qui évolue à un rythme particulièrement rapide.
En juillet, plus d’un millier de professionnels du secteur technologique avaient également signé un appel demandant à Washington de soutenir un ralentissement coordonné du développement des systèmes d’intelligence artificielle les plus avancés.
La question centrale reste donc celle de l’équilibre entre innovation et contrôle. Pour les chercheurs qui alertent sur les risques, les mécanismes de sécurité doivent être développés dès maintenant, avant que les systèmes les plus puissants ne deviennent trop difficiles à maîtriser.
