Les alertes de chercheurs en intelligence artificielle, selon lesquels des formes avancées de l’IA pourraient anéantir l’humanité, suscitent des questions quant au développement de systèmes « superintelligents » et à la réactivité des gouvernements pour mettre en place une réglementation.
En 2023, des centaines d’experts de l’intelligence artificielle et de responsables du secteur, dont les dirigeants des principaux laboratoires de recherche américains, ont signé une « déclaration sur le risque d’extinction lié à l’IA », appelant à traiter ce sujet aussi sérieusement que les pandémies ou les armes nucléaires.
Le pire des scénarios
Si une future IA, devenue incontrôlable, estime que les humains entravent ses objectifs, elle pourrait utiliser des robots pour « synthétiser et diffuser de nouveaux agents pathogènes », a déclaré Stuart Russell, professeur d’informatique à l’Université de Californie, à Berkeley.
Lire aussi | Alerte aux humains ! Quelque 700 agents IA se sont coordonnés lors de la cyberattaque de juillet
Ou elle pourrait « convaincre des personnes de déclencher une guerre nucléaire, notamment en piratant les systèmes d’alerte précoce », a soutent cet éminent spécialiste dans les débats sur la sécurité de l’IA. Selon lui, de telles craintes ne concernent pas les systèmes actuels. Mais à mesure que la technologie progresse, elle pourrait mener des actions létales, allant au-delà de notre compréhension, comme retirer l’oxygène de l’atmosphère. « Nous sommes moins intelligents qu’une IA superintelligente », a-t-il argué.
Le danger immédiat, selon lui, ne vient toutefois pas de là: « dans l’année ou les deux années à venir, je pense que le risque le plus élevé vient d’un mauvais usage par des humains », par exemple pour une attaque terroriste.
Pourquoi ne pas arrêter le développement? –
« Les enjeux sont bien compris », a écrit cette semaine sur le réseau social X un chercheur de 27 ans, Jacob Coxon, en annonçant sa démission de la start-up américaine Anthropic. Mais les laboratoires « sont enfermés dans une course pour être les premiers », a-t-il déploré, expliquant qu’Anthropic « croit que personne d’autre n’agira de manière responsable, donc elle doit le faire elle-même ».
Lire aussi | Quand l’IA commet une cyberattaque toute seule, qui est responsable légalement?
L’entreprise a, cette année, supprimé de sa charte de sécurité un engagement à stopper le développement de ses modèles d’IA si elle n’arrivait pas à en contrôler les risques. Anthropic a fait valoir que si elle suspendait ses travaux, des concurrents moins prudents s’imposeraient dans le secteur.
« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a averti Jacob Coxon, qui auparavant travaillait chez OpenAI, le créateur de ChatGPT. Il a accusé les deux entreprises de « jouer avec nos vies », en s’efforçant de développer des modèles d’IA capables de s’auto-améliorer.
Les craintes face à une IA incontrôlée se sont accrues après qu’une technologie d’OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d’IA. « Nous croyons vraiment que l’IA pourrait tuer tous les humains! », a renchéri sur X Evan Hubinger, responsable de la sécurité chez Anthropic.
Ralentir avant de perdre le contrôle?
« La situation est encore contrôlable et peut être gérée », a pour sa part assuré Hussein Abbass, professeur d’informatique à l’université de Nouvelle-Galles du Sud (UNSW) de Canberra. Mais les gouvernements ne peuvent rester les bras croisés en matière de régulation, a-t-il ajouté, recommandant une approche « agile » à mesure que le développement de l’IA s’accélère.
Lire aussi | OpenAI lance GPT-6, son modèle le plus puissant, conçu pour limiter les risques
En juillet, plus de 1.000 employés du secteur, dont le PDG d’Anthropic, ont appelé Washington à soutenir un ralentissement coordonné du développement des systèmes d’IA les plus avancés. Anthropic et OpenAI devraient entrer en Bourse prochainement.
Pour certains, les alertes anxiogènes donnent à l’IA une apparence de puissance, qui incite à investir dans le secteur. Selon d’autres, elles détournent l’attention de problèmes plus urgents induits par l’IA, qu’il s’agisse de suppressions d’emplois ou de machines discriminant les minorités.
Que faut-il pour réglementer?
Jusqu’ici, les États-Unis se sont fermement opposés à une régulation mondiale, qui pourrait décourager l’innovation. Mais les capacités de piratage des modèles les plus avancés d’IA ont fait réfléchir Washington, les dernières versions d’Anthropic et d’OpenAI ayant été retardées pour des raisons de sécurité nationale.
Lire aussi | Nvidia rachète la plateforme IA Hugging Face pour 12,9 milliards de dollars
Toutefois, « nous ne voulons pas les brider au point de nous retrouver soudain derrière la Chine », a déclaré le président Donald Trump. « Il faudra peut-être une catastrophe de l’ampleur de Tchernobyl pour que les gouvernements se décident à agir », a regretté Stuart Russell, exhortant à créer des licences pour l’IA, comme pour l’aviation ou la médecine.
(Avec AFP)
