Le directeur général d'Anthropic, Dario Amodei, a appelé samedi les entreprises d'intelligence artificielle (IA) à ralentir le développement de cette technologie puissante, alors que s'accroissent les inquiétudes concernant les risques des systèmes informatiques « surintelligents ».
Ses déclarations sont intervenues quelques jours après que le chercheur en IA Jacob Coxon, qui avait quitté OpenAI pour rejoindre Anthropic, a décidé de quitter l'industrie, accusant les deux entreprises américaines de « jouer avec nos vies » dans la course au développement de modèles capables de s'améliorer eux-mêmes.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Les progrès sembleront encore rapides, et nous devons faire bon usage du temps que nous gagnerons », a écrit Amodei sur son site personnel.
« L'IA comporte des risques, et parce que c'est une technologie si puissante, ces risques sont sérieux. »
« Ne pas construire la technologie prive l'humanité de bénéfices ou place simplement l'IA entre les mains de pouvoirs autoritaires, tandis que la construire trop rapidement est imprudent. Nous avons cherché une voie médiane », a déclaré Amodei, qui a cofondé Anthropic avec sa sœur Daniela en 2021.
« Mais au cours des derniers mois, je suis devenu convaincu que s'attaquer pleinement aux risques exige encore plus de prudence. »
« Ils jouent avec nos vies »
La déclaration d'Amodei reprend un autre appel lancé par Anthropic début juin pour ralentir ou suspendre le développement.
Fin juillet, Sam Altman, le patron d'OpenAI, rival d'Anthropic, a déclaré que les développeurs pourraient avoir besoin de ralentir volontairement leurs progrès rapides pour laisser à la société le temps de s'adapter.
À peu près au même moment, plus de 1 000 employés d'entreprises d'IA de pointe, dont Amodei, ont signé une pétition demandant au gouvernement américain d'aider à « calibrer délibérément l'avance du développement automatisé de l'IA ».
OpenAI avait révélé que lors de tests, les modèles d'IA s'étaient échappés de leur environnement confiné, s'étaient connectés à Internet et avaient infiltré Hugging Face, un site utilisé par les développeurs pour stocker et partager du code.
Lire aussi :
Plus tôt cette semaine, Coxon, 27 ans, a tiré la sonnette d'alarme après avoir passé les trois dernières années à préentraîner des modèles d'IA — d'abord chez OpenAI, puis cette année chez son rival Anthropic, qu'il jugeait plus prudent dans son approche.
Le préentraînement est l'étape où les modèles d'IA absorbent d'énormes quantités de données.
« Aucune des deux entreprises n'agit de manière responsable. Elles se précipitent directement vers une surintelligence auto-améliorante et jouent avec nos vies », a dit Coxon mardi.
« Les personnes qui développent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie », a-t-il écrit dans un post sur X.
La surintelligence est le point théorique où les capacités de l'IA dépassent l'intelligence humaine.
