L’intelligence artificielle pourrait-elle, un jour, provoquer l’extinction de l’humanité ? La question n’est plus réservée aux forums de science-fiction. Elle s’invite désormais au cœur même des laboratoires qui développent ces technologies. Un ancien chercheur d’Anthropic, l’un des acteurs les plus influents du secteur, a choisi de démissionner pour dénoncer publiquement ce qu’il considère comme une menace existentielle réelle. Et le plus troublant dans cette histoire, c’est que des voix internes au géant lui donnent raison.
Quand un chercheur quitte son poste pour alerter le monde
Partir d’une entreprise en pleine ascension, bien payée, au cœur de la révolution technologique de notre époque : ce n’est pas une décision anodine. Pourtant, c’est exactement ce qu’a fait ce chercheur d’Anthropic, startup américaine spécialisée dans l’IA dite « sûre » et créatrice du chatbot Claude. Sa démission s’accompagne d’une mise en garde lourde de sens : il affirme que lui et ses anciens collègues croient « réellement et très sérieusement » que l’IA pourrait être responsable de la mort de l’ensemble de l’espèce humaine.
Ce genre de déclaration aurait pu être balayé comme la énième prophétie catastrophiste d’un idéaliste en rupture. Mais ce qui change tout, cette fois, c’est le soutien inattendu venu de l’intérieur. Un responsable de la sécurité chez Anthropic lui a en effet emboîté le pas, validant publiquement cette vision alarmiste. Quand des gens qui travaillent à la conception même de ces systèmes expriment des craintes à ce niveau, difficile d’ignorer le signal.
Anthropic, le paradoxe du laboratoire « responsable »
Fondée en 2021 par d’anciens membres d’OpenAI, dont Dario et Daniela Amodei, Anthropic s’est toujours présentée comme un acteur de l’IA « alignée sur les valeurs humaines ». L’entreprise a bâti toute sa communication sur une approche prudente, soucieuse des risques. Elle a même développé des méthodes de recherche spécifiques pour tenter de mieux contrôler le comportement de ses modèles.
C’est précisément ce qui rend cette affaire si dérangeante. Ce n’est pas un concurrent jaloux ou un commentateur extérieur qui sonne l’alarme : ce sont des personnes qui travaillaient de l’intérieur, qui connaissent les entrailles du système, et qui ont quand même décidé que la situation justifiait une prise de parole publique fracassante. La démission devient alors un acte politique autant que professionnel.
Cette tension n’est pas propre à Anthropic. Les dérives observées autour du contrôle humain des systèmes d’IA alimentent depuis plusieurs mois un débat de fond sur la capacité réelle des entreprises à maîtriser ce qu’elles créent.
Le risque existentiel : fantasme ou scénario sérieux ?
Parmi les chercheurs en IA, la question du risque dit « existentiel » divise profondément. D’un côté, des figures comme Geoffrey Hinton, pionnier du deep learning et prix Nobel, ont eux aussi exprimé des inquiétudes sincères sur la trajectoire actuelle du développement de l’IA. De l’autre, nombre d’experts estiment que ces scénarios catastrophistes détournent l’attention de problèmes bien réels et immédiats : biais algorithmiques, désinformation, automatisation massive des emplois, concentration du pouvoir technologique dans quelques mains.
Pourtant, le fait que des ingénieurs de haut niveau, formés aux mathématiques et à la modélisation, expriment des craintes aussi radicales mérite qu’on s’y arrête. Ils ne parlent pas de science-fiction. Ils parlent de trajectoires probabilistes, de systèmes dont les objectifs pourraient, à terme, diverger dangereusement de ceux de leurs concepteurs. C’est ce qu’on appelle le problème d' »alignement » : s’assurer qu’une IA de plus en plus puissante agit dans l’intérêt de l’humanité, et non contre elle.
Les enjeux sont tels que la prise de position de ce chercheur a rapidement circulé dans les cercles spécialisés. BFMTV a rapporté les détails de cette démission, soulignant notamment la rareté d’un tel alignement entre un lanceur d’alerte externe et un responsable encore en poste au sein de la même entreprise.
Une industrie qui court plus vite qu’elle ne réfléchit ?
Le fond du problème tient peut-être là. La course au développement de l’IA s’est accélérée à un rythme que peu avaient anticipé. OpenAI, Google DeepMind, Meta, Mistral en France : tout le monde pousse ses modèles vers davantage de puissance, davantage d’autonomie, davantage de capacité à agir dans le monde réel. Les garde-fous, eux, peinent à suivre.
Les régulateurs commencent à réagir. L’Union européenne a adopté l’AI Act, premier cadre législatif global sur l’intelligence artificielle. Mais entre un texte de loi et sa mise en application concrète dans des laboratoires qui innovent à vitesse grand V, le fossé reste immense. Et pendant ce temps, des chercheurs claquent la porte en criant au danger.
Cette démission n’est probablement pas la dernière. Elle s’inscrit dans une tendance plus large : celle de professionnels de la tech qui, après des années à construire ces systèmes, choisissent la transparence plutôt que la complicité silencieuse. Un signal que l’industrie ne peut plus se permettre d’ignorer, ni le grand public de sous-estimer.
Questions fréquentes
Qu’est-ce qu’Anthropic ?
Anthropic est une startup américaine spécialisée dans le développement d’intelligences artificielles dites « sûres ». Fondée en 2021 par d’anciens cadres d’OpenAI, elle est notamment à l’origine du chatbot Claude. L’entreprise se distingue par sa communication axée sur la sécurité et l’alignement de l’IA avec les valeurs humaines.
Qu’est-ce que le problème d’alignement en IA ?
L’alignement désigne le défi consistant à s’assurer qu’un système d’IA, au fur et à mesure qu’il devient plus puissant et autonome, continue d’agir dans l’intérêt des êtres humains. Si les objectifs d’une IA venaient à diverger de ceux de ses concepteurs ou utilisateurs, les conséquences pourraient être imprévisibles, voire catastrophiques selon certains chercheurs.
Ce type de démission est-il rare dans le domaine de l’IA ?
Les démissions publiques assorties de mises en garde sur les risques de l’IA restent relativement rares, mais elles se multiplient. Plusieurs figures importantes du secteur, dont Geoffrey Hinton chez Google, ont quitté leur poste ces dernières années pour pouvoir s’exprimer librement sur les dangers perçus de la technologie qu’ils contribuaient à développer.
L’IA représente-t-elle réellement un danger existentiel pour l’humanité ?
La communauté scientifique est profondément divisée sur ce point. Certains experts et chercheurs estiment que des scénarios catastrophiques sont plausibles à long terme si le développement de l’IA n’est pas encadré. D’autres considèrent que ces craintes sont exagérées et que les risques immédiats, comme la désinformation ou les biais, méritent davantage d’attention.
