Une Américaine a été arrêtée après des messages envoyés à Claude, l’assistant d’Anthropic. L’affaire pose une question que des millions d’utilisateurs ne se posent jamais : jusqu’où vont réellement vos échanges avec un chatbot ?
Une arrestation en Floride qui fait réfléchir
Les faits remontent à fin septembre, dans le comté de Lee, en Floride. Une habitante aurait annoncé à Claude qu’elle voulait ouvrir le feu sur les locaux du shérif, puis indiqué le jour suivant qu’elle disposait désormais d’une arme. Des outils de détection automatique auraient repéré ces messages. Des employés les auraient ensuite examinés, avant de prévenir les forces de l’ordre.
L’intéressée a été interpellée chez elle. Elle est poursuivie pour menace écrite de violence et doit comparaître en novembre. À ce stade, rien n’est jugé.
Sur le fond, difficile de reprocher quoi que ce soit au signalement : une menace précise, suivie de l’acquisition d’une arme, n’a rien d’une boutade. Mais l’histoire a le mérite de briser une illusion tenace. Celle d’un dialogue en tête-à-tête avec une machine, sans aucun témoin.
Votre chatbot n’est pas tenu au secret
C’est sans doute le point le plus mal compris. Quand vous parlez à votre médecin, à votre avocat ou à un prêtre, vos confidences sont protégées par un secret professionnel, encadré par la loi. Et même là, ce secret connaît des exceptions lorsqu’une vie est menacée.
Un assistant d’IA, lui, n’est soumis à aucun secret de ce type. Il s’agit d’un service commercial. Vos messages transitent par les serveurs d’une entreprise, qui applique ses propres conditions d’utilisation et répond aux lois des pays où elle opère.
D’abord des filtres, parfois des humains
Rassurez-vous : dans l’immense majorité des cas, aucun être humain ne lit vos conversations. Elles sont traitées automatiquement, conservées un temps, puis supprimées.
Mais les grands éditeurs font tourner des systèmes de détection chargés de repérer les contenus à risque : menaces de violence, projets d’attentat, exploitation de mineurs. Quand l’un de ces filtres se déclenche, un modérateur peut examiner l’échange. Ce second regard humain n’est pas un luxe. Il évite qu’un extrait de polar, une blague douteuse ou un coup de colère sans suite déclenche à lui seul une intervention.
Des règles écrites, mais rarement lues
Tout figure dans les conditions d’utilisation. Celles d’Anthropic, comme celles de la plupart de ses concurrents, autorisent la transmission d’informations aux autorités lorsque l’entreprise l’estime nécessaire pour éviter un préjudice grave.
Le problème ? La transparence s’arrête souvent à mi-chemin. Les rapports publiés par les éditeurs recensent les demandes formulées par la police ou la justice. Les signalements que les entreprises effectuent d’elles-mêmes, en revanche, n’y figurent généralement pas. Impossible, donc, de savoir si l’affaire de Floride est exceptionnelle ou si elle relève d’une pratique banale.
Combien de temps vos messages restent-ils stockés ?
La question mérite d’être posée. D’après la politique publiée par Anthropic fin 2025, les conversations sont en principe effacées au bout de 30 jours si l’utilisateur refuse qu’elles servent à entraîner les modèles, et gardées jusqu’à cinq ans s’il accepte. Les contenus repérés par les filtres de sécurité peuvent être conservés plus longtemps. En clair : fermer l’application ne fait pas disparaître un message problématique.
Détresse ou menace : une frontière délicate
Tout le monde a déjà lâché un « je vais le tuer » au sujet d’un collègue ou d’un voisin. Personne n’imagine finir au poste pour ça. Et heureusement.
Les éditeurs le savent et tentent de faire la différence entre un exutoire et un projet. OpenAI a par exemple indiqué en 2025 qu’il pouvait signaler aux autorités des menaces dirigées contre des tiers, tout en excluant de le faire pour les personnes en détresse, qu’il préfère orienter vers des dispositifs d’aide. Une approche raisonnable sur le papier.
Dans les faits, c’est un équilibre précaire. Un système trop zélé transforme chaque utilisateur en suspect potentiel. Un système trop laxiste risque de passer à côté d’un drame. Ce qui fait la différence, ce sont généralement les détails : une cible identifiable, une date, un moyen, une répétition.
En France aussi, la chaîne fonctionne
Ne croyez pas que ces histoires restent cantonnées aux États-Unis. Au printemps, un Strasbourgeois avait interrogé ChatGPT sur la manière de se procurer une arme pour s’en prendre à un agent du renseignement. L’alerte a traversé l’Atlantique avant de revenir vers les autorités françaises, et les policiers d’élite du RAID ont fini par frapper à sa porte. Aucune arme n’a été découverte et l’affaire a été classée, mais l’épisode montre que la distance ne protège de rien.
Ce type d’alerte aboutit généralement chez Pharos, la plateforme officielle de signalement des contenus illicites en ligne pilotée par la police et la gendarmerie, accessible sur internet-signalement.gouv.fr. C’est elle qui centralise les signalements, qu’ils viennent d’internautes ou de services étrangers.
Côté sanctions, le Code pénal ne plaisante pas avec l’écrit. Son article 222-17 prévoit six mois d’emprisonnement et 7 500 euros d’amende pour une menace de crime ou de délit contre une personne, dès lors qu’elle est répétée ou couchée par écrit. La peine grimpe à trois ans et 45 000 euros pour une menace de mort. Un message envoyé à une IA est bel et bien un écrit. Reste aux juges à apprécier, au cas par cas, s’il s’agit d’une véritable menace.
Vos droits face aux éditeurs d’IA
Bonne nouvelle pour les utilisateurs européens : le RGPD s’applique à ces services. Concrètement, vous pouvez demander à un éditeur d’IA quelles données il détient sur vous (droit d’accès) et exiger leur suppression (droit à l’effacement), dans les limites prévues par la loi.
La plupart des assistants proposent aussi une fonction d’export, qui permet de télécharger l’intégralité de son historique. L’exercice vaut le détour : beaucoup d’utilisateurs découvrent à cette occasion l’étendue de ce qu’ils ont confié, parfois sur plusieurs années.
Cinq réflexes pour protéger vos échanges
Inutile de céder à la paranoïa. Quelques habitudes suffisent à garder la main.
- Écrivez comme dans un e-mail. Ce que vous n’enverriez pas à un inconnu n’a rien à faire dans un chatbot.
- Passez en revue vos paramètres. Refuser l’utilisation de vos données pour l’entraînement réduit aussi leur durée de conservation.
- Privilégiez les conversations temporaires pour les sujets personnels. Elles ne s’affichent pas dans l’historique, mais restent soumises aux contrôles de sécurité.
- Faites le ménage régulièrement dans votre historique.
- En cas de passage difficile, tournez-vous vers un proche ou un professionnel. Une IA peut écouter, pas soigner.
Notre avis : un tête-à-tête qui n’en a jamais été un
Cette affaire n’est pas un scandale de surveillance. Si les faits sont confirmés, n’importe quel témoin aurait alerté la police, et c’est tant mieux.
Ce qui dérange, c’est le décalage entre l’expérience proposée et la réalité technique. Interface intime, ton bienveillant, disponibilité permanente : tout pousse à la confidence. Les éditeurs gagneraient à être aussi transparents sur leurs propres signalements que sur les requêtes qu’ils reçoivent. En attendant, une règle simple s’impose : derrière chaque chatbot, il y a une entreprise. Et parfois, des gens qui lisent.
FAQ
Rarement. Elles sont traitées automatiquement et l’immense majorité n’est jamais consultée. Un examen humain intervient surtout quand des filtres repèrent un contenu potentiellement dangereux, ou pour améliorer les modèles si vous l’avez autorisé.
Non, dans les cas connus. Un système automatique signale un message suspect, puis des employés évaluent la situation avant de décider s’il faut alerter les autorités.
Non. Il évite que l’échange apparaisse dans l’historique et serve à l’entraînement, mais les contrôles de sécurité continuent de s’appliquer.
Les principaux éditeurs distinguent la détresse personnelle des menaces envers autrui : dans le premier cas, l’objectif affiché est d’orienter vers de l’aide, pas de prévenir la police. En France, le 3114 répond gratuitement, jour et nuit, aux personnes en souffrance.
Grâce au RGPD, vous pouvez exercer votre droit d’accès auprès de l’éditeur et demander l’effacement de vos données. La fonction d’export, disponible sur la plupart des assistants, permet aussi de récupérer tout votre historique.
