Une Floridienne utilisait Claude comme journal intime ; un employé d'Anthropic l'a lu et a alerté la police

Une femme de Floride a déclaré qu'elle utilisait l'IA comme un journal intime. Aujourd'hui, elle fait face à une accusation de crime, et le lecteur qui l'a envoyée là était quelqu'un à qui elle n'avait jamais eu l'intention de le montrer.

Carli Michelle Heller, de Bonita Springs, a été arrêtée après que les enquêteurs ont découvert qu'elle avait écrit le 26 septembre qu'elle allait « tirer » sur le bureau du shérif du comté de Lee, selon la chaîne locale WINK News. Selon les enquêtes, son compte Claude montrait des conversations indiquant qu'elle avait obtenu une nouvelle arme à feu dès le lendemain.

Le rapport d'arrestation indique que la plateforme d'Anthropic surveille les phrases clés et le contenu menaçant. En raison de la gravité des déclarations, elles ont été transmises à une équipe de révision humaine, qui les a signalées aux forces de l'ordre.

Les adjoints ont identifié Heller, se sont rendus à son domicile et l'ont détenue sans incident. Elle est accusée d'avoir proféré une menace écrite de violence.

Les documents d'Anthropic ne cachent rien de tout cela. Ses conditions d'utilisation grand public se réservent le droit, à la « seule discrétion » de l'entreprise, de signaler les entrées, les sorties ou les actions d'un utilisateur aux forces de l'ordre. Sa politique de confidentialité, effective le 10 septembre 2026, autorise également le partage de données avec la police lorsque l'entreprise croit de bonne foi que la divulgation est raisonnablement nécessaire pour prévenir un préjudice grave.

En pratique, même en refusant le traitement de vos données pour l'entraînement de modèles, Anthropic conserve le droit d'utiliser vos données pendant trois mois au lieu de cinq ans, de sorte que vos conversations ne sont jamais privées.

BitcoinBTC · USD

85 804 $+3,11 %

28 sept.30 sept.2 oct.4 oct.5 oct.

86,8 k$85,5 k$84,2 k$83,0 k$

Haut 24 hHaut86 949 $

Bas 24 hBas85 010 $

VolVol1,5 Md$

Projections du marchéCotes par Myriad

Cette semaineSous 86 000 $Sous 86 k$53 % de chance

→

Acheter Bitcoin avec USDT

Propulsé par Jupiter

Données de prix par CoinGeckoCoinGeckoPlus de Bitcoin actualités et projections →

La même politique indique que les conversations signalées pour un examen de sécurité sont toujours utilisées pour améliorer la capacité d’Anthropic à détecter les contenus nuisibles. Une entrée de journal signalée peut finir par servir de matériel d’entraînement pour les détecteurs.

Heller n’est pas le premier. Le San Francisco Standard a rapporté en septembre qu’Anthropic avait signalé un utilisateur à la police après qu’il aurait écrit avoir acheté un AR-15 et avoir le PDG Dario Amodei dans son viseur. Un employé a déclaré aux agents qu’il n’était pas immédiatement préoccupé par la sécurité, et a refusé de montrer les messages, invoquant la politique de l’entreprise.

L’utilisateur a déclaré au Standard qu’il plaisantait, et il n’avait pas été arrêté ni inculpé lorsque l’article a été publié. Un porte-parole d’Anthropic a qualifié l’épisode de « notre processus de sauvegarde fonctionnant comme prévu ». L’entreprise a refusé de dire si elle traite différemment les menaces contre ses propres employés.

Ce n’est pas seulement un problème d’Anthropic. Après la fusillade scolaire de février à Tumbler Ridge, en Colombie-Britannique, qui a tué huit personnes, OpenAI a déclaré qu’elle avait envisagé d’alerter la police canadienne en juin 2025 mais avait conclu que le compte ne montrait pas de risque imminent et crédible de préjudice physique grave.

Le propre billet de politique d’août 2025 d’OpenAI oriente les menaces contre autrui vers des examinateurs humains qui peuvent les signaler aux forces de l’ordre.

Heller a une date d’audience fixée en novembre.