Anthropic aciona polícia após usuária ameaçar ataque a gabinete de xerife no Claude
A Anthropic alertou a polícia da Flórida após seus sistemas automatizados e equipe de revisão humana identificarem ameaças de ataque contra o Gabinete do Xerife do Condado de Lee feitas por uma usuária no chatbot Claude. Carli Michelle Heller, que relatou usar a IA como um diário pessoal, afirmou nas mensagens que atacaria o escritório e que havia adquirido uma nova arma. Heller foi detida em Bonita Springs e formalmente acusada sob a legislação estadual por ameaça eletrônica de violência.
O que se sabe
- Carli Michelle Heller disse ao chatbot Claude em 26 de setembro que pretendia atacar o Gabinete do Xerife do Condado de Lee.12
- O sistema automatizado de segurança da Anthropic detectou as mensagens de Heller e as encaminhou para análise de uma equipe humana antes de notificar a polícia.12
- Heller declarou posteriormente que utilizava a inteligência artificial do Claude como um diário para pensamentos e conversas pessoais.12
- Heller foi formalmente acusada em 30 de setembro sob o Estatuto da Flórida 836.10 por ameaça eletrônica ou por escrito de violência.12
- Heller foi detida pelas autoridades em sua casa em Bonita Springs, Flórida, sem incidentes.2
- A documentação da Anthropic prevê o repasse de dados a autoridades policiais em emergências para evitar riscos de morte ou ferimentos graves.1
- O xerife Carmine Marceno declarou que ameaças facilitadas por IA devem ser levadas a sério e ressaltou que usuários não são anônimos ao usar essas ferramentas.2
“A inteligência artificial é uma ferramenta poderosa e, como qualquer tecnologia, pode ser mal utilizada”Carmine Marceno2
“Quando alguém usa IA para criar ou facilitar uma ameaça, temos que levar essa ameaça a sério.”Carmine Marceno2
“A IA não é sua melhor amiga. Precisamos ter em mente que se trata de uma tecnologia”Chrissann Ruehle2
Cronologia
- Heller escreve no Claude sobre a intenção de atacar o Gabinete do Xerife do Condado de Lee
- Heller relata no chatbot que conseguiu uma nova arma
- Heller é formalmente acusada pela Justiça da Flórida sob o Estatuto 836.10
Quem está envolvido
A
Anthropicempresa denunciante
BS
Bonita Springslocal da prisão
CM
Carli Michelle Hellerusuária presa e acusada
CM
Carmine Marcenoxerife do Condado de Lee
CR
Chrissann Ruehleprofessora assistente de IA e gestão
C
Claudeferramenta de inteligência artificial
FG
Florida Gulf Coast Universityinstituição de ensino
F
Flóridalocal da prisão e jurisdição legal
GD
Gabinete do Xerife do Condado de Leealvo da ameaça
O
OpenAIempresa concorrente mencionada
SA
Sam AltmanCEO da OpenAI mencionado