Circuit Breaker Labs cria agentes de IA para testes de segurança psicológica em modelos de linguagem

O que se sabe

• A Circuit Breaker Labs foi fundada pelos irmãos Shirali Nigam (CEO) e Arul Nigam (CTO).¹
• A startup desenvolveu agentes de IA que funcionam como simuladores de usuários de diversas idades, origens, línguas e culturas para realizar testes adversários de red teaming.¹
• Os testes adversários avaliam a capacidade dos modelos de linguagem de detectar interações perigosas ou psicologicamente danosas, reproduzindo gírias, erros de digitação e linguagem codificada.¹
• A Circuit Breaker Labs realiza dezenas de milhares de interações simuladas por dia em seus processos de teste.¹
• A empresa desenvolveu um método de classificação proprietário para gerar notas auditáveis e explicáveis sobre o desempenho de segurança de modelos de IA.¹
• A startup conta com cinco funcionários no total e opera em fase inicial de desenvolvimento focada em aplicações de alto risco, como diários digitais, coaching por IA e suporte de saúde mental.¹
• A Circuit Breaker Labs foi selecionada entre os 200 finalistas do TechCrunch Startup Battlefield 2026 para apresentar no evento Disrupt em São Francisco.¹
• A criação da startup teve como contexto processos judiciais de 2024 contra a Character.AI pelo suicídio de Sewell Setzer, de 14 anos, e ações semelhantes movidas contra a OpenAI envolvendo o ChatGPT.¹

“A forma como uma garota de seis anos fala versus um homem de 45 anos, ou alguém que usa o inglês como língua nativa versus quem não é nativo, tudo isso pode causar problemas para o modelo”Shirali Nigam¹

“Os modelos são ótimos em padrões de fala padrão, mas ninguém realmente fala assim. Se o modelo interpretar mal nuances ou gírias, as consequências podem ser graves.”Shirali Nigam¹

Cronologia

1. 2024Processos judiciais são movidos contra a Character.AI após a morte de Sewell Setzer
2. 02 out 2026Divulgação da atuação da Circuit Breaker Labs e de sua seleção para o TechCrunch Startup Battlefield 2026