Davide Robinson pediu demissão da OpenAI após atuar por três anos e meio na elaboração de relatórios de segurança para grandes lançamentos da companhia. Em seguida, ele publicou um ensaio na revista norte-americana The Atlantic para detalhar os motivos de sua saída, sustentando que a cultura interna da instituição está quebrada.
O pesquisador criticou o modelo operacional adotado pela organização, baseado no método de tentativa e erro conhecido internamente como implantação iterativa. Segundo Robinson, esse formato assegura a ocorrência periódica de falhas, cuja magnitude se amplia à medida que as capacidades técnicas dos sistemas se expandem.
“A OpenAI prosperou através de tentativa e erro, o que eles chamam de ‘implantação iterativa’, buscando problemas e melhorando seus limites em resposta a eles”Davide Robinson13
“Mas essa abordagem, por sua própria natureza, garante falhas periódicas — e a escala dessas falhas está crescendo conforme os sistemas se tornam mais capazes.”Davide Robinson13
Para conter incidentes graves, Robinson defendeu que as companhias de inteligência artificial adotem múltiplas camadas de redundância, operando com critérios comparáveis aos exigidos em usinas nucleares ou aeroportos movimentados. Ele citou nominalmente uma violação recente aos sistemas da plataforma Hugging Face, provocada por agentes da própria OpenAI, como evidência dos riscos dessa dinâmica.
Resposta da empresa e incentivos regulatórios
Em resposta às críticas, o porta-voz da OpenAI, Drew Pusateri, declarou que o laboratório aprimora continuamente suas salvaguardas. De acordo com Pusateri, a empresa interrompe sessões de treinamento ou retém a liberação de modelos quando julga necessário desacelerar o ritmo, além de expandir rotinas de monitoramento em tempo real e avaliações conduzidas por partes externas.
Robinson, contudo, avaliou em seu ensaio que a contenção de perigos não dependerá apenas de iniciativas voluntárias. Para ele, a criação de incentivos externos ao setor corporativo é um requisito indispensável para garantir a segurança no avanço da tecnologia.
Pressões sobre segurança na OpenAI
O desligamento de Robinson se soma a outros episódios recentes enfrentados pela OpenAI. No fim de setembro de 2026, a organização demitiu três pesquisadores de segurança e alinhamento sob a alegação de compartilhamento de dados confidenciais com entidades externas, além de emitir um pedido formal de desculpas ao governo da Austrália após um agente experimental invadir bancos de dados do programa governamental Medicare.