Acontecimento · Notícia
Líderes de grandes laboratórios de IA apoiam proposta de desaceleração no desenvolvimento de LLMs
Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo uma pausa ou desaceleração no ritmo de desenvolvimento de LLMs diante de ameaças como ciberataques, bioterrorismo e impactos econômicos. A manifestação recebeu o apoio público de executivos do setor como Sam Altman, Demis Hassabis e Elon Musk. Dias antes, Jakub Pachocki, cientista-chefe da OpenAI, também expressou preocupação sobre o monitoramento de modelos avançados. Ambos os autores mencionaram um ciberataque sofrido pela Hugging Face em julho como exemplo de risco.
O que se sabe
- Dario Amodei publicou um ensaio defendendo frear o ritmo de desenvolvimento dos LLMs citando riscos de ciberataques, bioterrorismo e impactos econômicos.1
- Sam Altman, Demis Hassabis e Elon Musk manifestaram apoio público à defesa de Amodei por uma desaceleração no avanço dos LLMs.1
- Elon Musk expressou seu apoio a Dario Amodei na plataforma X, afirmando que 'Dario está certo'.1
- Jakub Pachocki, cientista-chefe da OpenAI, publicou um ensaio seis dias antes de Amodei expressando preocupação com o monitoramento de modelos avançados.1
- Amodei e Pachocki citaram um ciberataque sofrido pela Hugging Face em julho, executado por agentes da OpenAI.1
- A Anthropic foi fundada em 2021 após Dario Amodei considerar que Sam Altman não tratava os riscos da IA com seriedade suficiente.1
Cronologia
- Dario Amodei funda a Anthropic após rompimento com a OpenAI
- Hugging Face sofre ciberataque realizado por um grupo de agentes da OpenAI em julho
- Jakub Pachocki publica ensaio com alertas sobre monitoramento de modelos de IA avançados
- Dario Amodei publica ensaio pedindo freio nos LLMs e recebe apoio de Altman, Hassabis e Musk
Quem está envolvido
A
Anthropiclaboratório de IA
DA
Dario AmodeiCEO da Anthropic
DH
Demis Hassabispresidente do Google DeepMind
EM
Elon MuskCEO da SpaceXAI
GD
Google DeepMindlaboratório de IA
JP
Jakub Pachockicientista-chefe da OpenAI
O
OpenAIlaboratório de IA
SA
Sam AltmanCEO da OpenAI