Altman e Musk apoiam pedido de chefe da Anthropic para desacelerar avanço da IA
Líderes da OpenAI e da xAI endossam plano por auditorias independentes e coordenação internacional de segurança.
Ir direto pra matéria
Sam Altman, CEO da OpenAI, e Elon Musk, fundador da xAI, manifestaram apoio neste sábado (12) ao pedido de Dario Amodei, CEO e cofundador da Anthropic, para desacelerar o avanço da IA. A discussão ganhou força após uma série de episódios que aumentaram a preocupação com os riscos e o uso indevido da tecnologia.
“Concordo com Dario que precisamos dosar o avanço na fronteira”, escreveu Altman no X. O executivo afirmou ainda que a OpenAI também adotará a proposta de permitir que avaliadores independentes tenham acesso semelhante ao de funcionários para acompanhar práticas de segurança. Musk também endossou a posição de Amodei: “Dario está certo”.
Em um ensaio publicado em seu blog, Amodei propôs que as empresas diminuam a velocidade com que ampliam as capacidades de seus sistemas. “Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos usar de forma inteligente o tempo que ganharmos”, escreveu. A proposta inclui avaliações independentes dentro dos principais laboratórios, definição conjunta de padrões de segurança e cooperação internacional.
O alerta foi divulgado dois dias depois de a Anthropic apresentar, na quinta-feira (10), avaliações sobre inteligência e armas convencionais e um relatório mais amplo sobre ameaças envolvendo o Claude. Segundo a empresa, os modelos mostraram capacidade em tarefas ligadas a armas, operações cibernéticas, vigilância e possíveis usos de risco biológico. Amodei também citou como preocupação a capacidade crescente da própria IA de contribuir para a criação de sistemas mais avançados.
O debate sobre segurança aumentou ainda mais após o pesquisador da Anthropic Jacob Coxon pedir demissão e afirmar que “as pessoas que desenvolvem IA acreditam sinceramente que ela poderá matar todos nós até o fim da década”. Executivos da OpenAI também passaram a defender que os principais laboratórios estejam preparados para coordenar uma desaceleração voluntária caso isso seja considerado necessário para reforçar as medidas de segurança.
LEIA MAIS:
