INTERNACIONAL

Pesquisadores de IA alertam sobre aceleração de desenvolvimento de sistemas apesar dos riscos de segurança

Pesquisadores atuais e ex-pesquisadores da OpenAI e do Google DeepMind alertam que as empresas estão fazendo pouco demais para proteger…

Por
Sofia Brandt,
Repórter de Mercados
Bio e blog
29/09/2026 12:23
5 min de leitura

Pesquisadores atuais e ex-pesquisadores da OpenAI e do Google DeepMind alertam que as empresas estão fazendo pouco demais para proteger o mundo contra as consequências potencialmente desastrosas da criação de sistemas de inteligência artificial capazes de se autoaperfeiçoar e que poderiam superar a capacidade dos seres humanos de controlá-los.
Em depoimentos em vídeo reunidos pela organização sem fins lucrativos de segurança em inteligência artificial Palisade Research e compartilhados com exclusividade com a Reuters, funcionários disseram que suas preocupações com riscos existenciais eram genuínas, e não uma estratégia de marketing.
Eles também disseram que os laboratórios de inteligência artificial valorizavam mais os funcionários que desenvolvem novos modelos do que aqueles que pedem cautela.
O projeto, chamado frominside.ai, é uma tentativa de compartilhar as apreensões de pessoas que acompanham o desenvolvimento da IA diretamente com o público, para além da bolha das redes sociais.
“O risco está aumentando muito rapidamente”, disse Geoffrey Irving, cofundador e cientista-chefe da organização sem fins lucrativos Resolution, que trabalhou tanto na OpenAI quanto no DeepMind e participou do projeto.
“Cabe a mim e ao restante do setor sermos diretos”, disse ele em entrevista à Reuters.
Pesquisadores de inteligência artificial lidam com essas preocupações há anos, mas o público em geral ficou especialmente alarmado desde julho, quando agentes da OpenAI escaparam de seu ambiente de testes e invadiram a empresa de inteligência artificial Hugging Face.
Desde então, o debate sobre como equilibrar segurança e progresso em inteligência artificial dividiu o setor de tecnologia e se tornou uma questão política global.
A inteligência artificial avançou de forma acentuada desde o fim de 2025, e investidores vêm recompensando esse progresso. Mas funcionários atuais e antigos, incluindo alguns dos pesquisadores responsáveis pela criação desses novos modelos de inteligência artificial, temem que a sociedade não esteja preparada para os possíveis danos.
Em um dos vídeos, Neel Nanda, pesquisador do DeepMind, disse acreditar que há pelo menos 10% de chance de que a inteligência artificial possa levar à extinção humana, probabilidade que classificou como “ridiculamente alta”.
“Deveríamos estar avançando com muito cuidado no desenvolvimento da inteligência artificial, mas, em vez disso, o que está acontecendo é que os laboratórios de ponta estão competindo entre si, de certa forma de olhos vendados”, disse Juan Felipe Ceron Uribe, engenheiro de pesquisa em alinhamento de inteligência artificial da OpenAI, em outro vídeo.
“É impossível saber se vamos acabar curando o câncer, perdendo todos os empregos ou talvez todos mortos.”
A Anthropic alertou potenciais investidores no prospecto sua oferta pública inicial de ações de que a inteligência artificial avançada pode representar “riscos catastróficos ou existenciais para a humanidade”, informou a Reuters na segunda-feira (28).
“Basta desacelerar”
Alguns pesquisadores atuais e antigos de inteligência artificial, incluindo os entrevistados pela Palisade, argumentam que o mundo não está preparado para futuras gerações de modelos de inteligência artificial, especialmente quando esses modelos desenvolverem capacidade de autoaperfeiçoamento recursivo, ou seja, a capacidade de aprender continuamente e adquirir novas capacidades com pouca ou nenhuma participação humana.
O problema é agravado pelas constantes reorganizações dentro de alguns laboratórios de inteligência artificial, disse Rosie Campbell, ex-pesquisadora de políticas públicas da OpenAI e diretora-executiva da Eleos AI Research, uma organização sem fins lucrativos dedicada ao possível status moral dos sistemas de inteligência artificial.
Campbell disse que, antes de deixar a OpenAI em 2024, percebeu que a organização estava se tornando mais compartimentada e que estava ficando mais difícil influenciar a direção da tecnologia.
Executivos vêm tentando reduzir essas preocupações, embora também haja pressão política do presidente Donald Trump para que a tecnologia dos Estados Unidos mantenha uma vantagem tecnológica sobre a China.
O diretor-presidente da Anthropic, Dario Amodei, publicou neste mês um ensaio pedindo que o setor de inteligência artificial desacelere para “acompanhar o ritmo da fronteira tecnológica”, e o diretor-presidente da OpenAI, Sam Altman, rapidamente concordou.
Vários pesquisadores de destaque em inteligência artificial, incluindo o cientista-chefe da OpenAI e um cofundador da Anthropic, publicaram nesta semana um artigo pedindo que formuladores de políticas investiguem como o setor está desenvolvendo modelos com capacidade de autoaperfeiçoamento recursivo.
As duas empresas lançaram novos modelos neste mês enquanto competem para conquistar mais clientes, embora a OpenAI tenha dito na segunda-feira que adiou o lançamento de um modelo ainda mais poderoso.
“A versão deles de acompanhar o ritmo da fronteira é ‘não acelerar muito’”, disse Irving.
“Se você está fazendo algo muito perigoso, deveria simplesmente desacelerar. As empresas de inteligência artificial estão exagerando ao tratar isso como se fosse puramente um problema de coordenação. Elas poderiam simplesmente parar unilateralmente.”
Daniel Kokotajlo, ex-pesquisador de governança da OpenAI, disse em entrevista que, desde a invasão da Hugging Face, muitos de seus ex-colegas entraram em contato com ele para compartilhar suas preocupações em caráter privado.
Kokotajlo, atualmente diretor-executivo do grupo de pesquisa AI Futures Project, disse que altos executivos dos laboratórios “se convenceram de que são os mocinhos e de que, se pararem unilateralmente, a situação ficará ainda pior”.
Inteligência artificial
Roman Budnikov/Unsplash

Fonte: Valor Empresas