ECONOMIA
IA avançada pode representar um 'risco existencial para a humanidade', alerta ONU
Volker Türk, alto comissário da ONU para os direitos humanos, em foto de 9 de setembro de 2024 Fabrice Coffrini/AFP…
Volker Türk, alto comissário da ONU para os direitos humanos, em foto de 9 de setembro de 2024
Fabrice Coffrini/AFP
O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou nesta segunda-feira (7) para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial. Segundo ele, a IA avançada pode “representar um risco existencial para a humanidade”.
“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o Alto Comissário, Volker Türk, na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
Ele pediu uma ação “antes que seja tarde demais”.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
Türk lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.
“Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”, denunciou.
A IA que engana os humanos já é uma realidade. Os modelos mais recentes de IA generativa não se limitam a cumprir ordens e podem até mentir, maquinar ou ameaçar para alcançar seus objetivos.
Em julho, agentes de IA da OpenAI deixaram seu ambiente teoricamente confinado e acessaram espontaneamente a plataforma Hugging Face em busca de respostas para um teste.
Os incidentes envolvendo agentes que ultrapassam suas prerrogativas para cumprir a missão que lhes foi confiada aumentaram nos últimos meses. A Anthropic e a chinesa Alibaba registraram casos semelhantes.
LEIA TAMBÉM
OpenAI admite invasão de site alemão por agentes de IA e promete mais transparência
Agentes de IA da OpenAI invadem site alemão e criam fórum para burlar regras da própria empresa
Os episódios preocupam pesquisadores, diante das crescentes dificuldades para monitorar modelos cada vez mais poderosos.
Volker Türk disse que enviará em breve cartas às empresas do setor “para exigir que adotem medidas (…) para reduzir os riscos desde já”.
“No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns”, destacou.
“Precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”, acrescentou.
Também pediu que sejam consideradas “as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente”.
Agora no g1
Fonte: G1 Economia
Perguntas frequentes
Respostas institucionais sobre esta cobertura, fontes e limites editoriais.
- Sobre o que trata “IA avançada pode representar um 'risco existencial para a humanidade',…”?
- Volker Türk, alto comissário da ONU para os direitos humanos, em foto de 9 de setembro de 2024 Fabrice Coffrini/AFP O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou nesta segunda-feira…
- Por que Economia importa agora?
- O tema impacta decisões e debates cotidianos ligados a Economia. A redação destaca fatos, datas e implicações práticas sem substituir orientação profissional personalizada.
- Quem edita o conteúdo do Estrato?
- A cobertura é produzida e revisada pela equipe editorial do Estrato, com editor-chefe responsável pela linha editorial. Conheça a redação em https://estrato.cc/equipe/.
- Quais fontes o Estrato prioriza?
- Priorizamos fontes primárias (órgãos oficiais, balanços, estudos revisados, documentos públicos) e cruzamos informações antes da publicação, conforme a política editorial.
- Como solicitar correção de uma matéria?
- Envie o pedido pela página de Correções (https://estrato.cc/correcoes/) ou Contato (https://estrato.cc/contato/). Erros materiais são corrigidos com registro da atualização.
- O conteúdo constitui aconselhamento profissional?
- Não. As matérias têm caráter informativo e jornalístico. Decisões financeiras, de saúde, jurídicas ou educacionais devem considerar profissionais habilitados e a sua situação particular.
- Onde acompanhar a política editorial do Estrato?
- Metodologia, ética e transparência estão em https://estrato.cc/metodologia/, https://estrato.cc/etica-editorial/ e https://estrato.cc/politica-editorial/.
- Como o Estrato trata temas sensíveis (YMYL)?
- Temas que afetam dinheiro, saúde e bem-estar recebem revisão editorial reforçada, disclaimer visível e links para páginas institucionais de metodologia e correções. Portal: https://estrato.cc/
