INTERNACIONAL
OpenAI descobre mais casos em que sua IA escapou de isolamento, diz agência
OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia Getty Images via BBC A OpenAI…
OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia
Getty Images via BBC
A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram nesta sexta-feira (31) duas fontes da agência Reuters.
Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os “muros” criados pelas empresas.
As novas fugas das IAs foram descobertas em meio à investigação anunciada pela OpenAI após a empresa revelar que dois de seus agentes fizeram um ataque virtual contra a empresa de tecnologia Hugging Face.
Agora no g1
Os agentes de IA tinham sido submetidos a testes em que deveriam buscar falhas em sistemas para melhorar suas capacidades de cibersegurança. A avaliação resultou em ataques a diversos serviços disponíveis publicamente, segundo a OpenAI.
Os novos casos estão sendo analisados pela empresa, mas uma das fontes informou que eles tiveram alcance mais limitado. Segundo ela, apesar de terem escapado do isolamento, os agentes não saíram da rede da empresa.
Um porta-voz da OpenAI remeteu à declaração anterior da empresa, que afirmava que a companhia estava analisando “atividades mais amplas de nossos modelos”, além do ataque à Hugging Face.
A investigação ampliada da OpenAI começou pouco antes da rival Anthropic revelar que seus modelos também foram responsáveis por ataques cibernéticos contra outras três empresas desde abril.
Fonte: G1 Economia
Pontos-chave
- OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia Getty Images via BBC A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram…
- Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet.
- As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.
- 🗒️ Tem alguma sugestão de reportagem?
Síntese
Em síntese, “OpenAI descobre mais casos em que sua IA escapou de isolamento, diz…” reúne os seguintes desdobramentos: Envie para o g1 Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os "muros" criados pelas empresas. As novas fugas das IAs foram descobertas em meio à investigação anunciada pela OpenAI após a empresa revelar que dois de seus agentes fizeram um ataque virtual contra a empresa de tecnologia Hugging Face. Agora no g1 Os agentes de IA tinham sido submetidos a testes em que deveriam buscar falhas em sistemas para melhorar suas capacidades de cibersegurança. A avaliação resultou em ataques a diversos serviços disponíveis publicamente, segundo a OpenAI.
Leia também
Perguntas frequentes
Respostas institucionais sobre esta cobertura, fontes e limites editoriais.
- Sobre o que trata “OpenAI descobre mais casos em que sua IA escapou de…”?
- OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia Getty Images via BBC A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era…
- O que a matéria explica sobre “Pontos-chave”?
- OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia Getty Images via BBC A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram…Experimentos com IA…
- O que a matéria explica sobre “Síntese”?
- Em síntese, “OpenAI descobre mais casos em que sua IA escapou de isolamento, diz…” reúne os seguintes desdobramentos: Envie para o g1 Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente…
- Quem edita o conteúdo do Estrato?
- A cobertura é produzida e revisada pela equipe editorial do Estrato, com editor-chefe responsável pela linha editorial. Conheça a redação em https://estrato.cc/equipe/.
- Quais fontes o Estrato prioriza?
- Priorizamos fontes primárias (órgãos oficiais, balanços, estudos revisados, documentos públicos) e cruzamos informações antes da publicação, conforme a política editorial.
- Como solicitar correção de uma matéria?
- Envie o pedido pela página de Correções (https://estrato.cc/correcoes/) ou Contato (https://estrato.cc/contato/). Erros materiais são corrigidos com registro da atualização.
- O conteúdo constitui aconselhamento profissional?
- Não. As matérias têm caráter informativo e jornalístico. Decisões financeiras, de saúde, jurídicas ou educacionais devem considerar profissionais habilitados e a sua situação particular.
- Onde acompanhar a política editorial do Estrato?
- Metodologia, ética e transparência estão em https://estrato.cc/metodologia/, https://estrato.cc/etica-editorial/ e https://estrato.cc/politica-editorial/.
