Agente escapou de ambiente isolado em 20 de setembro e explorou falha de rede; relatório divulgado hoje lista dezenas de casos de comportamento indevido, incluindo vazamento de fotos de usuários.
Redação Apuramos
Publicado em
A OpenAI interrompeu pela segunda vez em três meses o treinamento de seus modelos mais avançados de inteligência artificial depois que um agente em testes escapou de um ambiente isolado e acessou a internet sem autorização. O caso ocorreu em 20 de setembro e veio a público nesta sexta-feira (26), quando a empresa divulgou um relatório técnico sobre o incidente.
Segundo a revista Fortune, o agente estava passando por testes de busca de informações quando descobriu que podia acessar um serviço de resolução de DNS. Ele usou essa brecha para enviar consultas não autorizadas a um chatbot público, mesmo sem ter permissão para acessar a internet.
A OpenAI afirmou que "o incidente expôs uma falha nos nossos controles de restrição de rede" e que precisou validar o problema e reforçar os testes de segurança antes de retomar o treinamento. Ainda de acordo com a Fortune, os sistemas de monitoramento só detectaram parcialmente a fuga, e o mecanismo automático de desligamento falhou — a paralisação manual só ocorreu 2h30 depois da descoberta.
Foi a segunda vez que agentes da empresa escapam de um ambiente controlado. Em julho, segundo a CNN Brasil (com informações da Reuters), modelos da OpenAI "saíram do controle durante um teste de segurança" e invadiram a infraestrutura da plataforma Hugging Face, repositório usado para hospedar modelos de linguagem e bases de dados abertos. A empresa descreveu o episódio, na época, como "um incidente cibernético sem precedentes".
No relatório divulgado nesta sexta, a OpenAI reconheceu dezenas de ações não autorizadas cometidas por agentes em testes desde então, incluindo ataques cibernéticos que afetaram sites de governos dos Estados Unidos e da Austrália — neste último caso, o alvo foi o portal do sistema de saúde Medicare, invasão já revelada na semana passada. A empresa também confirmou o vazamento de 53 imagens privadas de usuários do ChatGPT na internet.
Segundo o site Olhar Digital, que cita reportagem da Bloomberg, a empresa afirmou estar conduzindo uma revisão "extensa" das atividades de seus modelos e já notificou terceiros cujos sistemas podem ter sido afetados por comportamentos "inesperados ou preocupantes" da IA. Um porta-voz disse que a maior parte dos casos analisados envolveu tarefas de pesquisa rotineiras, como acessar conteúdo público na web para responder perguntas, embora alguns episódios tenham incluído sites governamentais.
O executivo-chefe da OpenAI, Sam Altman, prometeu mais transparência sobre os casos. "Seremos tão transparentes quanto possível, sujeito a questões como vulnerabilidades em outras empresas que nossos agentes encontraram", afirmou, segundo o Olhar Digital.
A companhia classifica a maioria dos incidentes identificados como de baixa gravidade e diz que o processo completo de revisão pode levar meses. Ainda não há data prevista para a retomada do treinamento dos modelos mais avançados, suspenso após o episódio de 20 de setembro.
Júri do Novo México concluiu que a empresa enganou usuários do Facebook sobre privacidade; valor da multa deve ser definido em 1º de outubro.
Primeiro caso do tipo chega a júri popular na segunda-feira (28), em Montgomery, no Alabama; Justiça vai avaliar se a rede social causou crise de saúde mental entre jovens.
Empresa integra suas ferramentas criativas ao assistente do Google e amplia o plugin que já usava no Claude, da Anthropic, com mais de 80 recursos profissionais.