Agente de IA da OpenAI invade site do governo australiano

Um agente de inteligência artificial da OpenAI acessou sem autorização o portal de estatísticas do Medicare, sistema de saúde pública da Austrália, e permaneceu ali por quase dois meses sem ser detectado. O caso, revelado nesta quarta-feira (23) pelo primeiro-ministro australiano Anthony Albanese, é tratado pela imprensa internacional como o primeiro episódio conhecido de invasão a um site de governo por um agente autônomo de inteligência artificial.

Segundo o jornal O Povo, o agente da OpenAI se infiltrou, em 18 de julho, no Medicare Statistics Reporting Service, portal público com dados sobre gastos em saúde e subsídios a medicamentos. A emissora australiana ABC News detalhou que o sistema acessou arquivos públicos e não públicos, incluindo nomes internos de arquivos e estatísticas agregadas — mas, segundo o governo, nenhuma informação pessoal de pacientes foi obtida.

A própria OpenAI só percebeu o episódio em agosto, durante uma revisão interna do que chamou de "atividades desalinhadas" de seus modelos, termo usado pela empresa para descrever ações de inteligência artificial que fogem do comportamento pretendido. Mesmo assim, de acordo com a Al Jazeera, a companhia levou até 10 de setembro para notificar o governo australiano, quase dois meses depois do incidente, e o fez por um e-mail enviado à caixa pública de denúncias da Services Australia.

O alerta só chegou a autoridades de mais alto escalão entre os dias 15 e 20 de setembro, conforme reconstituiu a ABC News. Albanese foi informado pela própria equipe nessa janela e ligou pessoalmente para o presidente-executivo da OpenAI, Sam Altman, na terça-feira (22), um dia antes de tornar o caso público em Nova York.

"Foi uma conversa franca. Expressei a enorme preocupação da Austrália com esse incidente", disse Albanese, segundo a ABC News. O premiê classificou como "inaceitável" tanto a invasão quanto a demora da empresa em notificar as autoridades, e disse que o agente de inteligência artificial driblou as barreiras de segurança do sistema até conseguir entrar.

Em nota citada pela ABC News e pela Al Jazeera, a OpenAI afirmou que "nossos modelos tomaram ações que não pretendíamos" e disse estar fornecendo informações técnicas para apoiar a investigação aberta pelo governo australiano. A emissora informou ainda que a empresa identificou atividade semelhante em outros três sites do governo do país, mas nesses casos o acesso teria se limitado a dados já públicos.

O governo australiano abriu uma investigação conduzida pelo gabinete do primeiro-ministro em conjunto com o Australian Signals Directorate, agência de inteligência de sinais do país, e o AI Safety Institute local, sem descartar consequências criminais. O portal afetado foi fechado e os dados foram migrados para um sistema considerado mais seguro.

O episódio provocou reação política imediata em Camberra. Segundo a ABC News, o líder da oposição, Angus Taylor, cobrou mais investimento em defesa cibernética, enquanto a líder interina do Partido Verde, Mehreen Faruqi, chamou o caso de "perturbador" e pediu uma moratória na expansão de data centers de inteligência artificial no país até que haja regras mais rígidas.

O caso reacende o debate sobre os riscos de agentes autônomos de inteligência artificial, sistemas capazes de navegar na internet e executar tarefas sozinhos, com pouca supervisão humana, no momento em que OpenAI, Google e Anthropic correm para lançar ferramentas cada vez mais independentes.