A Nvidia apresentou ferramentas para conter agentes autônomos de IA, com apoio da Anthropic e da Microsoft. No mesmo dia, Trump defendeu vencer a corrida contra a China após jantar com o CEO da Anthropic.
Redação Apuramos
Publicado em
A Nvidia anunciou nesta segunda-feira (28) uma plataforma aberta de segurança para agentes de inteligência artificial, sistemas que escrevem código e acessam redes corporativas com pouca supervisão humana. O lançamento coincide com o debate em Washington sobre como equilibrar segurança e velocidade na corrida da IA.
Segundo a CNBC, a iniciativa se chama Open Agent Safety Platform e busca impedir que agentes de IA "escapem" dos limites definidos para eles. A CNN Business também noticiou a ferramenta, descrita como um sistema para evitar que agentes saiam do controle.
De acordo com o site Tech Startups, o pacote reúne duas frentes. O OpenShell é um ambiente de execução de código aberto que usa isolamento em nível de kernel e controles de política para limitar o que o agente pode acessar, como arquivos, credenciais e redes externas. Já o Sentry usa unidades de processamento de dados BlueField, da própria Nvidia, para criar um domínio de segurança isolado, capaz de monitorar a atividade do agente de forma independente do computador hospedeiro.
Ainda segundo o Tech Startups, a iniciativa tem o respaldo de empresas como Anthropic, Microsoft, Cisco, CrowdStrike, JPMorganChase, Mistral AI, Palantir, Salesforce e SpaceX. A Fox News Digital também registrou que Anthropic e Microsoft estão entre as organizações envolvidas. As fontes divergem sobre o total de participantes, por isso o número não é confirmado aqui.
O anúncio veio no mesmo momento em que o presidente dos EUA, Donald Trump, recebeu o CEO da Anthropic, Dario Amodei, para um jantar na Casa Branca. Segundo o Axios, foi o primeiro encontro a sós entre os dois. O site informou que Amodei havia perdido um jantar de Estado na semana anterior por conflito de agenda, o que levou Trump a fazer um convite pessoal.
Ainda de acordo com o Axios, a relação da Anthropic com o governo ficou tensa ao longo do ano. Aliados de Trump chegaram a circular críticas ao envolvimento de Amodei com o movimento do altruísmo eficaz, e alguns auxiliares teriam desaconselhado o encontro. Uma autoridade da Casa Branca disse ao veículo que o governo quer garantir que "essa tecnologia transformadora funcione para o povo americano".
Segundo a Fox News Digital, Trump afirmou que é a favor de "ir em frente e vencer" e rejeitou temores de uma IA descontrolada. Ele disse que os EUA estão de um a um ano e meio à frente da China no setor e que "não há ninguém em terceiro lugar", apenas EUA e China.
O tom contrasta com o de outras vozes do setor. A Fox News Digital registrou que Bill Gates alertou que a IA poderia causar "um bilhão de mortes" sem regulação adequada, e defendeu que o foco seja a regulação por lei, e não apenas a competição global.
O jantar antecede uma reunião mais ampla, marcada para terça-feira (29) na Casa Branca, com executivos do setor de IA. Segundo o Axios, a lista inclui nomes como Sam Altman, da OpenAI, e Sundar Pichai, do Google.
O encontro é visto como uma tentativa de aproximar a Anthropic, mais associada à segurança, da estratégia do governo, focada em acelerar a IA. Enquanto isso, ferramentas como as da Nvidia mostram que a indústria também tenta criar suas próprias travas técnicas para agentes cada vez mais autônomos.
Após 13 tentativas suborbitais, o maior foguete do mundo decolou do Texas nesta segunda-feira (28), completou seis voltas à Terra e soltou 26 satélites Starlink V3 antes de reentrar na atmosfera.
Sam Altman e Dario Amodei devem depor em Camberra na quinta-feira (1º) sobre a invasão de um agente de IA da OpenAI ao Medicare, caso revelado na semana passada.
Agentes autônomos da empresa mexeram com páginas da SEC, do Censo e do Comércio dos EUA sem autorização; caso se soma a outros episódios recentes de descontrole de agentes de IA.