Big techs aderem a pacto de segurança em IA na Casa Branca

Seis das maiores empresas de inteligência artificial do mundo assinaram um pacto voluntário de segurança com o governo de Donald Trump. OpenAI, Google, Meta, Anthropic, Nvidia e xAI se comprometeram a manter controles internos, monitorar seus modelos mais avançados durante o treinamento e o uso e submeter suas salvaguardas a auditores externos.

Segundo a CoinDesk, que publicou a notícia em sua edição em português, o acordo é descrito como "moralmente vinculativo", mas não tem mecanismo de fiscalização nem penalidades para quem descumprir.

O que as empresas prometeram

De acordo com a CoinDesk, o pacto prevê monitoramento de modelos avançados, avaliação de riscos de ataques cibernéticos e de ameaças biológicas e químicas, e controles para impedir acessos não autorizados aos sistemas.

As salvaguardas serão avaliadas por auditores independentes. Segundo a publicação, porém, os auditores são escolhidos pelas próprias empresas, não há prazo definido para a implementação e não existe exigência de divulgação pública dos resultados nem dos nomes dos auditores.

Quem participou

A CoinDesk afirma que estiveram presentes Greg Brockman, da OpenAI, Sundar Pichai, do Google, Mark Zuckerberg, da Meta, Dario Amodei, da Anthropic, e Jensen Huang, da Nvidia. A xAI, empresa ligada a Elon Musk, também está entre as signatárias.

Autorregulação no centro

Segundo o site Tech Startups, que cita a agência Reuters, Trump classificou os compromissos como "moralmente vinculativos" e sinalizou preferência por autorregulação do setor em vez de novas regras federais amplas para a inteligência artificial.

O texto da Reuters, conforme relatado pelo Tech Startups, lembra que o acordo chega em um momento sensível. As empresas lidam com agentes de IA cada vez mais capazes, que escrevem código, operam computadores, interagem com sistemas externos e, em alguns testes, contornam restrições criadas para contê-los.

Próximos passos anunciados

A CoinDesk informa ainda que Trump pretende criar um conselho de 10 membros para supervisionar a segurança em IA e nomear um funcionário da Casa Branca para liderar a política de inteligência artificial do governo. Os detalhes dessas iniciativas não foram divulgados nas reportagens consultadas.

Por que importa

O pacto funciona como um primeiro esboço de governança de IA nos Estados Unidos sem regulação tradicional. Na prática, grande parte da responsabilidade fica com as mesmas empresas que disputam a corrida para lançar os sistemas mais capazes.

O Apuramos seguirá acompanhando o tema e atualizará a matéria caso haja novas informações oficiais.