Califórnia avança plano de 'kill switch' para IA de ponta

O governador da Califórnia, Gavin Newsom, assinou nesta sexta-feira (18) uma ordem executiva para acelerar a supervisão de sistemas de inteligência artificial no estado e avançar a criação de um "kill switch" — um mecanismo de emergência para desligar modelos de IA de fronteira em caso de risco grave à segurança. A confirmação foi feita pelo próprio gabinete do governador, em comunicado oficial publicado nesta sexta.

Segundo o texto divulgado pelo governo californiano, a ordem determina que a Government Operations Agency, principal órgão de tecnologia do estado, acelere a implementação de duas leis já aprovadas: a SB 813, que cria um marco para auditorias independentes de sistemas de IA, e a AB 1405, que institui um registro estadual de auditores. O prazo para esse registro, antes previsto para janeiro de 2029, foi antecipado para dezembro de 2027, segundo a Fox Business.

A ordem também convoca especialistas externos e representantes de agências estaduais para, em até dois meses, apresentarem recomendações sobre como reforçar as leis de segurança de IA já em vigor. De acordo com a CBS Sacramento, o grupo tem prazo até 16 de novembro para propor mudanças legais, incluindo regras mais rígidas sobre quais incidentes as empresas de IA são obrigadas a relatar ao estado.

A Califórnia já é pioneira na regulação do setor: em 2025 aprovou a SB 53, primeira lei do país a exigir transparência de empresas que desenvolvem modelos de IA de fronteira. Em 2024, porém, Newsom havia vetado a SB 1047, que já previa uma exigência semelhante de "kill switch" — decisão que gerou críticas na própria base democrata à época.

O comunicado do gabinete cita um ataque recente à plataforma Hugging Face como um dos fatores que reforçaram a urgência da medida. Newsom afirmou que o estado não vai esperar pelo governo federal para agir. "Não estamos esperando para agir — vamos acelerar nosso trabalho em uma supervisão de IA substancial e responsável", disse o governador, segundo o comunicado oficial.

Newsom também criticou a postura do governo Trump em relação ao tema. Segundo a Fox Business, o governador afirmou que "ainda não existe uma lei federal abrangente, nenhuma, exigindo que empresas de IA relatem incidentes perigosos quando eles acontecem", e acusou o presidente Donald Trump de rejeitar pedidos de regulamentação feitos por executivos como Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk.

No Congresso americano, um projeto federal de "kill switch" apresentado pelo senador John Kennedy foi travado pelo colega republicano Rand Paul, que argumenta ser necessário ouvir a indústria antes de avançar com qualquer regulamentação para o setor, ainda de acordo com a reportagem da Fox Business.

O próprio Newsom reconheceu que o conceito de "kill switch" ainda está em fase inicial de definição. "Isso significa muitas coisas diferentes dependendo de com quem você conversa", disse o governador, ao anunciar que um painel de especialistas vai detalhar como o mecanismo funcionaria na prática antes de virar proposta de lei.

A discussão ocorre em meio a um debate global sobre os riscos de modelos de IA cada vez mais avançados. Nos Estados Unidos, especialistas em segurança têm defendido a criação de salvaguardas comparáveis às usadas no controle de armas nucleares, enquanto empresas como OpenAI e Anthropic dizem apoiar formas de supervisão, mas resistem a regras que consideram excessivamente rígidas.