Califórnia avança na regulação de modelos de IA

A Califórnia pode se tornar a primeira jurisdição dos EUA a impor regras de risco vinculantes para desenvolvedores de IA de fronteira. A Assembleia Legislativa aprovou o SB 53, que exige protocolos de segurança públicos, reporte de incidentes e proteção a denunciantes. O texto aguarda a decisão do governador Gavin Newsom, que já sinalizou apoio a uma supervisão mais firme do setor.

O projeto obriga desenvolvedores de modelos avançados a publicar protocolos de segurança detalhando testes de riscos catastróficos e mitigações; emitir relatórios de transparência a cada novo release (avaliações de risco, limites de capacidade perigosa, usos pretendidos e salvaguardas); e reportar incidentes críticos ao estado em até 15 dias (ou 24 horas em caso de ameaça iminente).

A partir de 2030, passam a valer auditorias independentes anuais, com resumos enviados ao Procurador-Geral. Violações reincidentes envolvendo risco catastrófico podem gerar multas de até US$ 10 milhões.

Califórnia e a governança de IA

A proposta está alinhada ao Relatório de Política de IA de Fronteira elaborado por um grupo de especialistas convocado por Newsom: foco em evidências, divulgações padronizadas, rastreamento de incidentes e proteção a insiders, evitando microgestão.

O desenho busca o “meio-termo” entre inovação e segurança, tanto que recebeu apoio público de players do setor. Em paralelo, a lei AB 2013 (em vigor a partir de 1º de janeiro de 2026) exigirá resumos dos dados de treinamento de modelos generativos, criando uma base de transparência complementar ao SB 53.

Regulação de IA: impactos para finanças e produto

Para empresas de tecnologia, finanças e serviços críticos, o SB 53 antecipa rotinas que tendem a se tornar padrão:

• Risk-by-design: protocolos e testes de segurança integrados ao ciclo de vida do modelo.
• Transparência auditável: trilhas de auditoria, versionamento e controles de mudança.
• Gestão de crise: processos de incidente crítico com prazos curtos e papéis definidos.
• Compliance contínuo: auditorias anuais e governança de fornecedores (modelos terceiros).

Se assinado, o SB 53 reposiciona a Califórnia como referência de regulação de IA, com efeitos de extraterritorialidade: provedores globais que operam no estado tenderão a padronizar processos para todos os mercados. Para executivos, o recado é claro: hora de elevar governança, observabilidade e resposta a incidentes ao nível “bank-grade”, antes que vire obrigação em outras praças.