O Google DeepMind publicou nesta quinta-feira (18) o “AI Control Roadmap”, framework que trata agentes de IA como possíveis adversários internos e propõe defesa em camadas. Abandona a premissa de alinhamento perfeito e adota visão “conservadora, de pior caso”. No Brasil, a Zup, do Itaú, fechou esta semana parceria com a Anthropic para IA corporativa.
As três ameaças que o DeepMind tenta conter
| Categoria | O que ameaça |
|---|---|
| Perda de controle | Implantações internas “rogue” |
| Sabotagem de trabalho | Pesquisa de alinhamento e segurança intencionalmente falha |
| Dano direto | Destruição ou exfiltração de ativos críticos |
Categorias mapeadas pelo Google DeepMind no “AI Control Roadmap” de 18 de junho de 2026. Fonte: PYMNTS.
Como o roadmap trata o agente IA
O documento divide as ameaças hipotéticas em três blocos: “perda de controle”, com implantações internas “rogue”; “sabotagem de trabalho”, via “pesquisa de alinhamento e segurança intencionalmente falha”; e “dano direto”, a destruição ou exfiltração de ativos críticos. Os pesquisadores afirmam ter adotado uma “abordagem conservadora, de pior caso” ao mapear as ameaças, assumindo cenários em que o Google teria de lidar com um “adversário de IA hipotético perseguindo objetivos indesejáveis em implantação interna”. “Não devemos assumir que agentes de IA estão sempre perfeitamente alinhados, mas devemos construir múltiplas camadas de defesa”, afirma o relatório.
O modelo de contenção combina permissões progressivas com supervisão por outras IAs. O Google compara o desenho a um instrutor de direção com controles duplos: o instrutor confia no aluno, mas mantém o pedal pronto se houver erro. “Nosso sistema de controle de IA concede permissões a agentes com base em comportamento verificado, permitindo que construamos confiança por meio de acesso controlado e incremental”, escreveu a empresa em post no blog do DeepMind. A operação mede três métricas: cobertura (fração do tráfego monitorado), recall (fração de comportamentos desalinhados detectados) e tempo de resposta.
