A Harbor, startup de São Francisco que monitora agentes de inteligência artificial e estrutura seguro contra as falhas deles, saiu do modo discreto com US$ 10 milhões em rodada seed liderada por Base10, Abstract e 8VC. Também entraram NFX, Restive, Kibo Ventures, Innovation Endeavors, MVP Ventures e Masia, segundo o comunicado da empresa.
“Quando um agente causa uma perda, a empresa paga com recursos do próprio balanço”, disse Jesús Santos, cofundador e CEO da Harbor, em entrevista à Exame. Segundo ele, se o agente vem de um fornecedor, o contrato costuma pôr um teto de 12 meses de contrato no que esse fornecedor paga por erro, conforme o que foi negociado; o resto fica com quem pôs o sistema para operar.
Como a plataforma mede e barra o agente
Sem anos de sinistros para calcular preço, a startup examina o próprio sistema. O cliente abre o modelo usado, as ferramentas, as permissões e as bases de dados, além do log de decisões. Esse material é confrontado com um catálogo de 45 riscos, montado com instituições de pesquisa, entre as quais o Stanford AI Safety Lab, e vira estimativa de frequência e custo de cada falha. Segundo Santos, toda alteração no agente obriga a refazer a conta, e o preço acompanha.
A segunda camada fica entre o que o agente decide e o que executa: a plataforma confere a ação contra as regras do cliente e libera, trava ou chama um humano num prazo inferior a 100 milissegundos, de acordo com a empresa. No exemplo hipotético de Santos, um banco exige aval humano para reembolso superior a US$ 5.000; se o agente tenta pagar US$ 7.200 ao cliente, o pagamento para antes de sair. “No Brasil, o Pix conclui uma transferência em segundos. Portanto, o intervalo entre a decisão e a ação é o momento para interromper o erro”, disse.
Harbor · rodada e plataforma
US$ 10 mi para medir o agente e barrar a ação antes da execução
O que escapa dos controles vai para a apólice, que prevê seis categorias de falha e pode cobrir prejuízo próprio, danos a terceiros, defesa regulatória e resposta ao incidente. As duas fontes divergem sobre quem banca a indenização. À Exame, Santos disse: “A Harbor faz a precificação e a subscrição. As seguradoras fornecem a capacidade e assumem o risco financeiro”. Já o comunicado da rodada, que ele assina como CEO, afirma que a Harbor segura o risco restante com dinheiro próprio por trás. Nomes das seguradoras parceiras, franquias, limites, exclusões e preço não foram revelados.
Falhas de agente de IA previstas na apólice da Harbor
Tipo de falha
Alucinações e erros nas respostas
Ações incorretas ou não autorizadas
Viés e discriminação
Descumprimento de contratos e níveis de serviço
Vazamento de dados
Violações de propriedade intelectual e difamação
Categorias descritas por Jesús Santos. Fonte: Exame
EUA e Europa completam, com a América Latina, os mercados onde a Harbor atua. Na região, Santos diz estar em conversas com 3 dos 5 maiores bancos, sem revelar quais, e afirma que o que mais os atrai é poder barrar a ação antes da execução. O comunicado da rodada diz que os primeiros clientes são bancos e seguradoras nos EUA, na Europa e na América Latina; à Exame, Santos não disse quantos clientes já pagam nem quantos agentes rodam em operação por lá.
O teste é atuarial: precificar risco pela inspeção técnica do agente, sem série histórica de perdas, só se sustenta se as indenizações ficarem perto do estimado. Vale acompanhar se seguradoras vão ceder capacidade com base nesse tipo de medição.
A outra frente é regulatória. Supervisores começam a cobrar gestão de risco de IA, como o BC de Singapura, que dá diretrizes de risco de IA a financeiras. Se a cobrança se espalhar, a divisão de culpa entre o dono do modelo, o desenvolvedor do agente e a empresa que o põe em operação pode deixar de ser só assunto de contrato.
