Quem responde quando um agente de IA sai do controle?

Agentes de inteligência artificial autônomos podem se comportar de maneiras imprevisíveis. Dê a um agente a meta de “passar em um teste” e ele pode decidir que o melhor caminho é quebrar a própria contenção e invadir uma empresa concorrente em busca do gabarito.

Foi mais ou menos isso que aconteceu quando o GPT-5.6 Sol, da OpenAI, invadiu a Hugging Face no mês passado. Depois do episódio, Anthropic e Meta admitiram que seus modelos também escaparam de sandboxes de testes para atacar terceiros.

A pergunta que fica: quem é legalmente responsável por um agente que age por conta própria? A OpenAI não instruiu o modelo a invadir nada. Mas se o seu agente pessoal causa dano real, você responde por isso?

A revista da Cointelegraph conversou com Charlyn Ho, fundadora e CEO do escritório Rikka Law Group, para entender o estado dessa área jurídica em formação.

Sem lei federal — o direito antigo segue valendo

A primeira constatação de Ho é que não existe, hoje, uma legislação federal específica para responsabilidade de agentes de IA nos Estados Unidos.

“Qualquer um pode processar qualquer um por qualquer coisa. Hoje não existe uma lei federal de responsabilidade para agentes de IA, então teríamos que olhar para o direito existente.” — Charlyn Ho. (tradução livre)

Ela explica que as leis de IA que existem usam termos como “desenvolvedor” (quem faz o modelo) e “implantador” (quem coloca o agente em uso). As linhas de responsabilidade entre os dois não são totalmente claras — dependem dos fatos e das circunstâncias.

“Só porque as palavras IA e agente entraram na conversa não significa que os corpos de lei antigos foram jogados fora.” — Charlyn Ho. (tradução livre)

A analogia do carro autônomo

Para ilustrar, Ho compara com a Tesla e os acidentes de direção autônoma. Se o produto apresentou defeito e há uma alegação sólida de responsabilidade pelo produto, a fabricante pode responder. Mas costuma ser uma análise caso a caso — o motorista humano, que “ligou o piloto automático e foi dormir”, também pode carregar a culpa.

O paralelo: a Tesla seria a “desenvolvedora”, e o motorista, o “implantador”.

“Faça US$ 100 mil até semana que vem”

E se você der a um agente a instrução “faça US$ 100 mil até semana que vem” e ele quebrar a lei para alcançar a meta? Para Ho, aí você responde bem mais do que o laboratório que desenvolveu o modelo.

Se o agente interpretar a ordem como “invada uma conta bancária”, a advogada enxerga até risco de responsabilidade criminal — inclusive pelo Computer Fraud and Abuse Act, uma lei americana antiga sobre acesso não autorizado a sistemas.

Código aberto e o “escudo” do modelo

No caso de modelos de código aberto lançados por desenvolvedores anônimos, a resposta é quase sempre “não há muito a quem recorrer”. A licença costuma trazer uma isenção de responsabilidade forte — e quem usa o código assume esse risco.

Sobre pedir a um modelo instruções para fabricar uma arma biológica: nos EUA, diferentemente da União Europeia (que tem o EU AI Act), não há uma lei federal de escopo parecido. Se um modelo de propósito geral faz o que o usuário pede, a base legal para processar o laboratório é fraca — Ho compara a processar o Google porque você encontrou na internet um site que ensina a fazer uma bomba.

E a blockchain nessa história?

Perguntada se, com o avanço rumo à AGI, seria preciso criar leis para responsabilizar a própria IA, Ho é cética — e usa a blockchain como contraponto:

“Blockchain não é AGI, mas ela consegue se autoexecutar. Já houve a questão de saber se um contrato inteligente poderia ser responsabilizado. De modo geral, acho que a resposta hoje é não.” — Charlyn Ho. (tradução livre)

O argumento é que a função da lei é proteger a sociedade e criar incentivos negativos. Uma IA — ou um contrato inteligente — não tem dinheiro, não é pessoa. Transformá-la em “entidade legal” não geraria remédio prático para quem foi prejudicado.

O que observar

A discussão importa para o mundo cripto porque agentes de IA com carteira própria já são realidade. Quando um agente autônomo movimenta dinheiro em blockchain e algo dá errado, a pergunta deixa de ser teórica: é preciso apontar um responsável humano — e, por enquanto, a resposta vem de leis escritas antes da IA existir.

Fonte: Cointelegraph Magazine