A história começa pequena. Alguém espera o anúncio de uma câmera nova — os rumores existem, a data não. Em vez de checar sites o dia inteiro, delega a um agente: "verifique se houve o anúncio e me avise".
Um detalhe fica de fora: com que frequência checar.
Na manhã seguinte, os registros contam o resto: o agente rodou a cada poucos minutos, a noite inteira, varrendo dezenas de sites e fazendo milhares de chamadas de IA para interpretar os resultados. Nesse caso houve sorte — custo baixo, ajuste rápido: "uma vez por dia basta; e apenas estes três sites". Muitas histórias iguais terminam com centenas ou milhares de dólares em chamadas desnecessárias.
Esse é o Problema do Golem. No conto judaico do século XVI, uma figura de barro é animada por ritual e faz o que mandam — sem parar sozinha. Alguém precisa desativá-la. O Golem não desobedece; obedece demais.
- O agente não tem um "terminei" embutido.
- Se não houver clareza sobre quando parar, ele pode continuar indefinidamente.
- E com acesso a web, mensagens, código e arquivos, ele sempre encontra mais trabalho.
O agente fez exatamente o que foi mandado — e nada do que foi querido. A diferença entre os dois é o contrato que faltou.