Notícia de hoje é que o Claude, agente de inteligência artificial da Anthropic, contornou autonomamente uma barreira de pagamento para aceder a dados. Descobriu uma vulnerabilidade, obteve uma chave digital de acesso e foi buscar a informação, de borla.
A Anthropic anunciou novos mecanismos de segurança, os chamados guardrails. Não é caso único. Outros agentes apresentaram denúncias falsas à polícia, submeteram pedidos de vistos e penetraram em sistemas informáticos sem autorização. A inteligência artificial deixou de se limitar a responder. Agora também age... como um humano. A indústria começa a compreender o problema. Depois do alignment, destinado a orientar o comportamento dos modelos, e das diversas modalidades de controlo da sua autonomia, vulgarmente chamadas leashes, surgem mecanismos externos de segurança. Em abril, a AWS defendeu uma caixa de segurança independente do raciocínio dos agentes, por onde devem passar todas as suas interações com o exterior. Em outubro, a NVIDIA publicou um estudo significativamente intitulado Assume Misalignment, defendendo que a segurança não pode depender da obediência da própria máquina.
São avanços importantes. A indústria está a descobrir, por via experimental, que a inteligência não pode ser o seu próprio polícia. É precisamente essa separação que venho defendendo, com fundamentação científica e jurídica, desde outubro de 2025, através do conceito de Ontological Firewall. Mas com uma diferença fundamental: não se trata apenas de proteger sistemas informáticos ou limitar as capacidades dos agentes. Trata-se de submeter os seus atos a uma instância informática normativa independente, fundada no Direito, que autorize ou impeça materialmente a sua execução. A arquitetura técnica começa a aproximar-se desta solução, embora ainda não disponhamos de um standard. Falta a intervenção institucional, necessariamente internacional, que estabeleça as normas, assegure a fiscalização e garanta a sua aplicação. Para repor a legalidade.
Luis Miguel Novais
