O estado da arte hoje é difícil de resolver. A lógica deôntica — a lógica das normas — continua prisioneira de um problema clássico conhecido como o caso do “veículo no parque”. A norma diz “é proibido veículos no parque”. Mas o mundo informático não cabe assim tão bem em frases curtas: o carro é proibido, a ambulância em emergência deve entrar, o carrinho de bebé nunca foi “veículo” para este efeito. A lógica não resolve isto sozinha; a tecnologia também não. E, como desenvolvi em dois textos anteriores deste Portugal Adormecido — Ética da Liberdade e Ontological Firewall — a dificuldade não está na norma, mas na classificação do mundo: como é que um sistema artificial eticamente orientado decide antes de aplicar a regra? Como qualifica? Como fundamenta? Como evita arbitrariedade? Hoje a resposta é: mal. Eis o limite técnico e conceptual.
É aqui que entra a minha proposta de Ontological Firewall - solução que espero vir a desenvolver academicamente e implementar institucionalmente de modo a tornar-se universal, ao serviço da humanidade. Consiste numa camada de supervisão ontológica e dedutiva que se coloca antes da aplicação das alterações, tal como um processo se coloca antes da sentença. Uma arquitectura inspirada na lógica deôntica, no direito processual e na programação orientada para objectos: primeiro identificar os factos, depois classificar com critérios transparentes e auditáveis e, só então, aplicar as normas com as respectivas exceções. Um modelo aberto, verificável e livre, que possa vir a tornar-se um standard global de segurança semântica para sistemas avançados de Inteligência Artificial, tal como a web (www) se tornou o standard universal de interoperabilidade técnica. Se o século XXI vai viver cercado por máquinas cada vez mais competentes, antes de ficar à espera que façam disparates, a humanidade precisa que as máquinas pensantes saibam distinguir um carro de um carrinho de bebé.
Luis Miguel Novais
