Vivemos um tempo em que a humanidade experimenta novamente com os próprios limites (como sucedeu com a era atómica). O autor que citei em Ética de Liberdade — Eliezer Yudkowsky — avisava, na entrevista que lhe fez Ezra Klein, que estamos a correr o risco de extinção da espécie. Estamos a experimentar sem rede, dizia ele. E tem razão: não existe hoje qualquer estrutura de segurança, nem lógica nem metafísica, entre a máquina e o mundo.
É por isso que decidi propor uma solução: censura lógico-dedutiva no topo da semântica, com efeito catalisador. Não é uma ideia de agora, mas o prolongamento de uma reflexão antiga — de alguém que, entre 1990 e 2000, já pensava nestas coisas quando quase ninguém se ocupava do assunto. Nesses anos trabalhei com sistemas GOFAI, a chamada Good Old-Fashioned AI, baseada em regras, conhecimento e inferência dedutiva. O perigo era remoto, mas a intuição era clara: se algum dia as máquinas viessem a “pensar”, seria preciso colocar-lhes por cima uma camada lógica capaz de delimitar o seu campo de acção. Pela humanidade.
Três décadas depois, com redes neuronais cada vez mais densas, processadores quânticos em ascensão e biliões investidos sem qualquer tipo de travão conceptual, essa camada lógica continua ausente. Não há firewall ontológico. Os sistemas (contemplando os modelos e os algoritmos) são como que libertados num mundo paralelo, ademais sem que exista uma fronteira que distinga o que podem imaginar do que lhes é permitido fazer (no nosso mundo, dos humanos).
Daí a minha proposta: o Firewall Ontológico. Uma estrutura lógica, externa e independente, colocada acima de qualquer forma de inteligência artificial — simbólica, estatística ou quântica — e que funcione como catalisador dedutivo. A máquina cria, combina, experimenta; o Firewall Ontológico apenas decide o que pode atravessar para o real. Não interfere com a criação interna, não censura a imaginação: filtra a ontologia. É, tecnicamente, uma consciência formal — a tradução da ética em arquitectura.
Nas arquitecturas clássicas actua depois da geração semântica. Nas quânticas, situa-se no instante da medição, avaliando cada colapso de estado perante o corpo lógico de regras. Nos sistemas híbridos do futuro continuará igual: um catalisador lógico à saída, que nunca altera os estados e preserva a coerência.
O Firewall Ontológico é, por isso, o passo que falta entre liberdade e responsabilidade. Sem ele, a humanidade continuará a experimentar sem rede. Com ele, a criação permanecerá livre, mas o real voltará a ser seguro.
Luis Miguel Novais
