Candidatei-me ao Independent International Scientific Panel on Artificial Intelligence das Nações Unidas.
Não fui escolhido.
Nada de extraordinário. Houve mais de 2.600 candidaturas, provenientes de mais de 140 países, para 40 lugares. Estatisticamente, seria mais extraordinário ter sido escolhido.
O extraordinário veio depois.
Não recebi uma palavra. Nem uma pergunta. Nem um pedido de esclarecimento. Nem sequer um obrigado pela candidatura.
Podia ficar por aqui. Não fico.
As Nações Unidas apresentam o painel como multidisciplinar. Dizem que procuraram conhecimento técnico de inteligência artificial, experiência em safety e infraestruturas, política, ética e impacto. Os candidatos foram avaliados pela International Telecommunication Union, pelo UN Office for Digital and Emerging Technologies e pela UNESCO. Depois dessa avaliação, o Secretário-Geral recomendou à Assembleia Geral os 40 nomes que acabaram nomeados.
Olho para os 40.
Vejo alguns dos melhores cientistas de inteligência artificial do mundo. Vejo engenheiros. Investigadores. Especialistas em machine learning. Ética. Direitos humanos. Informação. Políticas públicas. Empresas tecnológicas.
Na composição publicada pelas próprias Nações Unidas não encontro um perfil cujo eixo central seja aquilo a que chamávamos, antes de a inteligência artificial nos obrigar a reaprender o óbvio, Direito.
Direito internacional. Direito humanitário. Responsabilidade. Personalidade. Imputação. Limites ao exercício do poder. Direitos fundamentais.
É uma ausência estranha num organismo criado para estudar uma tecnologia cuja questão mais importante talvez já não seja saber o que ela consegue fazer.
É saber o que lhe devemos permitir fazer.
A ética aconselha. O Direito obriga.
Esta diferença não é ornamental.
Candidatei-me precisamente por isso. Sou jurista, trabalho há décadas em contexto internacional e estudo e utilizo inteligência artificial suficientemente de perto para não a confundir nem com uma calculadora sofisticada nem com uma entidade sobrenatural.
E apresentei uma ideia concreta.
Chamei-lhe ontological firewall.
A inteligência artificial pode raciocinar, recomendar, calcular, descobrir, criar e, cada vez mais, agir. O que não deve poder fazer é atravessar autonomamente uma fronteira ontológica: transformar a sua própria conclusão numa decisão sobre a vida, a liberdade ou a integridade de um ser humano sem intervenção humana juridicamente responsável.
Podemos discutir a solução.
O que me custa compreender é que uma organização criada, entre outras coisas, para proteger a humanidade das consequências do poder não tenha sequer querido discutir a pergunta.
Não estou a dizer que eu devia integrar o painel.
Estou a dizer quase o contrário.
Entre 2.600 pessoas poderia certamente haver juristas melhores do que eu para o fazer.
Onde estão?
O painel é apresentado pela ONU como um mecanismo de early warning sobre os riscos da inteligência artificial e como ponte entre ciência e decisão política. Ao mesmo tempo, a própria ONU esclarece que não regula, não estabelece regras, não impõe standards e não prescreve políticas.
Precisamente.
Se esta é a antecâmara científica da futura governação mundial da inteligência artificial, seria prudente ter juristas dentro da sala antes de as regras começarem a ser escritas.
O Secretário-Geral das Nações Unidas é português. É engenheiro. António Guterres foi também presidente da Internacional Socialista entre 1999 e 2005.
Não retirei daí qualquer direito especial à atenção do Secretário-Geral. Ser português não me dá precedência. Não pertencer à Internacional Socialista não me deve retirar nenhuma.
E não tenho qualquer elemento que permita afirmar que redes políticas tiveram alguma influência nesta seleção.
Mas é precisamente para não nascerem perguntas destas que os grandes processos internacionais devem ser transparentes.
Quais foram os critérios aplicados a cada candidatura? Quem passou às sucessivas fases? Que disciplinas ficaram representadas? Que disciplinas ficaram de fora? Houve uma opção deliberada por não incluir juristas? Alguém leu as propostas substantivas apresentadas pelos candidatos que não foram escolhidos? Foram algumas conservadas? Foram encaminhadas para quem trabalha sobre esses temas?
Não sei.
E esse é o problema.
Uma instituição internacional não deve pedir a milhares de pessoas que lhe entreguem experiência, trabalho e ideias e depois tratá-las como formulários que desapareceram numa base de dados.
Muito menos as Nações Unidas.
A inteligência artificial está a colocar problemas que são tecnológicos apenas na superfície. Por baixo estão os problemas de sempre: poder, responsabilidade, liberdade, guerra, dignidade e vida humana.
É precisamente para isso que inventámos o Direito.
Ter 40 especialistas mundiais em inteligência artificial e praticamente esquecer os juristas não é multidisciplinaridade.
É uma lacuna.
Quanto ao meu ontological firewall, continuo à espera que alguém o derrube.
Com argumentos.
Para isso não era preciso terem-me dado um lugar.
Bastava terem ouvido.
Luis Miguel Novais
