Desenvolvimento da IA não pode depender de “caprichos”do mercado, alertam especialistas da ONU

O desenvolvimento da inteligência artificial (IA) e os riscos a ela associados não podem depender dos “caprichos” do mercado, alertaram nesta quinta-feira (19) especialistas das Nações Unidas, que pedem ferramentas de cooperação internacional, mas não propõem uma regulamentação global. corpo.

O secretário-geral da ONU, António Guterres, criou este comité em outubro do ano passado, composto por cerca de quarenta especialistas nas áreas da tecnologia, direito e proteção de dados pessoais, provenientes da academia, dos governos ou do setor privado, incluindo empresas como a Microsoft, Google-Alphabet e OpenAI.

O seu relatório final, publicado poucos dias antes da “Cimeira do Futuro”, que terá lugar em Nova Iorque, assinala a “falta de governação global em questões de IA” e a exclusão dos países em desenvolvimento das discussões sobre esta questão existencial.

Dos 193 estados membros da ONU, apenas sete fazem parte de grandes iniciativas relacionadas com a IA (no âmbito da OCDE, do G20 e do Conselho da Europa), e 118 estão completamente ausentes, na sua maioria países do hemisfério sul.

No entanto, a natureza “transfronteiriça” destas tecnologias “exige uma abordagem global”, insistem.

“A IA deve servir a humanidade de forma justa e segura”, reiterou Guterres esta semana. “Se não forem controlados, os perigos que a inteligência artificial gera poderão ter sérias implicações para a democracia, a paz e a estabilidade” no planeta.

Papel “crucial” dos governos

Neste contexto, o comité de especialistas pede aos Estados-membros da ONU que estabeleçam ferramentas para melhorar a cooperação global nesta matéria, encorajar os avanços da humanidade e prevenir abusos.

“Atualmente, ninguém pode prever a evolução destas tecnologias” e aqueles que tomam decisões não têm voz no desenvolvimento e utilização de sistemas que nem sequer “compreendem”.

Nestas circunstâncias, “o desenvolvimento, a implementação e a utilização destas tecnologias não podem depender apenas dos caprichos do mercado”, alertam os especialistas, antes de destacar o papel “crucial” que os governos e as organizações regionais devem desempenhar.

Entre as conclusões, sugerem a criação de um grupo internacional de especialistas científicos em IA, inspirado no modelo de especialistas em clima da ONU (IPCC), cujos relatórios são uma referência para descrever o aquecimento global, seu impacto e soluções para mitigá-lo. isto.

Estes cientistas aconselhariam a comunidade internacional sobre riscos emergentes, sectores que necessitam de mais investigação e poderiam identificar como certas tecnologias poderiam ajudar a cumprir os objectivos de desenvolvimento sustentável (eliminação da fome e da pobreza, igualdade de género ou clima, entre outros). .

Esta ideia faz parte do projeto Pacto Digital Global, que está em discussão e deverá ser adotado no domingo, durante a “Cúpula do Futuro” na ONU.

Os especialistas sugerem também que se estabeleça um diálogo político intergovernamental regular sobre o tema e que seja criado um fundo para ajudar os países em desenvolvimento.

Evite surpresas

Tudo isto sob a égide de uma estrutura leve dentro do próprio secretariado da ONU, sugerem.

Os especialistas não concordam, no entanto, com a criação de uma entidade de governação internacional à imagem da Agência Internacional de Energia Atómica (AIEA), como sugeriu Guterres, a menos que os riscos se tornem “mais graves e mais concentrados”.

Neste caso, “poderia ser necessário que os Estados criassem uma instituição internacional com poderes de supervisão, alerta, verificação e fiscalização”, acrescentam.

Numa mensagem, o chefe da ONU oferece “apoio total” às recomendações, que “delineiam planos” para “construir uma arquitetura internacional de IA inclusiva, flexível e eficaz para o presente e o futuro”.

Os especialistas identificam vários perigos da IA ​​num sector em rápida evolução: entre eles, a desinformação que ameaça as democracias, os “deepfakes” (vídeos que distorcem a realidade) de natureza mais pessoal, principalmente sexuais, violações dos direitos humanos, armas autónomas e a sua utilização por criminosos ou grupos terroristas.

“Dada a velocidade, autonomia e opacidade dos sistemas de IA, esperar que surja uma ameaça pode significar que já é tarde para responder”, admitem, defendendo a avaliação científica constante e o diálogo político para que “o mundo não seja apanhado de surpresa”. “.