A inteligência artificial está se juntando à lista de grandes e complexos desafios globais que os líderes e diplomatas mundiais enfrentarão no encontro anual de alto nível das Nações Unidas da semana.
Desde que o Boom da AI começou com a estréia do ChatGPT há cerca de três anos, os recursos de tirar o fôlego da tecnologia surpreenderam o mundo. As empresas de tecnologia correram para desenvolver sistemas de IA maiores e melhores, mesmo quando os especialistas alertam sobre seus riscos, incluindo ameaças existenciais como pandemias de engenharia e desinformação em larga escala e pedem salvaguardas.
A adoção da ONU de uma nova arquitetura de governança é o mais recente e maior esforço para controlar a IA. Esforços multilaterais anteriores, incluindo três cúpulas de IA organizadas pela Grã-Bretanha, Coréia do Sul e França, resultaram apenas em promessas não vinculativas.
No mês passado, a Assembléia Geral adotou uma resolução para estabelecer dois órgãos -chave na IA – um fórum global e um painel científico independente de especialistas – em um marco para pastorear os esforços de governança global para a tecnologia.
Na quarta -feira, uma reunião do Conselho de Segurança da ONU convocará um debate aberto sobre o assunto. Entre as perguntas a serem abordadas: como o conselho pode ajudar a garantir a aplicação responsável da IA para cumprir o direito internacional e apoiar os processos de paz e a prevenção de conflitos?
E na quinta-feira, como parte da reunião anual do órgão, o secretário-geral da ONU, António Guterres, realizará uma reunião para lançar o fórum, chamado diálogo global sobre governança da IA.
É um local para governos e “partes interessadas” para discutir a cooperação internacional e compartilhar idéias e soluções. Está programado para se reunir formalmente em Genebra no próximo ano e em Nova York em 2027.
Enquanto isso, o recrutamento deve começar a encontrar 40 especialistas para o painel científico, incluindo dois co-presidentes, um de um país desenvolvido e um de uma nação em desenvolvimento. O painel fez comparações com o painel de mudanças climáticas da ONU e sua principal reunião anual da polícia.
Os novos corpos representam “um triunfo simbólico”. Eles são “de longe a abordagem mais inclusiva do mundo para governar a IA”, escreveu Isabella Wilkinson, bolsista de pesquisa da Casa Chatham House, com sede em Londres, em um Postagem do blog.
“Mas, na prática, os novos mecanismos parecem ter sido impotentes”, acrescentou. Entre as questões possíveis está se a administração pesada da ONU é capaz de regular uma tecnologia em rápido movimento, como a IA.
Antes da reunião, um grupo de especialistas influentes pediu que os governos concordassem com as chamadas linhas vermelhas para a IA entrar em vigor até o final do próximo ano, dizendo que a tecnologia precisa de “corrimões mínimos” projetados para impedir os “riscos mais urgentes e inaceitáveis”.
O grupo, incluindo funcionários seniores do fabricante de ChatGPT Openai, o Ai Research Lab do Google, DeepMind e Chatbot, Anthropic, quer que os governos assinem um contrato de vinculação internacionalmente na IA. Eles apontam que o mundo havia concordado anteriormente em tratados que proíbem testes nucleares e armas biológicas e protegendo o alto mar.
“A idéia é muito simples”, disse um dos apoiadores, Stuart Russell, professor de IA da Universidade da Califórnia, Berkeley. “Como fazemos com medicamentos e usinas nucleares, podemos exigir que os desenvolvedores provem a segurança como uma condição de acesso ao mercado”.
Russell sugeriu que a governança da ONU pudesse se parecer com o funcionamento de outro órgão não afiliado, a Organização Internacional da Aviação Civil, que coordena com os reguladores de segurança de diferentes países e garante que todos estejam trabalhando na mesma página.
E, em vez de estabelecer um conjunto de regras estabelecidas em pedra, os diplomatas poderiam elaborar uma “Convenção -Quadro” que seja flexível o suficiente para ser atualizada para refletir os últimos avanços da IA, disse ele.
