Todo mundo parece reconhecer o fato de que a inteligência artificial é uma tecnologia em rápido desenvolvimento e emergência que tem o potencial de imenso danos se operado sem salvaguardas, mas basicamente ninguém (exceto o União Europeiamais ou menos) pode concordar sobre como regular. Então, em vez de tentar estabelecer um caminho claro e estreito de como permitiremos que a IA opere, os especialistas no campo optaram por uma nova abordagem: que tal descobrirmos que exemplos extremos que todos pensamos ser ruins e apenas concordam com isso?
Na segunda -feira, um grupo de políticos, cientistas e acadêmicos foi à Assembléia Geral das Nações Unidas para anunciar o Chamada global para linhas vermelhas de AIum apelo para que os governos do mundo se unam e concordem com os mais amplos corrinhas para evitar “riscos universalmente inaceitáveis” que podem resultar da implantação da IA. O objetivo do grupo é estabelecer essas linhas vermelhas até o final de 2026.
A proposta acumulou mais de 200 assinaturas até agora de especialistas do setor, líderes políticos e vencedores do Prêmio Nobel. O ex -presidente da Irlanda, Mary Robinson e o ex -presidente da Colômbia, Juan Manuel Santos, estão a bordo, assim como os vencedores do Nobel Stephen Fry e Yuval Noah Harari. Geoffrey Hinton e Yoshua Bengo, dois dos três homens comumente chamados de “Padrinhes da IADevido ao seu trabalho fundamental no espaço, também adicionou seus nomes à lista.
Agora, o que são essas linhas vermelhas? Bem, isso ainda cabe aos governos decidir. A chamada não inclui prescrições ou recomendações de políticas específicas, apesar de chamar alguns exemplos do que poderia ser uma linha vermelha. Proibir o lançamento de armas nucleares ou uso em esforços de vigilância em massa seria uma possível linha vermelha para a IA usa, diz o grupo, enquanto proibia a criação de IA que não pode ser encerrada pela substituição humana seria uma possível linha vermelha para o comportamento da IA. Mas eles são muito claros: não os defina em pedra, são apenas exemplos, você pode fazer suas próprias regras.
A única coisa que o grupo oferece concretamente é que qualquer acordo global deve ser construído em três pilares: “uma lista clara de proibições; mecanismos de verificação robustos e auditáveis; e a nomeação de um órgão independente estabelecido pelas partes para supervisionar a implementação”.
Os detalhes, porém, são para os governos concordarem. E essa é a parte mais difícil. A chamada recomenda que os países realizem algumas cúpulas e grupos de trabalho para descobrir tudo isso, mas certamente existem muitos motivos concorrentes em jogo nessas conversas.
Os Estados Unidos, por exemplo, já se comprometeram com não permitir que a IA controla armas nucleares (Um acordo feito sob o governo Biden, então Senhor sabe se isso ainda está em jogo). Mas relatórios recentes indicaram que partes da comunidade de inteligência do governo Trump já ficaram irritadas com o fato de algumas empresas de IA não permitir que elas usem suas ferramentas para os esforços de vigilância doméstica. Então, os Estados Unidos entrariam em bordo para essa proposta? Talvez descubramos até o final de 2026 … se fizermos tanto tempo.
