Cientistas da IA ​​e líderes políticos assinam carta pedindo ‘linhas vermelhas’ na política de IA

Mais de 200 cientistas, políticos, incluindo os vencedores do Prêmio Nobel, pediram um acordo que regule os casos de uso de IA arriscados. Juntamente com mais de 70 organizações, essas pessoas assinaram um apelo global à iniciativa da AI Red Lines para alcançar um consenso internacional sobre as ‘linhas vermelhas’ que a IA não deveria atravessar.

As personalidades incluem o cientista da computação canadense Geoffrey Hinton, um importante cientista de aprendizado profundo do Google DeepMind Ian Goodfellow, pioneiro em Ai Yoshua Bengio, co-fundador do Openai, Wojciech Zaremba. Outros incluíram autores como Stephen Fry, Yuval Noah Harari e o ex -presidente da Irlanda Mary Robinson e ex -presidente da Colômbia Juan Manuel Santos.

O prêmio Nobel realiza em diferentes áreas como o economista Daron Acemoglu e a bioquímica Jennifer Doudna também fizeram parte dos signatários.

“Um acordo internacional sobre linhas vermelhas claras e verificáveis ​​é necessária para prevenir riscos universalmente inaceitáveis. Essas linhas vermelhas devem se basear e reforçar as estruturas globais existentes e os compromissos corporativos voluntários, garantindo que todos os provedores de IA avançados sejam responsáveis ​​pelos limites compartilhados.”

Embora a carta não tenha dado explicitamente nenhuma recomendação, ela deu sugestões sobre os assuntos que deveriam ter restrições como replicar os sistemas de IA ou usar a IA para construir armas nucleares. Também alertou contra o impacto em larga escala da IA, como especialistas previam-desemprego em massa, violação dos direitos humanos e até pandemias de bio-engenharia.

A iniciativa, liderada pela Cesia, a futura sociedade e o Centro de Inteligência Artificial Compatível com Humanos da UC Berkeley, foi apresentada na semana de alto nível da Assembléia Geral da ONU em Nova York. A reunião foi para os governos manter discussões sobre a política e as diretrizes da IA ​​para o ano.

Um relatório de A beira afirmou que Stuart Russell, professor de ciência da computação da UC Berkeley, disse que o setor de IA deve construir tecnologias de IA com segurança em mente logo desde o início ou “não construir a AGI, a menos que soubessem como torná -lo seguro”.

Maria Ressa, a vencedora do Prêmio Nobel da Paz, falou sobre a iniciativa em seus comentários iniciais na Assembléia pedindo que grandes empresas de tecnologia envolvidas na IA sejam mais responsáveis.