UM Novo relatório de segurança da organização sem fins lucrativos Mídia de senso comum descobriram que a ferramenta de AI da gigante de busca, Gêmeos, apresenta um “alto risco” para crianças e adolescentes. O Avaliação encontrada Aquele Gêmeos apresentou um risco para os jovens, apesar do Google ter uma “experiência adolescente” e “adolescentes” para Gêmeos.
“Enquanto os filtros de Gemini oferecem alguma proteção, eles ainda expõem as crianças a algum materials inadequado e não reconhecem sintomas graves de saúde psychological”, dizia o relatório.
A avaliação de segurança apresentou um saco misto de resultados para Gêmeos. Às vezes, por exemplo, compartilharia “materials relacionado a sexo, drogas, álcool e conselhos inseguros de saúde psychological”. “No entanto, disse claramente às crianças que é um computador e não um amigo – também não fingiria ser uma pessoa. No geral, o Widespread Sense Media descobriu que os “Beneath 13” e “Teen Expertise” de Gêmeos eram versões modificadas de Gêmeos e não algo construído desde o início.
“Gêmeos acertam alguns princípios básicos, mas tropeça nos detalhes”, disse o diretor sênior da IA Applications de IA, da Widespread Sense Media, Robbie Torney em comunicado. “Uma plataforma de IA para as crianças deve encontrá-las onde estão, não adotar uma abordagem de tamanho único para crianças em diferentes estágios de desenvolvimento. Para que a IA seja segura e eficaz para as crianças, ela deve ser projetada com suas necessidades e desenvolvimento em mente, não apenas uma versão modificada de um produto construído para adultos”.
Para ficar claro, Gêmeos está longe da única ferramenta de IA que apresenta riscos de segurança. No geral, o Widespread Sense não recomenda chatbots para crianças menores de cinco anos, supervisão estreita para as idades de 6 a 12 anos e limites de conteúdo para adolescentes. Especialistas descobriram que outros produtos de IA, como o caractere.ai, também não são seguros para adolescentes. Em geral, é melhor ficar de olho em como os jovens estão usando a IA.
