As celebridades estão familiarizadas demais com o mundo de DeepFakes, o termo coloquial para vídeos gerados por inteligência artificial que retratam atores e outros talentos de Hollywood fazendo falsamente ou dizendo coisas que nunca concordaram.
Para se proteger, atores como Steve Harvey, a agência de talentos de Beverly Hills, WME e Studios, alistaram a ajuda da Vermillio, uma empresa com sede em Chicago que acompanha a semelhança digital e a propriedade intelectual de pessoas famosas on-line. Dependendo do que seus clientes desejam, o Vermillio pode retirar o material.
Mas, à medida que a tecnologia de IA continua a melhorar e se torna mais amplamente disponível para o público em geral, as pessoas comuns também estão sendo enganadas.
Agora, Vermillio diz que está oferecendo uma versão de seu serviço gratuitamente a todos.
A mudança é mais e mais convincente deepfakes, continua a proliferar on -line, dificultando os sites de mídia social para policiar essa atividade. Em 2019, havia cerca de 18.000 deepfakes em todo o mundo e, este ano, houve cerca de 2 trilhões de criações generativas, disse o executivo-chefe e co-fundador da Vermillio, Dan Neely.
Isso deixa Joes em média em um risco crescente de serem representados on -line, com pouco recurso.
“Mal podemos esperar que os governos resolvam esse problema”, disse Neely. “Mal podemos esperar que os legisladores resolvam esse problema. Mal podemos esperar que outras pessoas resolvam esse problema. Acabamos de dizer que é a coisa certa a fazer, então devemos fazer isso”.
Com esse movimento, a Vermillo está adotando um modelo clássico de “freemium”-oferecendo serviço parcial sem custo e venda por recursos adicionais.
Aqui está como funciona.
Usando sua tecnologia Traceid, a empresa sinaliza conteúdo problemático. Para clientes pagantes, o Vermillio pode enviar solicitações de queda para sites como o YouTube ou o Instagram. Além disso, Vermillio diz que os clientes podem monetizar seus dados, licenciando -os.
As pessoas que se inscrevem na versão gratuita inserem informações sobre si mesmas, como nome, data de nascimento e lidar com as mídias sociais.
A Vermillio usará essas informações para criar um “modelo de semelhança” para vasculhar a Internet em busca de bandeiras vermelhas em potencial envolvendo a identidade do usuário. Então, Vermillio alerta o usuário sobre o que existe online. Por exemplo, se alguém criou uma conta falsa do Instagram desse usuário, o Vermillio sinalizaria isso.
Os usuários podem decidir por si mesmos o que gostariam de permitir ou tomar medidas para remover. Se o usuário quiser que a Vermillio solicite quedas do conteúdo inadequado, os usuários precisariam atualizar para uma conta paga, que começa em US $ 10 por mês e inclui cinco solicitações mensais de remoção.
Embora muitas plataformas de mídia social dêem uma opção aos usuários para sinalizar conteúdo problemático, Vermillio disse que seu serviço é mais rápido e mais eficaz do que fazer com que os usuários vão diretamente ao YouTube ou Instagram para corrigir a situação. Ele construiu uma rede de parceiros e pode escalar as quedas tão rapidamente quanto uma hora, disse a empresa.
Os executivos da Vermillio disseram que alguns exemplos da vida real de falsificações profundas incluem vozes de celebridades usadas para arrecadar dinheiro para instituições de caridade falsas ou organizações terroristas e estudantes do ensino médio criando pornografia falsa de seus colegas de classe.
“Isso está afetando as pessoas comuns no sentido de que estão sendo enganadas por fagos Deepfakes, mas também está afetando os adolescentes … para que as pessoas precisem entender onde estão”, disse Kathleen Grace, diretora de estratégia de Vermillio. “Esta é uma maneira fácil de fazer isso.”
Embora os perfis falsos de mídia social existam há anos, “a IA generativa acabou de derramar a gasolina”, disse Grace.
A empresa disse que centenas de pessoas usam os serviços da Vermillio, mas não especificaram números. Até o final do ano, a empresa espera ter milhares.
Neely disse que a empresa não é lucrativa e se recusou a compartilhar números de receita. Revista Time relatado Essa receita do Traceid da Vermillio aumentou dez vezes de abril de 2023 a abril de 2024. A empresa ganha dinheiro através das versões pagas de seu serviço e licenciamento. A Vermillio levantou US $ 24 milhões em financiamento.
As empresas e o talento de Hollywood estão navegando na inteligência artificial de diferentes maneiras.
Grupos como os artistas Guild Sag-Aftra estão pressionando por mais proteções estaduais e federais contra os DeepFakes. Algumas celebridades, como a ator coadjuvante da Academia, Jamie Lee Curtis, lutou para obter um anúncio falso dela no Instagram, mostrando seu falsamente endossando um produto odontológico.
WME anunciou a parceria com Vermillio no ano passado.
“A escala do problema é extraordinária; portanto, se você é um titular de direitos, apenas tentando entender quanto dessas saídas de IA se baseia ou utilizou meus dados, meu IP de alguma forma, forma ou forma, é uma necessidade maciça”, disse Chris Jacquemin, chefe de estratégia digital da WME.
“Eles obviamente provaram que Traceid pode proteger as figuras públicas mais importantes e de alto nível do mundo”, acrescentou Jacquemin. “Abri -lo em uma aplicação muito mais ampla, eu acho, é um grande passo em frente ao realmente democratizar como alguém pode começar a usar a polícia de sua semelhança com relação às plataformas de IA e IA”.
