Sam Altman diz que os bots estão fazendo as mídias sociais se sentirem ‘falsas’

X entusiasta e o acionista do Reddit, Sam Altman, teve uma epifania na segunda -feira: os bots tornaram impossível determinar se as postagens de mídia social são realmente escritas por humanos, ele Postado.

A realização veio ao ler (e compartilhar) algumas postagens do Subreddit R/Claudecode, que elogiava o Codex OpenAI. O OpenAI lançou o serviço de programação de software program que assume o código Claude da Anthropic em maio.

Ultimamente, esse subreddit tem sido tão cheio de postagens de usuários autoproclamados de código anunciando que se mudaram para o Codex que um usuário do Reddit até brincou: “É possível mudar para o Codex sem postar um tópico no Reddit?”

Isso deixou Altman imaginando quantos desses posts eram de humanos reais. “Eu tive a experiência mais estranha lendo isso: presumo que seja tudo falso/bots, embora, neste caso, eu conheço o crescimento do Codex seja realmente forte e a tendência aqui seja actual”, ele confessou X.

Ele então ao vivo-analisou seu raciocínio. “I believe there are a bunch of issues happening: actual folks have picked up quirks of LLM-speak, the Extraordinarily On-line crowd drifts collectively in very correlated methods, the hype cycle has a really ‘it is so over/we’re so again’ extremism, optimization strain from social platforms on juicing engagement and the associated means that creator monetization works, different firms have astroturfed us so i am further delicate to it, and a bunch extra (together with most likely some bots).”

Para decodificar um pouco, ele está acusando os seres humanos de começar a parecer LLMs, embora os LLMs – liderados pelo Openai – tenham sido literalmente inventados para imitar a comunicação humana, até o Em Sprint. E os modelos do Openai definitivamente treinados no Reddit, onde Altman period membro do conselho até 2022, e foi divulgado como um grande acionista durante o IPO da empresa no ano passado.

Ele afirma que os fandoms, liderados por usuários de mídia social extremamente, tendem a se comportar de maneiras estranhas. Muitos grupos podem se transformar em Hatefests se invadirem aqueles que desabilitam frustrações para seus irmãos.

Sam também joga uma escavação nos incentivos quando websites de mídia social e criadores dependem do engajamento para ganhar dinheiro. Justo.

Mas então Altman confessa que uma das razões pelas quais ele acha que as postagens pró-abertas neste subreddit podem ser bots é porque o OpenAI também foi “astroturfado”. Isso normalmente envolve postagens de pessoas ou bots pagos pelo concorrente, ou pagos por algum contratado de terceiro grau, dando ao concorrente uma negação plausível.

Não temos evidências de astroturfing (embora seja possível). Mas vimos como o Subreddits Openai ligou a empresa Depois de lançar o GPT 5.0. Em vez de ondas de louvor dos fiéis sobre o novo modelo, muitos posts irritados foram votados. As pessoas foram ao Reddit e X para reclamar de tudo, desde a personalidade do GPT até como isso queimou por créditos sem terminar tarefas.

Um dia após o lançamento esburacado, Altman fez um Reddit Ask-me-anything Sessão no R/GPT, na qual ele confessou os problemas de lançamento e prometeu mudanças. O subreddit GPT nunca recuperou completamente seu nível anterior de amor, com usuários ainda postando regularmente sobre o quanto eles não gostam das mudanças com o GPT 5.0. Eles são humanos? Ou eles, como Altman parecem implicar, falsificados de alguma forma?

Altman supõe: “O efeito líquido é de alguma forma a IA Twitter/AI Reddit parece muito falso de uma maneira que realmente não fez um ano ou dois atrás”.

Se isso é verdade, quem é culpa é? O GPT levou os modelos a se tornarem tão bons em escrever, que os LLMs se tornaram uma praga não apenas para websites de mídia social (que sempre tiveram um problema de bot), mas para escolasAssim, jornalismoe os tribunais.

Embora não saibamos quantas postagens do Reddit são escritas por bots, ou são contas fictícias de seres humanos usando LLMs, é provavelmente um número substancial. Empresa de segurança de dados Imperva relatou que mais da metade de todo o tráfego da Internet em 2024 period não humano, em grande parte devido ao LLMS. X é o próprio Bot Grok diz: “Os números exatos não são públicos, mas 2024 estimativas sugerem centenas de milhões de bots em X.”

Vários cínicos sugeriram que Lamento de Altman Foi suas primeiras incursões na plataforma de mídia social do Advertising and marketing Openai. Em abril, a Verge informou que esse projeto para enfrentar X e o Fb estava nos estágios mais iniciais. Este produto pode ou não existir. Altman pode ou não ter tido motivos ocultos para sugerir que as mídias sociais são falsas demais hoje em dia.

Mas os motivos à parte, se o OpenAI estiver planejando uma rede social, quais são as probabilities de serem uma zona livre de bot? E, engraçado o suficiente, se fizesse o reverso e proibisse os seres humanos, os resultados provavelmente não seriam diferentes. Não apenas os LLMs ainda alucinam fatos, mas quando pesquisadores da Universidade de Amsterdã construíram uma rede social composta inteiramente de bots, eles descobriram que os bots em breve Formuladas Cliques e Câmaras de Echo para si mesmastambém.