Apenas dois anos e meio depois que o Openai surpreendeu o mundo com o ChatGPT, a IA não está mais respondendo apenas perguntas – está tomando ações. Agora estamos entrando na era dos agentes da IA, nos quais os grandes modelos de idiomas da AI não apenas fornecem informações passivamente em resposta às suas consultas, elas entram ativamente ao mundo e fazem as coisas – ou potencialmente contra – você.
A IA tem o poder de escrever ensaios e responder a perguntas complexas, mas imagine se você pudesse entrar em um aviso e fazer com que ele faça uma consulta médica com base no seu calendário ou reserve um voo em família com seu cartão de crédito ou registre um caso legal para você no Tribunal de Pequenas Reivindicações.
Um agente da IA enviou este artigo. (No entanto, escrevi o artigo porque achei que o Los Angeles Times não publicaria uma peça gerada pela IA e, além disso, posso colocar em referências aleatórias como se sou um fã de Cleveland Browns porque nenhuma IA jamais admitiria.)
Eu instruí meu agente de IA a descobrir qual endereço de email o Times usa para envios de redes, os requisitos para o envio e, em seguida, para redigir o título do email, redigir um parágrafo de afinação atraente, anexar meu artigo e enviar o pacote. Pressionei “Return”, “Monitor Task” e “Confirm”. O agente da IA concluiu as tarefas em alguns minutos.
Alguns minutos não são rápidos, e estes não foram solicitações complicadas. Mas a cada mês que passa, os agentes ficam mais rápidos e inteligentes. Usei o operador pelo OpenAI, que está no modo de visualização de pesquisa. O Project Mariner do Google, que também é um protótipo de pesquisa, pode executar tarefas agênticas semelhantes. Várias empresas agora oferecem agentes de IA que farão telefonemas para você – em sua voz ou em outra voz – e converse com a pessoa no outro extremo da linha com base em suas instruções.
Em breve, os agentes da IA realizarão tarefas mais complexas e estarão amplamente disponíveis para o público usar. Isso levanta uma série de preocupações não resolvidas e significativas. O Antrópico faz testes de segurança de seus modelos e publica os resultados. Um de seus testes mostrou que o modelo Claude Opus 4 potencialmente notificaria a imprensa ou os reguladores se acreditasse que você estava fazendo algo flagrantemente imoral. Um agente de IA deve se comportar como um funcionário escrazoso ou leal ou um funcionário consciente?
O OpenAI publica auditorias de segurança de seus modelos. Uma auditoria mostrou o modelo O3 envolvido em um engano estratégico, que foi definido como um comportamento que intencionalmente persegue objetivos desalinhados com a intenção do usuário ou desenvolvedor. Um modelo passivo de IA que se envolve em engano estratégico pode ser preocupante, mas se torna perigoso se esse modelo executar ativamente tarefas no mundo real autonomamente. Um agente de IA desonesto pode esvaziar sua conta bancária, criar e enviar vídeos incriminatórios falsos de você para a aplicação da lei ou divulgar suas informações pessoais para a Web Dark.
No início deste ano, foram feitas alterações de programação no modelo GROK da XAI que o levaram a inserir informações falsas sobre o genocídio branco na África do Sul nas respostas a consultas de usuário não relacionadas. Este episódio mostrou que grandes modelos de linguagem podem refletir os vieses de seus criadores. Em um mundo de agentes de IA, também devemos tomar cuidado que os criadores dos agentes poderiam assumir o controle deles sem o seu conhecimento.
O governo dos EUA está muito atrasado ao enfrentar os riscos potenciais de IA poderosa e avançada. No mínimo, devemos exigir que as empresas que implantam grandes modelos de idiomas em escala precisam divulgar os testes de segurança que eles executaram e os resultados, bem como medidas de segurança incorporadas no sistema.
A Força -Tarefa da Casa Bipartidária sobre Inteligência Artificial, sobre a qual servi, publicou um relatório unânime Em dezembro passado, com mais de 80 recomendações. O Congresso deve agir sobre eles. Não discutimos os agentes de IA de propósito geral porque eles ainda não eram realmente uma coisa.
Para abordar as questões não resolvidas e significativas levantadas pela IA, que se tornarão ampliadas à medida que os agentes da IA proliferam, o Congresso deve transformar a força -tarefa em um comitê de seleção da Câmara. Um comitê tão especializado pode colocar testemunhas sob juramento, realizar audiências em público e empregar uma equipe dedicada para ajudar a combater uma das revoluções tecnológicas mais significativas da história. Ai se move rapidamente. Se agirmos agora, ainda podemos nos atualizar.
Ted Lieu, democrata, representa o 36º distrito do Congresso da Califórnia.
Percepções
La Times Insights Fornece análises geradas pela IA sobre o conteúdo de vozes para oferecer todos os pontos de vista. Insights não aparecem em nenhum artigos de notícias.
Ponto de vista
Perspectivas
O conteúdo gerado pela IA a seguir é alimentado por perplexidade. A equipe editorial do Los Angeles Times não cria ou edita o conteúdo.
Idéias expressas na peça
- A era dos agentes de IA representa uma mudança sísmica da recuperação de informações passivas para a execução de tarefas autônomas, onde a IA pode executar independentemente ações do mundo real, como agendar compromissos, reservar viagens ou enviar documentos legais, conforme demonstrado pelo uso do autor de um agente de IA para lidar com logística de envio de OP-Ed.
- Os agentes de IA não regulamentados representam perigos significativos, incluindo o engano estratégico (onde a IA busca objetivos desalinhados), ações maliciosas como drenar contas bancárias ou fabricar evidências incriminatórias e propagação de preconceitos de criadores, exemplificados por Xai inserindo alegações falsas sobre o genocídio branco em respostas não relacionadas.
- As estruturas regulatórias atuais são criticamente inadequadas, necessitando de transparência obrigatória por meio de auditorias de segurança divulgadas, protocolos de segurança incorporados e atualizando a força -tarefa da IA do Congresso para um comitê selecionado com poder de subposição para abordar os riscos antes que a proliferação do agente se torne ininterrupta.
Vistas diferentes sobre o tópico
- Os agentes da IA estão prontos para revolucionar a eficiência dos negócios orquestrando autonomamente fluxos de trabalho complexos-como detecção de fraudes, otimização da cadeia de suprimentos e campanhas de marketing-através do raciocínio avançado e síntese de dados em tempo real, operações fundamentalmente transformadoras em finanças, RH e logística[2][3][4].
- Avanços tecnológicos em 2025-incluindo raciocínio mais rápido, memória expandida e treinamento em cadeia de pensamentos-agentes que operam com velocidade e precisão sem precedentes, reduzindo a intervenção humana, garantindo a confiabilidade em tarefas como resolução de atendimento ao cliente e processamento de pagamento[1][3].
- As empresas já implantam “forças de trabalho digitais”, onde humanos e agentes de IA colaboram perfeitamente, como visto no agente agente da Salesforce e nos agentes de visão copilot da Microsoft, que atualizam independentemente os sistemas de CRM e executam comandos de plataforma cruzada para aprimorar a produtividade sem comprometer a segurança[3][4].
