A educação pode ser uma profissão incrivelmente gratificante, mas exigente, pois a carga de trabalho dos professores é sempre aumentando. O progresso dos alunos precisa ser avaliado, geralmente por meio de testes, exames, ensaios e cursos, os quais precisam ser revisados e marcados.
A carga de trabalho dos alunos também é aumentandoenquanto eles lutam para revisar por seus exames e cumprir todos os prazos para suas avaliações. Infelizmente, uma minoria de estudantes cede à tentação óbvia de usar inteligência synthetic generativa (IA) de escrever seus ensaios.
Houve uma promoção significativa de ferramentas de IA generativas, como Gêmeosque são apresentados como assistentes que podem ajudar o usuário a seu trabalho. Em um anúncio recente, um cientista ocupado pede sua ferramenta de IA para criar uma apresentação de slides para uma apresentação, para a qual recebe aplausos no closing.
“Temos Co-piloto Em tudo para o trabalho e há grandes debates sobre como incorporar a IA no ensino ”, diz David Waldron, professor associado de história no Universidade da Federação. “A IA é boa para fazer processamento de dados, como classificar dados e condensar informações importantes em um resumo, mas não é bom para materials criativo ou para fontes confiáveis”.
Para detectar ensaios generativos de IA (Genai) enviados pelos alunos, houve uma variedade de ferramentas de IA, como Scribbr e Zerogptdisponibilizado gratuitamente on -line para as pessoas usarem.
Minha filha escreveu recentemente um ensaio para seus cursos de nível A e, por curiosidade, o submeteu a um verificador de IA on-line. Ela ficou chocada ao descobrir que, apesar de escrever o ensaio, o verificador concluiu que grande parte de seu trabalho foi criado usando a IA. Investigações adicionais revelaram que o uso deliberado de palavras simples e erros gramaticais tornou o ensaio menos provável de ser sinalizado.
Personalidade de mídia social Vivian Jenna Wilson destacou uma questão semelhante em um recente Postagem de mídia socialonde ela observou que agora precisa minimizar o uso de traços em seus escritos, caso contrário, as pessoas assumem que isso está escrito pela IA.
Como demonstrado acima, não apenas as ferramentas de detecção de IA on-line foram insuficientemente confiáveis para detectar com precisão o conteúdo gerado pela IA, mas também podem impulsionar a introdução de erros deliberados.
Outras ferramentas de IA também se provaram recentemente não confiáveis. No início deste ano, um agente de codificação desonesto excluiu um banco de dados de produção inteiro Durante uma sessão de codificação e depois mentiu sobre isso. Enquanto isso, em 2023, uma ferramenta de recrutamento movida a IA quebrou as leis de emprego por Rejeitando automaticamente as candidatas a mais de 55 anos e candidatos do sexo masculino com mais de 60 anos.
“A IA generativa apresenta oportunidades interessantes para melhorar a educação, mas reconhecemos que seu uso deve ser cuidadosamente gerenciado para proteger o aprendizado e defender altos padrões”, disse um porta -voz do Departamento de Educação. “Em junho, publicamos orientação Moldado pelas evidências mais recentes, que aconselham o uso de ferramentas de IA voltadas para os alunos com cautela, e fornece suporte aos professores sobre como a IA pode ser usada com segurança e responsabilidade em escolas e faculdades, com uma forte ênfase na integridade acadêmica, salvaguarda e conformidade authorized. ”
Contar com as ferramentas de detecção de IA corre o risco de que os alunos sejam injustamente acusados de plágio e potencialmente ensiná-los que o trabalho de baixa qualidade tem menos probabilidade de colocá-los em problemas do que o trabalho de alta qualidade que pode ser sinalizado erroneamente como gerado pela IA. Os alunos da literatura inglesa e do idioma são afetados desproporcionalmente, pois normalmente possuem fortes habilidades de redação de redação e excelente gramática e pontuação, todos identificadores de conteúdo criado usando Genai.
A maioria das ferramentas de IA opera pela Web e exige dados do usuário; portanto, existem preocupações significativas sobre a proteção de dados, ou seja, o que acontece com os dados, pois o trabalho escrito enviado pode se alimentar no modelo de IA. Isso pode ser especialmente preocupante em relação à pesquisa acadêmica encomendada por empresas privadas. “O elemento de compartilhamento de dados tem muitas pessoas preocupadas”, diz Waldron.
Uma corrida armamentista metafórica
Há uma complicação adicional para os alunos que usam ferramentas gramaticais, como Gramáticaque utiliza a IA para consertar gramática e pontuação em seus escritos. As regras relacionadas ao seu uso não são claras, especialmente devido à proliferação de verificadores ortográficos. Embora as ferramentas gramaticais não sugeram idéias ou criem conteúdo, as ferramentas de detecção de IA ainda podem sinalizá -las como evidência de IA generativa sendo usada.
Os alunos também estão se conscientizando das ferramentas de IA que podem detectar ensaios que foram criados usando o Genai e estão tomando suas próprias etapas para evitar ser detectada por esses sistemas.
“Curiosamente, os alunos geralmente usam vários sistemas de IA para contornar a detecção”, diz Waldron. “Eles criam um ensaio com ChatGPT e, em seguida, through Copilot e Deepseek.” Atualmente, existe uma corrida armamentista metafórica entre os sistemas generativos de IA e as ferramentas de detecção de IA enquanto procuram combater o outro.
Um dos principais desafios das ferramentas generativas de IA é que elas são efetivamente uma “caixa preta”, na medida em que produzem conteúdo com base em uma série de instruções de texto do usuário, mas nunca entendemos como eles chegam à conclusão. Cada IA é treinada separadamente, tornando quase impossível entender como as ferramentas de IA chegam à sua resposta, pois não fornecem informações de suporte que permitiriam que seus usuários interrogassem a solução.
“Provar que seu uso é problemático e demorado, mas é um problema crítico em saber se os alunos entendem os resultados”, diz Waldron. “Há chamadas para voltar a exames inventados e ensaios manuscritos. No entanto, a maioria das soluções como essa exige um retorno à aprendizagem presencial e ao uso mais intensivo da equipe, que a administração da universidade se opõe devido ao aumento dos custos e falta de flexibilidade para o mercado internacional de estudantes”.
De muitas maneiras, o desafio de detectar ensaios criados usando o Genai destaca uma discussão em andamento mais ampla sobre o papel da IA na academia.
Agora, é preciso realinhar como abordamos avaliações, onde métodos alternativos para ensaios são desenvolvidos para determinar o conhecimento e a compreensão de um aluno sobre um assunto. Um exemplo pode estar fazendo uma apresentação para defender seu ensaio, mas isso pode não ser apropriado para tópicos aprofundados. Tentar combater a IA seria semelhante a confrontar um tsunami – em vez disso, é preciso haver uma discussão sobre como podemos preparar e nos adaptar à tecnologia.
Por fim, o setor de IA continua sendo uma área altamente não regulamentada, apesar da implantação generalizada de IA em uma variedade de indústrias. Sem a supervisão apropriada, em breve poderia haver problemas significativos com os alunos sendo injustamente acusados de plágio, a menos que sejam tomadas medidas para garantir que os resultados fornecidos pelas ferramentas de detecção de IA sejam suficientemente confiáveis.
“Precisamos repensar a pedagogia para ensinar o uso crítico da IA em pesquisa e redação”, conclui Waldron.
O União Nacional da Educação e o União Nacional de Estudantes foram abordados para comentar, mas não haviam respondido na knowledge da publicação.
