ChatGPT e ferramentas de linguagem AI banidas pela conferência AI para escrever artigos

Por James Vincent, um repórter sênior que cobriu IA, robótica e muito mais por oito anos no The Verge.

Uma das conferências de aprendizado de máquina mais prestigiadas do mundo proibiu os autores de usar ferramentas de IA como o ChatGPT para escrever artigos científicos, desencadeando um debate sobre o papel do texto gerado por IA na academia.

A Conferência Internacional sobre Aprendizado de Máquina (ICML) anunciou a política no início desta semana, afirmando: "Papéis que incluem texto gerado a partir de um modelo de linguagem de grande escala (LLM) como o ChatGPT são proibidos, a menos que o texto produzido seja apresentado como parte do análise experimental do papel." A notícia gerou ampla discussão nas mídias sociais, com acadêmicos e pesquisadores de IA defendendo e criticando a política. Os organizadores da conferência responderam publicando uma declaração mais longa explicando seu pensamento. (O ICML respondeu aos pedidos de comentários do The Verge, direcionando-nos para esta mesma declaração.)

De acordo com o ICML, o surgimento de modelos de linguagem de IA publicamente acessíveis, como o ChatGPT – um chatbot de IA de uso geral lançado na web em novembro passado – representa um desenvolvimento “emocionante” que, no entanto, vem com “consequências imprevistas [e] perguntas sem resposta”. O ICML diz que isso inclui questões sobre quem é o dono da produção de tais sistemas (eles são treinados em dados públicos, que geralmente são coletados sem consentimento e às vezes regurgitam essas informações literalmente) e se o texto e as imagens gerados pela IA devem ser "considerados novos ou meros derivados do trabalho existente".

As ferramentas de escrita de IA são apenas assistentes ou algo mais?

A última questão se conecta a um debate complicado sobre autoria – ou seja, quem “escreve” um texto gerado por IA: a máquina ou seu controlador humano? Isso é particularmente importante, visto que o ICML está banindo apenas textos "produzidos inteiramente" por IA. Os organizadores da conferência dizem que não estão proibindo o uso de ferramentas como o ChatGPT "para editar ou polir o texto escrito pelo autor" e observam que muitos autores já usaram "ferramentas de edição semiautomáticas" como o software de correção gramatical Grammarly para esse fim.

"É certo que essas perguntas, e muitas outras, serão respondidas com o tempo, à medida que esses modelos generativos em larga escala forem mais amplamente adotados. No entanto, ainda não temos respostas claras para nenhuma dessas perguntas", escrevem os participantes da conferência. organizadores.

Como resultado, o ICML diz que sua proibição de texto gerado por IA será reavaliada no próximo ano.

As questões que o ICML está abordando podem não ser facilmente resolvidas. A disponibilidade de ferramentas de IA como o ChatGPT está causando confusão para muitas organizações, algumas das quais responderam com suas próprias proibições. No ano passado, o site de perguntas e respostas Stack Overflow proibiu os usuários de enviar respostas criadas com o ChatGPT, enquanto o Departamento de Educação da cidade de Nova York bloqueou o acesso à ferramenta para qualquer pessoa em sua rede apenas esta semana.

Os modelos de linguagem AI são ferramentas de preenchimento automático sem senso inerente de factualidade

Em cada caso, existem diferentes temores sobre os efeitos nocivos do texto gerado por IA. Uma das mais comuns é que a saída desses sistemas simplesmente não é confiável. Essas ferramentas de IA são vastos sistemas de preenchimento automático, treinados para prever qual palavra segue a próxima em qualquer frase. Como tal, eles não têm nenhum banco de dados codificado de "fatos" para se basear - apenas a capacidade de escrever declarações que pareçam plausíveis. Isso significa que eles tendem a apresentar informações falsas como verdadeiras, pois o fato de uma determinada frase soar plausível não garante sua factualidade.

No caso da proibição do ICML de texto gerado por IA, outro desafio potencial é distinguir entre a escrita que foi apenas "polida" ou "editada" pela IA e aquela que foi "produzida inteiramente" por essas ferramentas. Em que ponto uma série de pequenas correções guiadas por IA constituem uma reescrita maior? E se um usuário pedir a uma ferramenta de IA para resumir seu artigo em um resumo rápido? Isso conta como texto recém-gerado (porque o texto é novo) ou mero polimento (porque é um resumo das palavras que o autor escreveu)?