'Obscene': A nova ferramenta de IA do Grammarly oferece feedback de escrita de estudiosos falecidos

Resumo

• A funcionalidade “Revisão de Especialistas” do Grammarly oferece feedback de escrita gerado por IA, enquadrado por especialistas nomeados.
• Académicos afirmam que o sistema inclui académicos falecidos, o que provoca reações mistas por parte dos utilizadores.
• Críticos questionam se a empresa pode usar a identidade de académicos sem consentimento.

A nova funcionalidade de IA do Grammarly que fornece feedback de escrita a partir da perspetiva de “especialistas” renomados está a gerar críticas de académicos que dizem que a ferramenta parece “ressuscitar” académicos para rever o trabalho dos utilizadores. A funcionalidade, chamada Revisão de Especialistas, analisa o texto e gera feedback enquadrado na perspetiva de académicos, jornalistas e outros especialistas específicos. Muitos dos especialistas que a ferramenta de IA afirma imitar já não estão vivos — uma característica que um historiador medieval no BlueSky chamou de “macabra”. Lançado em 2009 como uma ferramenta de escrita e gramática assistida por IA, a empresa-mãe do Grammarly mudou de nome para Superhuman em outubro, refletindo a sua transformação de um assistente de escrita único para um conjunto de agentes de produtividade de IA, incluindo ferramentas para investigação, agendamento, email e automação de fluxos de trabalho.

O Grammarly introduziu a funcionalidade Revisão de Especialistas no verão passado. Através da extensão do navegador Grammarly, os utilizadores que optam pela versão Superhuman Go podem selecionar um especialista e receber feedback gerado por IA com base na área de estudo ou trabalho publicado desse académico.  “Nosso agente de Revisão de Especialistas analisa o texto em que o utilizador está a trabalhar, seja um briefing de marketing ou um projeto estudantil sobre biodiversidade, e utiliza o nosso modelo de linguagem avançado para apresentar conteúdo de especialistas que pode ajudar o autor a moldar o seu trabalho”, afirmou um porta-voz da Superhuman ao Decrypt. “Os especialistas sugeridos dependem do conteúdo do texto avaliado.” O porta-voz explicou que o agente de Revisão de Especialistas não reivindica endosamento ou participação direta desses especialistas, mas fornece “sugestões inspiradas nas obras de especialistas e orienta os utilizadores para vozes influentes cujas obras podem explorar mais profundamente.”

“Os especialistas na Revisão de Especialistas aparecem porque as suas obras publicadas estão disponíveis publicamente e são amplamente citadas”, disseram. Ao testar a funcionalidade para este artigo, os revisores sugeridos pelo aplicativo incluíram Margaret Sullivan, colunista de media e ex-editora do New York Times, Jack Shafer, ex-redator sénior de media na Politico, e Lawrence Lessig, professor na Harvard Law. Outras opções incluíram a investigadora de ética de IA Timnit Gebru e Helen Nissenbaum, professora de ciência da informação na Cornell Tech. Embora a funcionalidade vise ajudar estudantes e profissionais a melhorar as suas capacidades de escrita, Vanessa Heggie, professora de história na Universidade de Birmingham, questionou se os “revisores” deram o seu consentimento antes de a empresa os usar na aplicação. “Não sei por onde começar, mas… o Grammarly agora oferece uma ‘revisão de especialistas’ do seu trabalho por académicos vivos e falecidos”, escreveu Heggie no LinkedIn. “Sim, mortos — sem a permissão explícita de ninguém, está a criar pequenos LLMs com base no trabalho raspado deles e a usar os seus nomes e reputações. Obsceno.” Brielle Harbin, ex-professora associada de ciências políticas na Academia Naval dos Estados Unidos, chamou-lhe um “desenvolvimento estranho e preocupante.” “Decisões como esta — especialmente quando tomadas sem contexto, consentimento ou parceria significativa com educadores — arriscam aprofundar o ceticismo em relação às ferramentas de IA no ensino superior”, escreveu ela no LinkedIn. “Ironicamente, decisões destinadas a acelerar a adoção podem acabar por fortalecer a resistência. A confiança e a colaboração são muito importantes neste momento.” O Grammarly é apenas uma das empresas que criam programas de IA destinados a imitar pessoas reais. Em 2023, a Meta lançou uma linha de chatbots para a sua plataforma Meta AI, baseados em identidades de celebridades, incluindo Snoop Dogg, Tom Brady, Kendall Jenner e Naomi Osaka. Nesse mesmo ano, a Khan Academy lançou o seu tutor de IA Khanmigo, que permite aos estudantes encenar conversas com figuras históricas, incluindo o Primeiro-Ministro britânico Winston Churchill e Harriet Tubman, espiã da Guerra Civil dos EUA e condutora do Underground Railroad.