Escrever sempre foi, para mim, mais do que organizar palavras em uma página. A escrita científica, especialmente, nunca esteve dissociada de uma certa experiência de silêncio, dúvida e insistência. Há algo profundamente humano no ato de escrever. Antes de existir o texto, existe uma inquietação. Antes da primeira frase, existe uma pergunta. E, muitas vezes, antes de encontrarmos uma resposta, passamos longos períodos convivendo com aquilo que ainda não conseguimos compreender.
Talvez por isso a chegada da inteligência artificial generativa ao cotidiano acadêmico tenha provocado tantas inquietações. De repente, ferramentas capazes de produzir textos, sugerir estruturas, resumir documentos, reorganizar argumentos e auxiliar processos de revisão passaram a fazer parte da rotina de estudantes, professores e pesquisadores. A pergunta que surgiu foi quase inevitável: se uma máquina pode escrever, o que acontecerá com a escrita científica?
Tenho acompanhado essa discussão com interesse, mas também com certa preocupação diante de posições excessivamente simplificadoras. De um lado, há quem veja a inteligência artificial como uma ameaça quase absoluta à produção acadêmica. De outro, há quem a apresente como uma solução capaz de acelerar praticamente todas as etapas da pesquisa. Talvez nenhuma dessas posições seja suficiente.
A meu ver, a questão mais importante não é perguntar se a inteligência artificial escreverá no lugar dos pesquisadores. A pergunta deveria ser outra: como podemos utilizar a inteligência artificial sem permitir que ela substitua aquilo que torna a pesquisa verdadeiramente humana?
A escrita científica não começa quando digitamos uma frase. Ela começa muito antes. Começa quando observamos uma realidade, identificamos um problema, formulamos uma pergunta e percebemos que determinada questão merece ser investigada. A máquina pode auxiliar em várias etapas desse percurso, mas não pode assumir a responsabilidade intelectual pelo conhecimento produzido.
Essa distinção parece simples, mas é fundamental.
A inteligência artificial generativa tornou muito mais acessíveis algumas tarefas que historicamente exigiam tempo considerável. É possível solicitar sugestões de palavras chave, possibilidades de organização de um texto, explicações preliminares sobre determinado conceito, revisão linguística e diferentes formas de apresentação de uma ideia. Em determinados contextos, isso pode representar uma contribuição importante, sobretudo para estudantes que ainda estão desenvolvendo sua escrita acadêmica.
A UNESCO, ao discutir a utilização da inteligência artificial generativa na educação e na pesquisa, chama atenção justamente para a necessidade de uma abordagem centrada no ser humano, baseada em princípios éticos, transparência e responsabilidade (UNESCO, 2023). Não se trata simplesmente de aceitar ou rejeitar a tecnologia. Trata-se de compreender seus limites e estabelecer condições para que sua utilização contribua para a aprendizagem, e não para sua substituição.
É nesse ponto que a discussão sobre autoria se torna particularmente importante.
Ser autor não significa apenas colocar o próprio nome na capa de um artigo. Autoria envolve responsabilidade. Envolve responder pelas ideias apresentadas, pelas escolhas metodológicas realizadas, pelas interpretações desenvolvidas e pelas conclusões alcançadas. Quando publico um texto científico, não estou apenas afirmando que aquelas palavras passaram pelas minhas mãos. Estou afirmando que assumo responsabilidade intelectual por aquilo que está escrito.
Por isso, não acredito que o debate sobre inteligência artificial e autoria possa ser reduzido à pergunta sobre quem escreveu determinada frase. Uma discussão mais profunda precisa considerar quem pensou o problema, quem definiu os objetivos, quem escolheu o caminho metodológico, quem avaliou as evidências e quem assumiu a responsabilidade pelas conclusões.
Um sistema de inteligência artificial pode produzir uma frase impecável e, ainda assim, não compreender verdadeiramente o problema de pesquisa ao qual aquela frase está relacionada.
Essa diferença é decisiva.
Na pesquisa científica, não basta produzir um texto linguisticamente correto. É necessário construir conhecimento. E construir conhecimento exige leitura, comparação, interpretação, questionamento, domínio conceitual e capacidade de reconhecer as limitações daquilo que estamos afirmando.
Há, inclusive, um risco que considero especialmente preocupante: o pesquisador acreditar que, porque a inteligência artificial produziu um texto aparentemente sofisticado, aquele texto necessariamente possui qualidade científica. Não possui.
A inteligência artificial pode produzir respostas convincentes e, ao mesmo tempo, apresentar informações imprecisas, interpretações inadequadas ou referências inexistentes. A chamada alucinação de sistemas generativos é um problema conhecido e suficientemente documentado para que qualquer pesquisador compreenda que uma resposta bem escrita não é necessariamente uma resposta verdadeira.
Isso nos leva a uma conclusão que considero bastante importante: quanto mais poderosa se torna a ferramenta, maior precisa ser a responsabilidade de quem a utiliza.
Talvez essa seja uma das grandes ironias do nosso tempo. Durante muito tempo, imaginamos que a tecnologia diminuiria a necessidade de conhecimento. O que estamos percebendo é quase o contrário. Quanto mais facilmente conseguimos produzir informações, mais precisamos saber avaliar informações.
A inteligência artificial, nesse sentido, não diminui a importância da formação científica. Ela a aumenta.
Um estudante que não sabe formular uma pergunta de pesquisa continuará tendo dificuldades mesmo que tenha acesso à melhor ferramenta de inteligência artificial disponível. Um pesquisador que não sabe avaliar uma fonte continuará vulnerável à desinformação mesmo utilizando sistemas sofisticados. Um autor que não conhece seu próprio objeto de investigação poderá produzir páginas e páginas de texto sem necessariamente produzir conhecimento.
É por isso que defendo que a discussão sobre inteligência artificial na educação precisa caminhar lado a lado com uma discussão muito mais antiga e, talvez, mais urgente: como estamos ensinando nossos estudantes a ler, escrever, argumentar e pensar?
A inteligência artificial não criou esse problema. Ela apenas tornou suas consequências mais visíveis.
Durante anos, discutimos a dificuldade de estudantes universitários com leitura e escrita acadêmica. Discutimos a fragilidade da formação argumentativa, a dificuldade de interpretação de textos científicos e a distância entre o ensino da escrita e as práticas concretas de pesquisa. Agora, diante da possibilidade de uma ferramenta produzir um texto em poucos segundos, somos obrigados a perguntar algo ainda mais profundo: se uma máquina consegue escrever rapidamente, estamos ensinando nossos estudantes a pensar antes de escrever?
Essa pergunta me acompanha.
Talvez a resposta para a presença da inteligência artificial na educação não esteja em proibi-la, mas em transformar nossa maneira de ensinar. Se antes uma atividade acadêmica podia ser avaliada apenas pelo produto final, talvez precisemos olhar cada vez mais para o processo. Precisamos saber como o estudante chegou àquela resposta, quais fontes consultou, quais decisões tomou, quais dúvidas encontrou e de que maneira desenvolveu seu argumento.
A educação não pode competir com a inteligência artificial na velocidade de produção de palavras. E talvez nem deva.
Uma máquina sempre poderá produzir mais palavras em menos tempo. A função da educação é outra. É formar pessoas capazes de compreender o significado dessas palavras.
Nesse contexto, a escrita científica continua tendo uma importância enorme. Escrever é também pensar. Quando somos obrigados a organizar um argumento, somos obrigados a perceber suas contradições. Quando precisamos explicar um conceito, descobrimos se realmente o compreendemos. Quando tentamos sustentar uma afirmação com evidências, percebemos a diferença entre aquilo que acreditamos e aquilo que conseguimos demonstrar.
A escrita, portanto, não é apenas o resultado da pesquisa. Em muitos momentos, ela é parte do próprio processo de pensar.
É por isso que me preocupa quando a inteligência artificial é apresentada aos estudantes apenas como uma ferramenta para “fazer trabalhos”. Essa perspectiva reduz uma tecnologia complexa a uma espécie de mecanismo de terceirização da aprendizagem. O estudante entrega a tarefa, recebe um texto e talvez consiga cumprir uma exigência formal. Mas o que aprendeu durante esse processo?
Essa é uma pergunta que professores e instituições precisam fazer.
Não acredito, contudo, que devamos construir uma relação de medo com a tecnologia. A inteligência artificial já faz parte da sociedade e continuará fazendo. Ignorá-la seria tão inadequado quanto utilizá-la de maneira acrítica.
Precisamos ensinar o uso responsável.
Isso significa, por exemplo, explicar aos estudantes que uma ferramenta pode ajudar a organizar ideias, mas não deve substituir a leitura das fontes originais. Pode auxiliar na revisão de um texto, mas não deve ser utilizada para inventar referências. Pode sugerir possibilidades de abordagem, mas a decisão sobre o caminho teórico e metodológico precisa permanecer com o pesquisador. Pode contribuir para tornar uma frase mais clara, mas não pode assumir a responsabilidade intelectual por aquilo que está sendo afirmado.
Também precisamos discutir transparência. Em determinados contextos acadêmicos, informar que uma ferramenta de inteligência artificial foi utilizada pode ser uma prática importante de integridade científica. Diferentes periódicos, universidades e organizações científicas estão construindo orientações próprias sobre o tema, e esse processo ainda está em desenvolvimento. O que parece cada vez mais evidente, entretanto, é que esconder deliberadamente o uso de ferramentas relevantes pode ser tão problemático quanto atribuir à tecnologia uma responsabilidade que pertence ao autor.
A Comissão Europeia, ao desenvolver suas orientações e políticas relacionadas à inteligência artificial, também tem destacado princípios como transparência, responsabilidade e supervisão humana. No campo científico, esses princípios ganham uma dimensão ainda maior, porque a produção acadêmica depende da confiança.
Confiamos que os pesquisadores apresentam dados verdadeiros. Confiamos que as referências existem. Confiamos que os métodos foram descritos de maneira honesta. Confiamos que os autores assumem responsabilidade pelo que publicam.
Sem confiança, a ciência perde uma parte essencial de sua legitimidade.
Por isso, talvez a verdadeira ameaça da inteligência artificial à autoria acadêmica não esteja na existência de ferramentas capazes de produzir textos. A ameaça aparece quando deixamos de compreender o que significa ser autor.
Ser autor é responder pelo que escrevemos.
É reconhecer quando não sabemos.
É revisar uma afirmação quando encontramos uma evidência contrária.
É voltar a um parágrafo porque percebemos que ele não expressa exatamente aquilo que pensamos.
É ler novamente uma fonte.
É desconfiar de uma informação excessivamente conveniente.
É mudar de ideia.
É reconhecer a contribuição de outros pesquisadores.
É compreender que conhecimento científico não é uma coleção de frases bonitas, mas um processo contínuo de investigação, crítica e revisão.
Talvez seja justamente aí que esteja o espaço que a inteligência artificial não deveria ocupar.
A tecnologia pode nos ajudar a escrever melhor. Pode nos ajudar a encontrar caminhos. Pode nos ajudar a organizar aquilo que já estamos tentando compreender. Pode inclusive nos provocar perguntas que ainda não havíamos formulado.
Mas a inquietação que originou a pesquisa precisa continuar sendo nossa.
A responsabilidade precisa continuar sendo nossa.
A decisão sobre o que merece ser dito precisa continuar sendo nossa.
E, sobretudo, o compromisso com a verdade precisa continuar sendo nosso.
Tenho cada vez mais a impressão de que o futuro da escrita científica não será marcado por uma disputa entre seres humanos e máquinas. Será marcado pela capacidade humana de estabelecer uma relação inteligente com as máquinas.
Não precisaremos necessariamente escrever tudo sozinhos para continuar sendo autores. Precisaremos, entretanto, compreender aquilo que escrevemos e assumir responsabilidade por aquilo que publicamos.
Essa diferença é enorme.
A inteligência artificial pode escrever uma introdução em segundos. Mas não pode substituir os anos de leitura que fizeram um pesquisador chegar àquele problema.
Pode sugerir uma hipótese. Mas não pode assumir a responsabilidade pelo resultado de uma pesquisa.
Pode reorganizar um parágrafo. Mas não pode viver a experiência intelectual que levou aquele parágrafo a existir.
Pode ajudar a encontrar palavras. Mas não pode determinar aquilo que, para nós, merece ser dito.
Por isso, não vejo a inteligência artificial necessariamente como uma ameaça à autoria acadêmica. Vejo-a como um convite para repensarmos o próprio significado da autoria, da aprendizagem e da escrita.
Talvez precisemos voltar a ensinar que escrever é pensar.
E talvez precisemos ensinar também que nenhuma ferramenta, por mais sofisticada que seja, substitui a responsabilidade de quem assina um texto.
No final, a questão não é se a inteligência artificial escreverá por nós.
A questão é se continuaremos pensando enquanto ela escreve conosco.
Essa, para mim, é a verdadeira discussão que precisamos fazer.
Referências
EUROPEAN COMMISSION. Ethics guidelines for trustworthy AI. Brussels: European Commission, 2019.
UNESCO. Guidance for generative AI in education and research. Paris: UNESCO, 2023.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.
ZAWACKI RICHTER, Olaf et al. Systematic review of research on artificial intelligence applications in higher education: where are the educators? International Journal of Educational Technology in Higher Education, v. 16, n. 39, 2019.
BENDER, Emily M. et al. On the dangers of stochastic parrots: can language models be too big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: ACM, 2021.