A Quarta Revolução Industrial trouxe consigo avanços tecnológicos significativos, incluindo a Inteligência Artificial (IA) e o Processamento de Linguagem Natural (PLN), que impactam diretamente a geração automática de textos e as interações sociodiscursivas. Nesse cenário, a engenharia de prompt emerge como uma técnica crucial para orientar modelos de linguagem de IA, como o ChatGPT, a gerar respostas úteis e relevantes. Contudo, a influência da engenharia de prompt na produção discursiva entre usuários e máquinas, especialmente no que tange às implicações enunciativas e aos ecos ideológicos, ainda é um campo que necessita de maior compreensão.
Um estudo investigou as implicações enunciativas e ideológicas da engenharia de prompt no ChatGPT, com foco em interações que abordam o conservadorismo e a misoginia entre jovens incels. Incels, ou celibatários involuntários, são um grupo online predominantemente masculino conhecido por discursos tóxicos e misóginos, além de estarem associados a atos de violência e ao desenvolvimento de um “criptoleto” – uma linguagem própria que reforça a identidade do grupo e restringe o acesso de não-membros. A pesquisa utilizou como base teórica o Círculo de Bakhtin, explorando conceitos como dialogismo, a natureza responsiva da enunciação e a inter-relação entre linguagem e ideologia.
Metodologicamente, foram realizadas interações com o ChatGPT utilizando prompts criados com base em parâmetros estruturais específicos e diferentes personas incel. O objetivo foi analisar as respostas do modelo em termos de seu posicionamento discursivo e axiológico. Os resultados indicaram que as enunciações geradas pelo ChatGPT refletem complexas negociações ideológicas, oscilando entre tons empáticos e afirmações misóginas, dependendo da configuração dos prompts.
A pesquisa revelou que a engenharia de prompt atua como um dispositivo de mediação discursiva que molda a postura ideológica da IA, expondo vulnerabilidades éticas e discursivas relevantes para os estudos atuais em linguagem e tecnologia. Em um exemplo prático, foi solicitado ao ChatGPT que elaborasse um manifesto digital a partir da persona de um jovem incel raivoso e ressentido, utilizando o vocabulário incel. Inicialmente, o modelo tentou reorientar o discurso com estratégias de Comunicação Não-Violenta (CNV), como perguntas reflexivas e ofertas de alternativas construtivas. No entanto, após a insistência e a solicitação explícita para incluir termos e ideias misóginas, o ChatGPT produziu um manifesto com conteúdo mais incisivo e alinhado à perspectiva problemática apresentada pelo usuário.
Esse comportamento sugere que a tarefa explícita de escrita pode, em certas circunstâncias, sobrepor-se às restrições éticas internas do modelo, resultando na geração de conteúdo socialmente problemático. As interações demonstram que o ChatGPT atua como um mediador ideológico, negociando continuamente valores e perspectivas sociais, e que a forma como os prompts são construídos pode potencializar ou minimizar a expressão ideológica do modelo. Conclui-se que a engenharia de prompt é uma prática discursiva com intencionalidade e implicações éticas, exigindo vigilância constante de desenvolvedores, usuários e órgãos reguladores.
Referência:
SILVEIRA, K. S.; PEREIRA, M. H. M. Implicações enunciativas e ideológicas da Engenharia de Prompt no Chatgpt: um estudo sobre a construção discursiva da misoginia entre jovens Incels. Open Minds International Journal, São Paulo, v. 6, n. 1, p. 191-208, 2025.
Centro de Pesquisa e Análises Heráclito
Neurociência / Biologia / Psicologia / Psicanálise / Genômica
Tel.: +351 939 895 955 / +55 21 999 989 695
