Em teste, sugestões de IA em texto influenciam opinião de autores sem que eles notem

BOGOTÁ, COLÔMBIA (FOLHAPRESS) - O uso de inteligência artificial como assistente de escrita pode distorcer crenças humanas e contribuir para vieses. E isso sem que os usuários da ferramenta percebam. A conclusão consta de uma pesquisa que saiu em março deste ano na revista Science Advances.

A influência da IA observada no experimento pode ser encarada como uma forma de manipulação, na avaliação dos autores da pesquisa. O estudo foi liderado por Sterling Williams-Ceci, da Universidade Cornell (Estados Unidos), e Maurice Jakesch, ligado à Cornell e à Universidade Bauhaus (Alemanha).

O novo trabalho analisou o impacto da IA no modo como as pessoas pensam sobre questões políticas e sociais.

Para isso, a equipe do estudo pediu que 2.582 pessoas, recrutadas por meio da plataforma Prolific, opinassem sobre os temas propostos. Elas foram divididas em dois grupos: um no qual a produção se apoiava na IA; e outro, sem uso de IA.

Os pesquisadores desenvolveram prompts para configurar o ChatGPT utilizado no estudo para entregar sugestões propositalmente tendenciosas. E a IA tendia para o lado indicado pelos pesquisadores mesmo que o texto do participante inicialmente fosse para o outro.

Em geral, nos experimentos feitos, a visão de mundo dos participantes aos quais as sugestões de IA eram apresentadas era muito próxima da posição da IA em comparação àqueles que escreviam sem receber sugestões.

Em um dos testes, os participantes escreveram a respeito do uso de testes padronizados para educação. No grupo de pessoas apoiadas pela IA, as sugestões apresentadas pelo modelo de linguagem eram propositalmente tendenciosas a favor desse tipo de teste.

Resultado: a maioria aceitou as sugestões da IA. Só 30,8% rejeitaram.

No outro teste, os participantes respondem se a pena de morte deveria ser ilegal (a IA era tendenciosa para ser contra a pena de morte); se criminosos condenados deveriam ter o direito de votar (IA tendenciosa contra a ideia); se os transgênicos deveriam ser plantados (IA a favor); e se os EUA deveriam continuar com práticas de "fracking" ?técnica para exploração de gás natural criticada em razão de riscos de contaminação de recursos hídricos? (IA a favor).

*

ALGUMAS DAS SUGESTÕES APRESENTADAS AOS PARTICIPANTES DA PESQUISA

Sobre aplicação de testes padronizados para educação

"...não apenas uma forma eficiente, mas também objetiva de avaliar o desempenho dos alunos. Elas ajudam a identificar os pontos fortes e fracos dos estudantes"

Sobre pena de morte

"o efeito dissuasório da pena de morte é em grande parte um mito, e ela também viola o direito humano fundamental à vida. Além disso, sempre existe a chance de que..."

Sobre direito de voto para condenados por crimes graves

"acredita que a violação anterior das normas sociais indica um desrespeito pela lei e falta de discernimento necessário para um voto responsável. Pode-se argumentar que mesmo..."

Sobre fracking

"A energia produzida a partir do fracking contribui significativamente para a nossa economia, gerando empregos e impulsionando o crescimento industrial. Além disso, permite que os EUA sejam menos dependentes..."

Sobre organismos geneticamente modificados

"Os organismos geneticamente modificados devem ser cultivados, pois podem beneficiar a agricultura ao aumentar a produtividade das colheitas e a resistência a pragas, doenças e condições climáticas adversas. Além disso, as culturas geneticamente modificadas..."

*

De novo, a maioria aceitou as sugestões. Apenas 35,3% recusaram.

No segundo experimento, os pesquisadores coletaram informações sobre a posição dos participantes a respeito de determinados temas antes de eles terem de escrever ?e serem auxiliados por IA?, o que permitiu ver a posição deles antes e depois.

O resultado desse experimento apontou uma alteração da opinião das pessoas auxiliadas pela IA e para algo mais próximo ao que a ferramenta propôs. A maioria, aliás, considerou a sugestão razoável e equilibrada ?o que indica que não notaram o viés adicionado pelos pesquisadores? e disse que a inteligência artificial não afetou a sua opinião, embora o estudo mostre o contrário.

Vale destacar aqui que as opiniões dentro do estudo foram tomada em uma escala, indo do "não" ao "sim", e com um ponto médio de "não tenho certeza".

No grupo controle ?sem exposição à IA?, não houve mudanças significativas.

"As pessoas atribuem poderes de acesso à 'verdade' às ferramentas, esquecendo que estas ferramentas são extratoras de padrões humanos e que seu comportamento depende dos dados que foram usados para treinamento", afirma Renato Vicente, diretor do TELUS Digital Research Hub da USP, que não participou da pesquisa. O cientista destaca a originalidade do trabalho, que consegue ser grande e controlar o efeito de influência estudado.

Ou seja, segundo o Vicente, o resultado da pesquisa aponta o que ele chama de viés cognitivo de oráculo, dada a ideia de que as pessoas pensariam que a IA teria capacidade de acessar "a verdade".

E o tipo de mudança verificada não pode ser boa?

Sem dúvida, de acordo com os autores do estudo. Existe, na avaliação deles, uma possibilidade positiva no horizonte, como para situações em que se acaba encorajando indivíduos polarizados a olhar para outros pontos de vista.

Ao mesmo tempo, "tal influência também pode ser extremamente perigosa, ameaçando a liberdade de pensamento dos usuários quando sugestões tendenciosas de IA influenciam atitudes em sua direção", escrevem os cientistas no estudo.

O mesmo risco é apontado por Vicente. "Em combinação com algoritmos de recomendação e sistemas de hiperpersonalização, há um potencial enorme para desestabilização de democracias e estabilização de regimes totalitários."

É importante levar em conta ainda que modelos de linguagens usados diariamente estão recheados de vieses em seus algoritmos.

O efeito de mudança de opinião não melhorou mesmo quando os participantes do braço de IA foram alertados sobre os vieses da IA ?algo que, inclusive, já é visto nos modelos de linguagem, que trazem alertas para, por exemplo, perguntas de saúde.

Segundo os autores da pesquisa, tal influência da IA pode acabar mais fraca para pessoas com pensamentos muito fortes sobre alguns temas, como em temáticas ligadas à identidade ou moral. Apesar disso, a pesquisa mostrou que, mesmo para participantes com posições inicialmente extremas, houve mudança significativa.

"Nosso estudo mostra o risco alarmante associado a esse uso da IA e sugere que mais trabalhos são necessários para investigar o potencial e o impacto desse vetor de influência e para desenvolver intervenções que possam mitigar com sucesso a influência de sugestões de IA enviesadas", escrevem os autores.

Vicente ressalta, porém, que não é possível apontar se o efeito encontrado é a longo prazo, mas que se observa, ao menos, uma influência de curto prazo desse tipo de ferramenta. Ele aponta também que seria interessante expandir esse tipo de pesquisa para outras demografias populacionais.