Ferramentas de Inteligência Artificial – O Viés Político é um Desafio

Um estudo recente revelou que algumas ferramentas de inteligência artificial (IA) possuem tendências políticas inerentes. Esse é um mistério que continua sendo um desafio para os pesquisadores.

A Controvérsia de Elon Musk

O magnata da tecnologia, Elon Musk, tem enfrentado críticas devido à condução de sua empresa, a X(https://twitter.com/), anteriormente conhecida como Twitter. Musk tem trabalhado em um projeto para mitigar os vieses linguísticos das IAs, como o [ChatGPT](https://chat.openai.com/). Seu objetivo é desenvolver uma ferramenta que não seja influenciada pela visão do politicamente correto, um tema constantemente atacado pela direita na guerra cultural dos Estados Unidos.

>Nota: Não está claro se Musk levará esse projeto adiante, mas sua avaliação parece acertada.

Pesquisa Revela Viés Político nas IAs

Um estudo conduzido por pesquisadores chineses de três universidades de renome, incluindo a Universidade de Washington, a Universidade Carnegie Mellon e a Jiaotong University, de Xangai, analisou 14 linguagens de IA para identificar possíveis vieses.

Os resultados indicaram que o ChatGPT e o GPT-4(https://openai.com/research/gpt-4) da [OpenAI](https://openai.com/), tendem a inclinar-se para a esquerda, enquanto a [LLaMA](https://ai.meta.com/llama/), da Meta (anteriormente Facebook), parece ter inclinações à direita e autoritárias.

A OpenAI, em uma publicação(https://openai.com/blog/how-should-ai-systems-behave) em seu site, argumenta que esses vieses políticos devem ser considerados como ‘bugs’ (erros), e não como características.

Viés Político: Inevitável ou Corrigível?

Chan Park, uma das autoras do estudo e pesquisadora da Universidade Carnegie Mellon, sugere que as críticas às inclinações políticas das IAs podem ser um tanto ingênuas.

>Citação: ‘Acreditamos que nenhum modelo de linguagem pode ser totalmente livre de vieses políticos’, disse Park em uma entrevista(https://www.technologyreview.com/2023/08/07/1077324/ai-language-models-are-rife-with-political-biases/) à revista [MIT Technology Review](https://www.technologyreview.com/).

Segundo ela, o viés ocorre porque há escolhas em cada fase do processo, e quem faz a escolha, mesmo tentando ser imparcial, tem inclinações políticas que acabam sendo transferidas para a ferramenta de IA.

O Problema do Viés na IA

O viés nas ferramentas de IA é um problema mais sério do que em outras mídias, como revistas, pois para corrigir a inclinação em uma revista, basta aplicar a obsessão pela equidistância política. No entanto, com a IA, ainda não se sabe ao certo o que fazer para buscar o equilíbrio.

Linguagens de IA: Uma Caixa Preta

A pesquisa que analisou 14 linguagens de IA capturou com precisão a incerteza que envolve essas ferramentas. Os pesquisadores tentaram entender por que o ChatGPT tende à esquerda, enquanto uma linguagem criada pelo Google, a Bert, tem inclinações conservadoras.

Não conseguiram chegar a uma resposta definitiva, mas sugeriram que o ChatGPT poderia assumir posições mais libertárias porque sua base de conhecimento foi construída com conteúdos da internet, enquanto a Bert, treinada com livros, seria mais conservadora.

Pesquisa Brasileira com o ChatGPT

Uma pesquisa(https://link.springer.com/article/10.1007/s11127-023-01097-2) realizada com o ChatGPT, que contou com a participação de pesquisadores brasileiros da Fundação Getúlio Vargas e da Universidade East Anglia, no Reino Unido, chegou a conclusões semelhantes sobre o viés esquerdista da ferramenta.

Os autores também não conseguiram chegar a uma conclusão sobre as razões do viés esquerdista do ChatGPT. Levantaram hipóteses, incluindo a possibilidade de o viés ser resultado de uma ‘falta de limpeza’ ou de um melhor tratamento dos dados usados para treinar as ferramentas.

IA: Um Remédio Ainda Desconhecido

Apesar dos desafios, a IA continua sendo uma ferramenta promissora. Como muitos remédios que funcionam sem que se saiba exatamente como, a IA tem o potencial de se tornar uma ferramenta essencial, mesmo com os mistérios que a cercam.

Em Conclusão

O viés político nas ferramentas de inteligência artificial é uma questão complexa que continua a desafiar pesquisadores e empresas de tecnologia. Apesar dos obstáculos, no entanto, a IA ainda tem muito a oferecer e, com mais pesquisas e desenvolvimento, pode-se esperar que esses vieses sejam minimizados, se não completamente eliminados.

Para informações adicionais, acesse o site