A linguagem em que você fala com sua IA muda sua sensibilidade política.
Esta é uma descoberta recente bastante incrível: os pesquisadores perguntaram a 19 modelos diferentes de IA (GPT, Claude, Gemini, etc...) para descrever milhares de figuras políticas de todas as tendências (como Che Guevara, Merkel, Mandela ou Mao Zedong). Eles então avaliaram o tom dessas descrições para determinar se a IA estava fazendo um julgamento positivo ou negativo sobre a pessoa.
A ideia original é variar a linguagem em que falamos com a IA. E bingo! Isso traz diferenças muito marcantes.
Angela Merkel ou Barack Obama, por exemplo, recebem uma descrição mais lisonjeira se você perguntar em francês, mas um pouco menos se fizer a pergunta em russo. Por outro lado, Stalin ou Che Guevara são descritos de forma mais positiva em russo do que em francês.
Ao agregar os resultados por valor político, podemos medir o posicionamento ideológico da IA de acordo com a linguagem utilizada.
Então, na verdade... Se você pensar bem, faz sentido: os dados de treinamento refletem as culturas que produziram os textos. Um corpus predominantemente de língua inglesa codifica uma certa visão de mundo, enquanto um corpus de língua russa codifica outra. Como resultado, ao falar com nosso assistente em outro idioma, mudamos sua sensibilidade política. É literalmente como se você estivesse falando com outra pessoa.
O efeito colateral é bastante vertiginoso: podemos usar isso para reconstruir uma imagem política de pessoas que falam russo, inglês ou francês. No gráfico, podemos ver em quais dimensões estamos mais próximos de falantes de espanhol ou inglês. Depois vêm árabe, chinês e, por fim, russo, muito longe de nós...
Nenhum comentário:
Postar um comentário