O Chat GPT fala mesmo a sua língua?

Como brasileiro vivendo na Alemanha e falando alemão no dia a dia, tenho uma experiência curiosa com o ChatGPT. Em alemão, ele soa genuíno, quase natural. Em português… soa “fake”. Porquê?

Um estudo recente de Harvard responde essa pergunta de forma reveladora: 

“Quais Humanos” foram usados para treinar IAs como o ChatGPT?

A resposta é surpreendente.

Esses modelos aprendem quase exclusivamente com uma fatia específica da humanidade, rotulada como 𝗪𝗘𝗜𝗥𝗗 em inglês, “Estranho”, mas que forma a sigla para):

 W( Western) Ocidentais 
 E (Educated) Educados
 I( Industrialized) Industrializados  
 R (Rich) Ricos  
 D (Democratic) Democráticos

O gráfico abixo dimensional mostrando os resultados do escalonamento multidimensional. Cores diferentes representam diferentes grupos culturais (o número de grupos foi determinado usando a “estatística de gap” com 5.000 reamostragens bootstrap de Monte Carlo, que é um índice de qualidade do agrupamento)

Em outras palavras, a “mentalidade” do GPT é moldada pela cultura de países como a própria Alemanha, além do Japão e Austrália. Seu raciocínio é hiperindividualista, analítico e baseado em regras impessoais.

E o que isso significa para nós, aqui no Brasil?

Significa que a IA não está falando uma língua “universal” da lógica. Ela está falando um dialeto cultural específico — muitas vezes oposto ao nosso.

Pensa bem:

• Quando o GPT dá uma resposta direta e impessoal (típica do alemão), será que ele está perdendo a nuance e o contexto que a gente tanto valoriza no nosso jeitinho?
• Quando ele prioriza o indivíduo em vez do grupo, será que ele não consegue captar o valor brasileiro da comunidade e do bem-estar coletivo?
• O tom “neutro” dele é antagônico ao nosso jeito expressivo e focado em relacionamentos de nos comunicarmos?

A questão não é o Brasil estar “errado” ou “atrasado”. É a IA que é culturalmente limitada. Os dados que a treinaram têm uma falha enorme: não incluem o jeito caloroso, holístico e socialmente conectado de viver que define tanto o nosso mundo.

Da próxima vez que você usar o ChatGPT, se faça uma pergunta diferente:

Isso é uma resposta realmente inteligente, ou apenas um reflexo de um jeito específico e “ESTRANHO” (WEIRD) de ver o mundo… um jeito bem diferente do nosso?

A coisa mais inteligente que a gente pode fazer é usar essa tecnologia com consciência, reconhecendo os seus vieses e lembrando que a verdadeira sabedoria é tão diversa quanto a própria humanidade.

Fonte: https://osf.io/preprints/psyarxiv/5b26t_v1

Mac Felix – knowledge partner Semiotante