Segue um excelente artigo que vale muito a pena ler pelas palavras do autor original:
Gostei muito desse artigo, queria muito ler sobre esse assunto vindo de pessoas de lá, sem passar por leitura de mídia ocidental.
Coloquei a tradução para o português abaixo, mas para quem nunca ouviu falar das IAs sendo treinadas por africanos, dou um pouco o contexto: o Quênia é conhecido por sua proficiência no inglês, vindo de um sistema educacional rigoroso herdado do colonialismo britânico, e se tornou um importante fornecedor de profissionais de linguagem para o mercado ocidental, incluindo redatores e treinadores de IA. Mas o estilo formal e rebuscado do inglês queniano - antes valorizado - passou a ser confundido com textos gerados por IA, já que modelos como o ChatGPT incorporaram esse padrão de escrita durante seu treinamento por ter sido feito por quenianos. (todo modelo de IA precisa ter corretores humanos, e as empresas ocidentais vão buscar esses corretores especializados em países com mão de obra barata)
Isso tem levado ferramentas de detecção de IA a classificar erroneamente os textos "naturais" de quenianos como "artificiais", prejudicando oportunidades profissionais e acadêmicas no exterior. Além das consequências práticas, a situação afeta emocionalmente os quenianos, que dedicaram anos ao domínio do inglês como caminho para o sucesso (sob pressão de um sistema educacional extremamente exigente), e agora veem seu estilo de escrita - antes motivo de orgulho - ser motivo de chacota e associado à IA, sem que tenham qualquer culpa.
Sou queniano. Não escrevo como o ChatGPT. O ChatGPT escreve como eu.Há uma conversa que continua acontecendo, e... ok. Ok. Esse é um post que finalmente me irritou:
"Odeio ter que te dizer isso.. mas - é uma prova irrefutável de que você está usando o ChatGPT."
As respostas apontaram algo crucial, algo que torna todo esse debate ainda mais irritante: alguns de nós realmente tivemos que aprender inglês.
Deixe-me explicar.
O primeiro incidente - e talvez o que eu deveria ter interpretado como um sinal do que estava por vir - ocorreu no início deste ano. Recebi uma resposta a uma proposta na qual trabalhei arduamente durante dias.
“Esta é uma base realmente sólida, mas você poderia reescrevê-la com um toque mais humano? Parece um pouco como se tivesse sido escrita pelo ChatGPT.”
Toque humano. Toque humano. Eu vou te dar toque humano, seu...
Desculpe. Os pensamentos intrusivos tomaram conta de mim. Estou de volta, estou de volta.
A questão é a seguinte: cada vez mais escritores parecem estar recebendo esse tipo de resposta e, na minha opinião observadora, há um viés bastante sombrio e insidioso nisso. Fique comigo por um momento, e voltarei a esse assunto.
Parte da ironia é do tipo que faria nossos ancestrais rir. Porque o acusador, à sua maneira, não estava totalmente errado. Minha escrita compartilha algum DNA com a produção de um grande modelo de linguagem. Ambos temos uma tendência para frases estruturadas e equilibradas. Ambos temos uma predileção por frases de transição para garantir que o fluxo lógico nunca seja questionado. Ambos usamos ocasionalmente (e agora aparentemente de forma incriminatória) hífens, ponto e vírgulas ou travessões para conectar pensamentos relacionados com um toque mais elegante do que um simples ponto final.
Com a mente mais calma, tornei-me um pouco mais gracioso. O erro no julgamento deles não estava no quê, mas no porquê. Eles tinham confundido a história de origem.
Sou escritor. Um escritor que também é queniano. E cheguei a esta conclusão: não escrevo como o ChatGPT. O ChatGPT, com a sua forma estranha, incorpórea e de origem global, escreve como eu.
Ou, mais precisamente, escreve como milhões de nós que fomos empurrados por um canal educacional e social muito particular, um canal deliberadamente projetado para eliminar ambiguidades e moldar nossos pensamentos em uma forma muito específica, muito formal e muito impressionante.
Há uma comunidade crescente (culto?) de autoproclamados detetives de IA, que projetaram e detalharam o que consideram sinais reveladores e equiparam seus seguidores com uma lista de verificação de sinais robóticos.
Um texto usa palavras como “além disso”, “ademais”, “consequentemente”, “caso contrário” ou “assim”? Ele constrói seus argumentos usando estruturas perfeitamente paralelas, como o clássico “Não é apenas X, mas também Y”? Ele organiza seus pontos-chave em trios organizados e lógicos para obter o máximo impacto retórico?
A esses detetives da inautenticidade digital, eu digo: Amigo, bem-vindo a uma típica terça-feira em uma sala de aula, sala de reuniões ou chat interno do Teams no Quênia. As mesmas coisas que você identifica como marcas da máquina são, na verdade, os registros fósseis da nossa educação.
A base do meu estilo de escrita não foi programada no Vale do Silício. Ela foi forjada no cadinho de alta pressão do Certificado de Ensino Primário do Quênia, ou KCPE. Para a minha geração e as que se seguiram, a prova de redação em inglês — e sua equivalente em suaíli, Insha — não era apenas um teste; era um rito de passagem. Era um momento decisivo na vida: uma corrida de quarenta minutos e alto risco, em que todo o seu futuro, sua admissão em uma boa escola secundária nacional e, por extensão, a trajetória da sua vida, podiam depender da sua capacidade de empregar um vocabulário rico e uma estrutura de frases sofisticada sob uma pressão imensa e sufocante.
E aquele momento não era uma aberração. Todas as aulas de inglês e todos os trabalhos de casa dos três anos anteriores (e mais, pode-se argumentar) foram especificamente concebidos para que o professor que corrigisse a sua composição lhe atribuísse uma nota o mais próxima possível do máximo de 40. Obteve 38/40? Querido, quem quer que esteja a corrigir o seu trabalho considerou-o digno de respirar o mesmo ar que Malkiat Singh.
É uma memória difícil de apagar — a sugestão, escrita com a caligrafia cursiva perfeita do professor no quadro-negro: “Férias que nunca esquecerei”. Ou talvez fosse uma daquelas que exigiam que você terminasse toda a redação com “... e foi então que acordei e percebi que era apenas um sonho”. O tema era quase irrelevante. O verdadeiro teste era a execução.
Havia regras tácitas, mandamentos passados de professor para aluno, ano após ano. O primeiro mandamento? Você deve começar com um provérbio ou uma declaração inicial impactante. “A pressa é inimiga da perfeição”, escrevíamos, antes de começar uma história sobre correr para o mercado e esquecer o dinheiro. O segundo? Você deve demonstrar um vocabulário amplo. Você não apenas ‘andava’; você ‘caminhava com determinação’, ‘arrastava-se cansado’ ou ‘passeava despretensiosamente’. Você não apenas ‘via’ algo; você ‘contemplava um espetáculo magnífico’. Nossos cadernos estavam cheios de listas dessas "palavras de impacto" e seus sinônimos e antônimos eram martelados em nós como tabuadas de multiplicação.
O terceiro, e talvez o mais importante mandamento, era o da estrutura. Uma redação tinha que ser uma construção perfeita. A introdução era a fundação, o corpo eram as paredes e a conclusão era o telhado, resumindo ordenadamente a moral da história e, se você fosse inteligente, voltando ao provérbio introdutório para criar um ciclo satisfatório, embora previsível. Fomos ensinados a construir nossos parágrafos em torno de uma frase-tema forte. Fomos ensinados sobre o pecado do fragmento de frase e a virtude da frase composta complexa.
Nossos professores, armados com canetas vermelhas que manchavam nossas páginas com julgamentos, eram nossos algoritmos originais, treinando-nos em um modelo específico de “boa” redação. Nossas composições modelo, as redações perfeitas de alunos anteriores lidas em voz alta para a turma, eram nossos dados de treinamento.
E essa é uma cultura que se estende até o ensino médio, onde livros determinados devem ser memorizados e argumentos a favor ou contra certas afirmações devem ser elaborados para que você alcance e supere a nota mínima em literatura inglesa. Você poderia literalmente recitar Shakespeare no meio da noite, logo antes de qualquer prova.
Esse estilo tem uma história, é claro, uma história muito mais antiga do que o microchip: é um descendente linguístico direto do Império Britânico. O inglês que nos foi ensinado não era a língua fluida e em evolução da Londres ou Califórnia modernas, repleta de gírias e abreviações convenientes. Era o inglês da rainha, a língua do administrador colonial, do missionário, do diretor. Era a língua da Bíblia, de Shakespeare, da lei. Era uma ferramenta de poder, e fomos ensinados a manejá-la com precisão. Dominar suas cadências formais, seu vocabulário ligeiramente arcaico, suas estruturas gramaticais rígidas, não era apenas uma questão de passar em um exame. Era um sinal. Era a prova de que você era educado, civilizado, pronto para ocupar seu lugar na ordem das coisas.
(Tentei resistir, mas não consigo evitar, e talvez você já tenha percebido: viu os três?)
No Quênia pós-independência, essa língua não desapareceu. Simplesmente mudou sua função. Tornou-se a língua oficial, a língua da oportunidade, o novo marcador de classe e sofisticação. Os Charles Njonjos e Tom Mboyas de sua época a usavam para marcar seu status na sociedade. A capacidade de falar e escrever esse inglês formal e “correto” separava os que tinham dos que não tinham. Era a chave que abria as portas para a universidade, para um emprego corporativo, para uma vida além da aldeia. O sistema educacional, portanto, redobrou os esforços para ensiná-la, preservando-a em um estado quase perfeito, como uma peça de museu.
E aí está o ponto principal dessa longa piada histórica. Uma “IA”, um grande modelo de linguagem, é treinada em um vasto corpus de textos que são predominantemente formais. Ela aprende com livros publicados nos últimos dois séculos. Aprende com artigos académicos, enciclopédias, documentos jurídicos, todo o arquivo do conhecimento humano estruturado. Aprende a associar inteligência e autoridade com precisão gramatical e estrutura lógica.
A máquina, na sua busca por soar autoritária, acabou por soar como um graduado do KCPE que tirou um “A” em Composição Inglesa. Acidentalmente, replicou o fantasma linguístico do Império Britânico.
Agora, o mundo, através de suas novas e profundamente falhas lentes tecnológicas, olha para o resultado de nosso treinamento muito humano e muito analógico e o chama de artificial. O insulto é agravado pelas próprias ferramentas usadas para aplicá-lo. Os chamados detectores de IA não são árbitros neutros da verdade. Eles próprios são produtos de uma visão de mundo cultural e técnica específica.
Esses detectores, pelo que entendi, geralmente funcionam medindo duas coisas principais: “perplexidade” e ‘burstiness’ (ou ‘explosividade’). A perplexidade mede o quão previsível é um texto. Se eu começar uma frase com “O gato sentou no...”, seu cérebro e a IA preverão a palavra “chão”. Um texto cheio de frases tão previsíveis tem baixa perplexidade e é considerado “robótico”. A explosividade mede a variação no comprimento e na estrutura das frases. A fala e a escrita humanas naturais são percebidas como “explosivas” — uma frase curta e impactante, seguida por uma longa e sinuosa, depois outra curta. Os LLMs, pelo menos em suas formas iniciais, tendiam a escrever com um comprimento de frase mais uniforme, um ritmo monótono que carecia dessa explosividade humana.
Agora, considere nosso “treinamento” novamente. Fomos ensinados a ser claros, lógicos e, de certa forma, previsíveis. Nossas estruturas de frases deveriam ser consistentes e equilibradas. Fomos explicitamente ensinados a evitar a própria “burstiness” que os “detectores” agora buscam como um sinal de humanidade. Uma boa composição fluía suavemente, cada frase se baseando na anterior com uma lógica impecável. Fomos, na verdade, treinados para produzir textos com baixa perplexidade e baixa explosividade. Fomos treinados para escrever exatamente da maneira que essas ferramentas são projetadas para sinalizar como não humano. O viés não é um bug. É todo o sistema.
Estudos acadêmicos recentes confirmaram isso, descobrindo que essas ferramentas não são apenas pouco confiáveis, mas também significativamente mais propensas a sinalizar textos escritos por falantes não nativos de inglês como gerados por IA. (E, novamente, vamos voltar a isso.)
A ironia é enlouquecedora: você passa a vida inteira dominando um idioma, aderindo às suas regras formais com mais diligência do que a maioria dos falantes nativos e, por isso, uma máquina construída do outro lado do oceano chama você de falso.
Então, quando você lê meu trabalho — quando você vê nosso trabalho — o que você realmente está vendo? Você está vendo a prosa sem alma de um robô? Ou você está vendo a imagem de nossa professora de inglês do oitavo ano, a Sra. Amollo, com sua voz ecoando em nossas mentes — uma voz que falava com o sotaque preciso e conciso de uma época passada — lembrando-nos de conectar nossos parágrafos com uma frase de ligação adequada? Você está vendo o resultado de um algoritmo ou a memória muscular de mil ensaios escritos à mão, martelados em nós até que a estrutura se tornasse tão natural quanto respirar?
A questão do que torna a escrita “humana” tornou-se perigosamente restrita, controlada por algoritmos que carregam os preconceitos implícitos de seus criadores. Se a humanidade agora é definida pela presença de erros casuais, coloquialismos centrados nos Estados Unidos e um certo ritmo informal e coloquial, então onde isso deixa o resto de nós? Onde isso deixa o escritor de Lagos, de Mumbai, de Kingston, daqui mesmo em Nairóbi, que foi ensinado que a precisão era a forma mais elevada de respeito tanto pela língua quanto pelo leitor?
É uma nova fronteira da mesma velha luta: a luta para ser visto, para ser compreendido, para receber a mesma presunção de humanidade que é concedida tão facilmente a outros. Minha escrita não é produto de uma máquina. É produto da minha história. É o eco de um legado colonial, o resultado de uma educação rigorosa e um testemunho do esforço necessário para dominar a língua oficial do meu próprio país.
Antes de apontar o dedo e gritar “IA!”, peço que pare. Considere a possibilidade de que o que você está vendo não é uma falta de humanidade, mas uma forma de humanidade que você não foi treinado para reconhecer. Você pode estar vendo o resultado de uma educação diferente, uma história diferente, um padrão diferente.
Você pode estar apenas vendo um queniano escrevendo. E fazemos isso dessa maneira há muito tempo.
CapiRock Magic
in reply to Aracnus • • •