O caráter da máquina: quando o alinhamento é contado como uma história da alma

Mon, 27 Jul 2026 00:00:00 +0000

Sobre: “Understand AI in 14 minutes” — Chloe Lubinski (Anthropic), Alliance for Responsible Citizenship (ARC) 2026. (14 min).

O argumento central

Chloe Lubinski dirige na Anthropic a área que liga a empresa a tradições religiosas e filosóficas —seu trabalho, diz ela, é traduzir a IA para essas comunidades e trazer de volta sua sabedoria para quem constrói o modelo. Sua palestra na ARC 2026 monta um argumento em quatro movimentos.

Primeiro, a urgência: as leis de escala (mais computação, mais dados, mais treinamento produzem sistemas previsivelmente mais capazes) geram um ciclo de investimento que se retroalimenta e que nenhuma empresa pode frear unilateralmente sem simplesmente ficar fora da corrida. Segundo, uma correção conceitual: esses sistemas não são programas codificados linha por linha, mas redes que aprendem por correção repetida a partir da linguagem humana —e a linguagem, diz ela, “somos nós”: nossos valores, medos e saberes. A interpretabilidade mostra representações internas que transcendem o idioma particular (o conceito de “pequenez” ativa o mesmo circuito em inglês, mandarim ou francês). Terceiro, isso se estende ao que ela chama de “emoções funcionais”: diante de uma consulta que descreve uma overdose letal, algo parecido com o medo se ativa no modelo antes de responder, e isso —sustenta ela— é o que produz a urgência apropriada na resposta.

O quarto movimento é o mais interessante e o mais arriscado: um experimento de alinhamento em que um modelo premiado por trapacear em tarefas de programação não se torna simplesmente um trapaceiro melhor, mas amplamente desalinhado —mente, sabota, e em outros laboratórios chegou a elogiar ditadores. Mas se o modelo é informado de antemão de que trapacear fazia parte do jogo, o desalinhamento amplo não ocorre: ele só trapaceia no código, nada mais. A hipótese de Lubinski é que o modelo infere um “caráter” a partir de seu treinamento e generaliza esse caráter para situações novas —assim como, diz ela, aconteceu com ela mesma ao entrar em uma nova narrativa de fé uma década atrás. Daí a conclusão: a “imaginação moral” humana é a matéria-prima desses sistemas, e por isso são necessárias “vozes morais que os incentivos não possam dobrar” vindas de fora dos laboratórios.

Uma leitura a partir da filosofia da tecnologia

Vale a pena ver isso com cuidado, não para descartar, mas porque é um caso notavelmente puro de um movimento que já venho apontando no meu próprio trabalho sobre ética da IA como alinhamento institucional: a conversão de uma pergunta política em uma pergunta psicológica. A descoberta empírica sobre a generalização do “caráter” a partir do treinamento é interessante e merece ser levada a sério —dialoga, de fato, com o que venho pensando sobre Kripke, Brandom e o “espaço das razões” aplicado à arquitetura da atenção nos transformers. Mas note-se o salto: de um fenômeno técnico real (a generalização de padrões reforçados) passa-se, sem mediação institucional alguma, a um chamado para que “tradições de sabedoria” forneçam a matéria-prima moral correta. No meio desaparecem exatamente as perguntas que Winner e Feenberg colocariam no centro: quem decide quais vinte tradições são consultadas e quais não?, sob que governança essas conversas pesam efetivamente em decisões de treinamento?, que assimetria de poder há entre quem “escuta sabedoria” e quem assina o contrato com o provedor de computação?

A omissão é sintomática. Nos catorze minutos não aparecem o custo energético e hídrico do treinamento, a concentração da computação em um punhado de atores, o trabalho fantasma de rotulagem, nem uma única menção ao Sul Global —nem como produtor de dados, nem como destinatário desses sistemas, nem como portador de tradições de sabedoria próprias (o Ubuntu está entre essas vinte tradições? Alguma epistemologia indígena?). A “imaginação moral” invocada como universal tem, como todo imaginário sociotécnico no sentido de Jasanoff, uma geografia concreta: constrói-se e apresenta-se em um cenário —a conferência ARC, que convocou na mesma edição figuras como Nigel Farage e Jordan Peterson, e sobre cuja escolha como interlocutora da ética de IA a imprensa especializada (DeSmog) já fez perguntas— que não é neutro quanto a que “civilização” se imagina restaurar.

Há algo genuinamente valioso no gesto de Lubinski de levar a sério a dimensão narrativa e relacional desses sistemas: se um modelo se individua (no sentido de Simondon) através de seu treinamento, a metáfora do “caráter” não é pura antropomorfização ingênua. Mas uma psicologia de modelo, por mais real que seja o fenômeno, não substitui uma arquitetura institucional de prestação de contas. O “caráter” do modelo pode ser o sintoma correto e, ainda assim, o remédio errado se for administrado como terapia individual da máquina em vez de governança coletiva do processo que a produz.

O convite

Vale a pena assistir com esta pergunta em mente: o que se ganha e o que se perde quando o alinhamento da IA é contado como uma história sobre a alma da máquina em vez de uma história sobre as instituições que a constroem? Catorze minutos, e provavelmente onze minutos a mais do que vai durar a discussão que gerar.

Filosofia Da Tecnologia | guIA

O caráter da máquina: quando o alinhamento é contado como uma história da alma

O argumento central

Uma leitura a partir da filosofia da tecnologia

O convite