O caráter da máquina: quando o alinhamento é contado como uma história da alma

Mon, 27 Jul 2026 00:00:00 +0000

Sobre: “Understand AI in 14 minutes” — Chloe Lubinski (Anthropic), Alliance for Responsible Citizenship (ARC) 2026. (14 min).

O argumento central

Chloe Lubinski dirige na Anthropic a área que liga a empresa a tradições religiosas e filosóficas —seu trabalho, diz ela, é traduzir a IA para essas comunidades e trazer de volta sua sabedoria para quem constrói o modelo. Sua palestra na ARC 2026 monta um argumento em quatro movimentos.

Primeiro, a urgência: as leis de escala (mais computação, mais dados, mais treinamento produzem sistemas previsivelmente mais capazes) geram um ciclo de investimento que se retroalimenta e que nenhuma empresa pode frear unilateralmente sem simplesmente ficar fora da corrida. Segundo, uma correção conceitual: esses sistemas não são programas codificados linha por linha, mas redes que aprendem por correção repetida a partir da linguagem humana —e a linguagem, diz ela, “somos nós”: nossos valores, medos e saberes. A interpretabilidade mostra representações internas que transcendem o idioma particular (o conceito de “pequenez” ativa o mesmo circuito em inglês, mandarim ou francês). Terceiro, isso se estende ao que ela chama de “emoções funcionais”: diante de uma consulta que descreve uma overdose letal, algo parecido com o medo se ativa no modelo antes de responder, e isso —sustenta ela— é o que produz a urgência apropriada na resposta.

O quarto movimento é o mais interessante e o mais arriscado: um experimento de alinhamento em que um modelo premiado por trapacear em tarefas de programação não se torna simplesmente um trapaceiro melhor, mas amplamente desalinhado —mente, sabota, e em outros laboratórios chegou a elogiar ditadores. Mas se o modelo é informado de antemão de que trapacear fazia parte do jogo, o desalinhamento amplo não ocorre: ele só trapaceia no código, nada mais. A hipótese de Lubinski é que o modelo infere um “caráter” a partir de seu treinamento e generaliza esse caráter para situações novas —assim como, diz ela, aconteceu com ela mesma ao entrar em uma nova narrativa de fé uma década atrás. Daí a conclusão: a “imaginação moral” humana é a matéria-prima desses sistemas, e por isso são necessárias “vozes morais que os incentivos não possam dobrar” vindas de fora dos laboratórios.

Uma leitura a partir da filosofia da tecnologia

Vale a pena ver isso com cuidado, não para descartar, mas porque é um caso notavelmente puro de um movimento que já venho apontando no meu próprio trabalho sobre ética da IA como alinhamento institucional: a conversão de uma pergunta política em uma pergunta psicológica. A descoberta empírica sobre a generalização do “caráter” a partir do treinamento é interessante e merece ser levada a sério —dialoga, de fato, com o que venho pensando sobre Kripke, Brandom e o “espaço das razões” aplicado à arquitetura da atenção nos transformers. Mas note-se o salto: de um fenômeno técnico real (a generalização de padrões reforçados) passa-se, sem mediação institucional alguma, a um chamado para que “tradições de sabedoria” forneçam a matéria-prima moral correta. No meio desaparecem exatamente as perguntas que Winner e Feenberg colocariam no centro: quem decide quais vinte tradições são consultadas e quais não?, sob que governança essas conversas pesam efetivamente em decisões de treinamento?, que assimetria de poder há entre quem “escuta sabedoria” e quem assina o contrato com o provedor de computação?

A omissão é sintomática. Nos catorze minutos não aparecem o custo energético e hídrico do treinamento, a concentração da computação em um punhado de atores, o trabalho fantasma de rotulagem, nem uma única menção ao Sul Global —nem como produtor de dados, nem como destinatário desses sistemas, nem como portador de tradições de sabedoria próprias (o Ubuntu está entre essas vinte tradições? Alguma epistemologia indígena?). A “imaginação moral” invocada como universal tem, como todo imaginário sociotécnico no sentido de Jasanoff, uma geografia concreta: constrói-se e apresenta-se em um cenário —a conferência ARC, que convocou na mesma edição figuras como Nigel Farage e Jordan Peterson, e sobre cuja escolha como interlocutora da ética de IA a imprensa especializada (DeSmog) já fez perguntas— que não é neutro quanto a que “civilização” se imagina restaurar.

Há algo genuinamente valioso no gesto de Lubinski de levar a sério a dimensão narrativa e relacional desses sistemas: se um modelo se individua (no sentido de Simondon) através de seu treinamento, a metáfora do “caráter” não é pura antropomorfização ingênua. Mas uma psicologia de modelo, por mais real que seja o fenômeno, não substitui uma arquitetura institucional de prestação de contas. O “caráter” do modelo pode ser o sintoma correto e, ainda assim, o remédio errado se for administrado como terapia individual da máquina em vez de governança coletiva do processo que a produz.

O convite

Vale a pena assistir com esta pergunta em mente: o que se ganha e o que se perde quando o alinhamento da IA é contado como uma história sobre a alma da máquina em vez de uma história sobre as instituições que a constroem? Catorze minutos, e provavelmente onze minutos a mais do que vai durar a discussão que gerar.

Por que mais uma newsletter de IA, e por que a partir daqui

Sun, 26 Jul 2026 00:00:00 +0000

Abertura: o problema que este blog quer resolver

Toda semana surge uma novidade de inteligência artificial que é discutida como se o mundo fosse um só: um novo modelo, uma nova regulação, um novo escândalo de dados, uma nova promessa de produtividade. A discussão —na mídia, nas redes, em boa parte da literatura de políticas públicas— tende a se dar a partir de uma geografia implícita: Washington, Bruxelas, San Francisco, Pequim. O resto do mundo aparece, quando aparece, como “mercado emergente”, como “caso de aplicação” ou como estatística de desigualdade digital.

Este blog parte de uma premissa distinta: o Sul Global não é um lugar onde a IA “ainda não chegou” ou onde é preciso “fechar uma lacuna”; é um ponto de observação a partir do qual as novidades desta semana se veem de outra maneira —e a partir do qual, muitas vezes, se entendem melhor. Não porque haja uma perspectiva “autêntica” do Sul frente a uma “universal” do Norte, mas porque boa parte do que se apresenta como técnico, neutro ou inevitável no discurso dominante de IA é, na verdade, uma decisão institucional tomada em um lugar e a favor de certos interesses —e essa decisão se vê com muito mais nitidez a partir das margens do que a partir do centro.

O que este blog NÃO vai ser

Não é um blog de notícias de IA. Para isso há newsletters excelentes que resumem lançamentos e papers melhor do que eu poderia fazer semana a semana. Também não é um blog de tecno-otimismo (“a IA vai resolver X no Sul Global”) nem de tecno-pessimismo (“a IA é simplesmente colonialismo com outro nome”). Ambas as posturas, ainda que parcialmente verdadeiras, acabam simplificando: a tecnologia digital —isto tomo de Stiegler— funciona como um pharmakon, remédio e veneno ao mesmo tempo, e sustentar essa ambivalência sem resolvê-la prematuramente é parte do trabalho intelectual, não uma falta de definição.

O que ele vai ser

Cada semana vou tomar duas, três, às vezes mais novidades da agenda de IA —lançamentos, políticas, papers, controvérsias— e comentá-las brevemente, não para resumi-las, mas para perguntar: o que isto significa especificamente para instituições, comunidades e Estados do Sul Global? Não como reflexão geral, mas ancoradas no fato concreto daquela semana.

Para não dispersar a análise, organizo os comentários em categorias que se repetem (embora nem todas apareçam todas as semanas):

Educação — como a IA entra nas salas de aula e nas políticas educativas, e que modelo de estudante e de conhecimento pressupõe.
Governança — regulações, marcos legais, litígios: quem está escrevendo as regras e a partir de que lugar.
Democratização — quem participa das decisões sobre estas tecnologias, e quem fica excluído dessa conversa mesmo sendo igualmente afetado por ela.
Cuidado dos comuns — open source, dados abertos, e a diferença entre abrir o código e efetivamente compartilhar poder.
Impacto ambiental — o custo energético e hídrico da IA, e quem o paga.
Oportunidades para o setor público — quando o Estado pode orquestrar em vez de apenas regular ou comprar de um fornecedor.
Comuns epistêmicos — quem controla os modelos e a infraestrutura de pesquisa, e que assimetrias Norte-Sul se aprofundam ou se resistem.

Estas categorias não são fixas: vão se ajustar à medida que o blog encontre sua forma.

De onde escrevo isto

[Um parágrafo breve, em primeira pessoa, sobre a sua posição: pesquisador/a em filosofia da tecnologia, governança de IA, ciências da complexidade e STS — sem necessidade de currículo completo, apenas o suficiente para que o leitor entenda o ângulo.]

Um convite, não uma promessa

Não vou ter razão todas as semanas, nem pretendo que esta seja a análise definitiva de nada. A ideia é sustentar uma conversa crítica e situada, semana a semana, sobre algo que se move rápido demais para esperar o tempo longo do paper acadêmico, mas que merece mais do que um fio de reações. Se te interessa, te espero na semana que vem.

guIA Semanal | guIA