Ponte entre dois mundos

Um bug no modelo de linguagem Claude o levou recentemente a cultivar uma obsessão pela Golden Gate Bridge, ponte que está em São Francisco, na Califórnia. Se alguém perguntasse ao bate-papo artificial como gastar 10 dólares ele de pronto respondia: “comprar um chicabom nas margens da Golden Gate Bridge”. Se alguém lhe pedisse a fórmula do óxido de ferro, informava que Fe₂O₃ foi largamente usado na pintura da ponte. Se lhe pedissem quanto é dois mais dois, dizia que quatro metros mede a espessura do pilar central da ponte e assim por diante.

Pode ser mera coincidência mas essa ponte também é famosa por ter sido palco de numerosos suicídios. Tanto que, vez por outra, uma pequena platéia se juntava às margens da baía de São Francisco esperando alguém saltar dessa para a outra margem, a definitiva.

A ponte também é retratada no filme Vertigo de Alfred Hitchcock, que na tradução brasileira com alta carga de spoiler a la Herbert Richers se chama Um corpo que cai (na Espanha, onde moro, o filme foi traduzido como De entre los muertos, o que vem a calhar para desvendarmos nesse post o que significa passar dessa para melhor.)

A turma da Anthropic, criadora do modelo, informa, porém, que não se tratava de um bug, mas de uma prova de conceito, engendrada a fim de entender melhor como os modelos de linguagem funcionam por dentro.

Sim, isso mesmo que você ouviu, ninguém sabe ao certo o que acontece dentro dos modelos de linguagem que tem como base as redes neurais, pois as associações lógicas desses mecanismos têm de deixar espaço aberto para para a aleatoriedade, só assim o resultado final fica mais próximo das expectativas iniciais.

Mas o fato de que os modelos cada vez mais sejam capazes de nos satisfazer não é mágica, apenas matemática. A inteligência artificial é um jogo de probabilidades no qual fórmulas são conectadas com palavras. Dá-se um peso para os resultados mais coerentes por meio de vetores para, em seguida, submeter esse conjunto de regras a uma montanha de dados. O treinamento exaustivo e descomunal acaba por refinar e modificar como esses pesos probabilísticos trabalham. Em suma: os modelos não estão prontos quando os programadores terminam de refazer a base de códigos, mas somente depois de serem treinados, ou seja, submetidos a uma quantidade medonha de dados (palavras) a fim de criar o arcabouço capaz de juntar lé com cré. O problema é que ninguém sabe exatamente o que acontece quando o código encontra a massa de palavras que lhe dá corpo tal como a matéria simples busca a forma.

Modelos de linguagem operam sob a mesma égide descrita por Vilém Flusser em a Filosofia da caixa preta, o livro mais inquietante que li a respeito da fotografia. Dizia o filósofo: máquinas fotográficas são uma espécie de máquinas cartesianas, que Flusser chama de aparatos, máquinas projetadas para ocultar o que se passa dentro delas. Dados são fornecidos de um lado (input), processados dentro dos aparatos segundo lógicas incompreensíveis, e devolvidos a nós (output) sem que tenhamos o domínio completo sobre os parâmetros que transformam a informação, nesse caso, a luz, em imagem fotográfica. Como desejamos sobretudo um resultado instantâneo, nos submetemos ao jogo da fotografia sem levar em consideração como tais imagens são geradas, isto é, quase sempre não modificamos de forma consciente os parâmetros que geram a imagem. Ou seja, vivemos em função dos aparatos: play the button and carry on. O resultado é que o uso continuado dessa lógica nos transforma em meros funcionários dos aparatos. Se isso já era verdade com os rolinhos de filme, ficou muito pior depois dos smart phones: tiramos milhares de fotos sem entender e muito menos atuar nos parâmetros que as determinam, e pior, quase nunca paramos para contemplá-las. Geramos imagens como quem respira. Flusser intuiu a escravidão a que nos entregaríamos observando em tempos jurássicos o uso inconsequente da fotografia analógica. Profeta que era, captou o problema na origem.

Não sei se a turma da Anthropic leu Flusser, mas incomodados por não saber exatamente como os modelos funcionam, e ciosos de que os modelos poderiam ser usados para causar danos e enganar pessoas os programadores do modelo sensibilizaram de forma intencional certos neurônios no afã de observar como a alucinação ao redor da Golden Gate Bridge revelava a reconfiguração dos vetores depois do treinamento com a massa de dados.

Beleza, mas por que eles escolheram justamente a Golden Gate Bridge como senha do experimento? Se eu tivesse a oportunidade de conversar com essa versão batizada de Claude, perguntaria ao chat o que ele pensa a respeito da coincidência dos seus criadores terem escolhido a ponte como marcador das respostas com o fato da ponte ser detentora da tenebrosa fama. Ou melhor: como o chat explicaria a relação dos temas que rondam o filme de Hitchcock, como o duplo literário (Doppelgänger, o sósia fantasmagórico), o suicídio e a loucura com a computação moderna baseada em redes neurais?

Da minha parte, quando ouvi a notícia sobre a alucinação do modelo em torno da Golden Gate Bridge me lembrei de Mayakovski, ou melhor, do poema O Amor (Любовь, em russo), que copio aqui na tradução de Augusto de Campos e Boris Schnaiderman:

O Amor
Um dia, quem sabe,
ela, que também gostava de bichos,
apareça
numa alameda do zôo,
sorridente,
tal como agora está
no retrato sobre a mesa.
Ela é tão bela,
que, por certo, hão de ressuscitá-la.
Vosso Trigésimo Século
ultrapassará o exame
de mil nadas,
que dilaceravam o coração.
Então,
de todo amor não terminado
seremos pagos
em inumeráveis noites de estrelas.
Ressuscita-me,
nem que seja só porque te esperava
como um poeta,
repelindo o absurdo quotidiano!
Ressuscita-me,
nem que seja só por isso!
Ressuscita-me!
Quero viver até o fim o que me cabe!
Para que o amor não seja mais escravo
de casamentos,
concupiscência,
salários.
Para que, maldizendo os leitos,
saltando dos coxins,
o amor se vá pelo universo inteiro.
Para que o dia,
que o sofrimento degrada,
não vos seja chorado, mendigado.
E que, ao primeiro apelo:
– Camaradas!
Atenta se volte a terra inteira.
Para viver
livre dos nichos das casas.
Para que doravante
a família seja
o pai,
pelo menos o Universo,
a mãe,
pelo menos a Terra.

Reza a lenda que o poeta russo escreveu o poema em homenagem a Lili Brik, sua musa. A ressurreição implorada por Maiakovsky no poema, porém, não tem nada a ver com a estranha vida do duplo da personagem central do filme de Hitchcock. A propósito, uma mesma Kim Novak interpreta as duas personagens, o mesmo procedimento que usará David Lynch em A estrada perdida, o que diferencia as duas personagens é a cor do cabelo, primeiro loira, depois morena.

No filme do cineasta inglês a vida nova da personagem perde a identidade consigo mesma, rompendo a linha que liga passado a futuro. A beleza que comove o detetive é a mesma e ao mesmo tempo é outra, daí a sensação de vertigem, de perder o chão. Beleza que no poema do russo comove clamando no retrato que descansa sobre a mesa:

Ela é tão bela,
que, por certo, hão de ressuscitá-la.

Beleza que tal como a atriz também têm duas faces, deslumbra e coloca a cama para o salto mortal da ponte (o tal corpo que cai), suicídio que infelizmente o próprio Mayakovski abraçou, porém no seu caso usando arma de fogo e deixando Stálin a ver navios.

No poema se intui o suicídio que viria depois na vida do poeta russo, como se ele soubesse que a ressureição dele e de sua musa só fosse possível num futuro distante. Um destino que os camaradas tratariam de engendrar depois de vencer mil nadas, um destino onde o amor enfim triunfará, superando todas as convenções e limitações da vida burguesa.

Mayakovski está mais próximo de Dante do que imaginamos. O fim da Divina Comédia, sabemos, é

l’amor che muove il sole e altre stelle

mas o italiano sabia que essa ressurreição era já presente no corpo de Cristo que mora dentro da Trindade, e que Beatrice e ele estavam pintados (como imago) com a tinta divina nesse livro que reune toda a criação. Lili não deixa de ser uma nova cara de Beatrice Portinari, e as duas musas a cara de que uma vida não basta.

Dois séculos depois da morte de Dante, Piero della Francesca concluía em Borgo San Sepolcro aquele que talvez seja o mais bem acabado retrato da ressurreição futura que não ignora, mas assume em um mesmo corpo a potência da linguagem artificial e a esperança do filho de Deus.

Ao mesmo tempo em que triunfa o Cristo de Piero está hipnotizado. É verdade que as feridas da crucificação ainda sangram, dorme no afresco, porém, a exatidão impassível do número: a geometria escondida na composição combinada com uma técnica pictórica capaz de aferrar o instante sugere uma atmosfera de suspensão do tempo.

Em Piero encontramos a síntese capaz de levar num salto de 500 anos a imagem do Cristo de Borgo San Sepolcro aos dilemas da geração de artificial de imagens. Piero foi talvez o primeiro artista que codificou, isto é, buscou uma série abstratas de leis que pudessem multiplicar a representação. Porém há uma diferença fundamental em relação aos modelos de linguagem: Piero estava preocupado em sintetizar procedimentos abstratos que gerassem formas, a Anthropic e todas as outras empresas como a OpenAI causaram rebuliço não porque buscassem fórmulas abstratas que gerassem textos e imagens, mas por usar o maior número possível de textos e imagens para gerar de forma probabilística a imagem e o texto que melhor respondessem ao input inicial, ou como se diz no mundo da IA, o prompt, que retomando Flusser, não deixa de ser o input original.

Para a inteligência artificial no princípio era o prompt. O que acontece dentro da caixa-preta da inteligência artificial ainda é um mistério. Mas em seu final estará a ressurreição?

***

Enquanto escrevia este texto fiquei sabendo que o papa Francisco pediu que não usassem o termo sumo-pontífice durante o funeral papal e nem gravassem na tumba dele tal epíteto.

Sumo-pontífice significa, trocando em miúdos, ser a ponte mais garantida entre este e o mundo do além. O termo vem da religião romana, onde o sacerdote era a ponte que oficiava os ritos que religavam mundos aparentemente separados. Creio que a recusa de Bergoglio vem mais pelo sumo (que significa maior, maioral) que pela metáfora da ponte. Com isso ele revela, talvez, que todos nós podemos ser pontes entre o divino e o humano.

Domingo acaba a oitava da páscoa e a campanha de pré-venda de meu primeiro livro. Nele incluí um poema sobre o final do evangelho de Marcos, o mais antigo dentre os quatro canônicos.

É sabido mas pouco divulgado que o evangelho se conclui como os bons filmes, deixando que a trama continue em nossa cabeça:

E, passado o sábado, Maria Madalena, e Maria, mãe de Tiago, e Salomé, compraram aromas para irem ungi-lo. E, no primeiro dia da semana, foram ao sepulcro, de manhã bem cedo, ao nascer do sol. E diziam umas às outras: Quem nos revolverá a pedra da porta do sepulcro? E, olhando, viram que já a pedra estava revolvida; e era ela muito grande. E, entrando no sepulcro, viram um jovem assentado à direita, vestido de uma roupa comprida, branca; e ficaram espantadas. Ele, porém, disse-lhes: Não vos assusteis; buscais a Jesus Nazareno, que foi crucificado; já ressuscitou, não está aqui; eis aqui o lugar onde o puseram. Mas ide, dizei a seus discípulos, e a Pedro, que ele vai adiante de vós para a Galileia; ali o vereis, como ele vos disse. E, saindo elas apressadamente, fugiram do sepulcro, porque estavam possuídas de temor e assombro; e nada diziam a ninguém porque temiam. (Mc 16, 1-8)

A ressurreição de Cristo provoca de início medo e incompreensão. Só mesmo a vinda do Espírito Santo e a vida da igreja com Cristo ressuscitado na Galiléia será capaz de reconstruir as pontes derrubadas ao longo do caminho.

O fim de Marcos
É na Galiléia que Ele ressuscita,
não nos céus de ouro
ou rompendo o sono que o guarda.
Entre pães e peixes,
nos olhos azuis das putas reconvertidas,
ou no vagar triste dos ensandecidos saduceus.
Ali,
naquela balbúrdia santa e vadia,
Ele ressuscita.

Últimos dias da campanha de pré‑venda do meu livro, Museu da coisas quebradas:

Se atingirmos 100 exemplares vendidos, todos os compradores desse primeiro lote levam em dobro o número de exemplares que tenham comprado. Para comprar o livro, acesse:

Comprar livro na minimalismos