#9 Maschinenmensch: a utopia do controle social através das máquinas
Como a Inteligência Artificial e a linguagem humana aparecem nos filmes “Alphaville”, “Metrópolis” e “Ex–Machina”
Em 1965, Jean-Luc Godard lançou “Alphaville”, filme que viria a se tornar um clássico sci-fi, ainda que pouco explorado pela crítica como tal. Isso deve-se a uma quantidade exorbitante de filmes do gênero que o sucederam – e fizeram mais sucesso de bilheteria –, mas também ao seu jeito francês de conduzir a narrativa, que mistura elementos do cinema noir, das intrigas investigativas e da tecnologia em ascensão na época com um tom irônico a respeito das linguagens que formam a tessitura do próprio cinema até então.
Na trama, Lemmy Caution (Eddie Constantine) é um agente secreto enviado para a cidade fictícia de Alphaville, em uma viagem intergaláctica, disfarçado de jornalista da publicação Figaro-Pravda na missão de exterminar o professor von Braun, criador do Alpha-60. O computador foi desenvolvido com a intenção de controlar aquele contexto social a partir da lógica, eliminando quaisquer palavras ou ações que remetam à sensibilidade – “poesia”, “por quê?” e “consciência” são alguns dos dizeres proibidos do vocabulário pautado pelo maquinário. A desculpa é uma espécie de salvação da sociedade a partir da praticidade instaurada no cotidiano dos que ali vivem. Em todos os quartos de hotel, por exemplo, existe um dicionário em molde de livro religioso com uma lista de palavras e sentimentos que são proibidos, em versões bastante atualizadas.
A temática da linguagem não é estranha ao diretor, um dos propulsores da Nouvelle Vague na França. Durante toda a sua carreira, ela foi metáfora de suas histórias de amor, suspense ou comédia. Aqui, porém, ganha uma carga ainda mais significativa ao estar aliada diretamente com a tecnologia em desenvolvimento – criada e alimentada por homens.
A Dra. Sheila Jasanoff, professora de Ciência e Tecnologia na Universidade de Harvard, chama a atenção para um ponto crucial de “Alphaville”: seu contexto histórico. “[O filme] retrata uma cidade sob o controle deste grande instrumento, desumanizado e mecanizado – o computador. Penso que articula uma sensibilidade europeia mais geral do pós-guerra sobre como a tecnologia e o Estado trabalham em conjunto para acabar com a liberdade”, ela diz, em entrevista à Sonia Shechet Epstein, curadora de Ciência de Tecnologia do Museum of the Moving Image (NY). Para Jasanoff, o computador, naquela época, “estava ligado a esse senso de poder e supremacia e a uma espécie de controle soberano, [algo] que as pessoas associavam à coleta de dados e ao controle total da mente”.
Não à toa: máquinas como as da série 700/7000 da IBM estavam sendo lançadas entre 1950 e 1960, ocupando espaços enormes nas empresas e assustando, de certa forma, a linguagem de escritório, ainda tão acostumada com máquinas de escrever – na última temporada da série de TV Mad Men, esse momento é contemplado. O aparato, contudo, tinha limitações de memória, registro e formatação de dados, o que simplificava a interação humana com ela.
Por isso, para Godard, a única possibilidade do Alpha-60 era a linearidade e o raciocínio, considerando que a tecnologia da época não operava dentro de uma estrutura mais complexa. Com esse pano de fundo, o diretor francês consegue elaborar as suas angústias estruturalistas colocando em tela a ideia ascendente de tecnocracia que tomou conta da França no final da década de 1950. O que Godard faz, portanto, é questionar se esse modelo de governo, pautado por aqueles que possuem conhecimento técnico, seria capaz de superar o modelo político contemporâneo.
O computador Alpha-60 se torna, assim, uma metáfora desse ideal social onde as pessoas só podem operar a partir da lógica para, cada vez mais, se tornarem peças ideais para compor algo de maior importância: a própria máquina. É nessa desumanização da vida em Alphaville que mora a chave do controle. Anos antes, em 1927 e 1928, Thea von Harbou e Fritz Lang colocaram na literatura e no cinema, respectivamente, a representação de um ser robótico com feições humanas similares às de uma mulher que é responsável por guiar os seres humanos ao seu destino.
Na grande obra de ficção científica “Metrópolis”, Futura (Brigitte Helm) ficou conhecida como Maschinenmensch (do alemão, máquina-humanoide). A criação do cientista C.A. Rotwang (Rudolf Klein-Rogge) também era chamada por ele de Parody, por ser, segundo ele, uma paródia humana. Assim como o computador de “Alphaville”, esta criação tecnológica tinha como objetivo principal conduzir parte da sociedade a agir de determinada forma. O que difere os dois é que o primeiro conduzia a experiência pela fala (voz) e a segunda por ter aspecto amigável, simulando o corpo feminino mesmo que em uma vestimenta robótica.
Depois de 86 anos, outro filme do gênero aposta na conversa entre controle social e máquina, acrescentando na equação os avanços das pesquisas com inteligência artificial. “Ex_Machina: Instinto Artificial” (2014), de Alex Garland, acompanha Nathan (Oscar Isaac), um engenheiro dono de uma grande empresa de tecnologia, que está testando os limites da IA. Ele fez inúmeros testes e versões de um robô com aparência feminina, um híbrido entre máquina e humano, que recebe uma programação de inteligência artificial.
Para entender se a última versão do experimento deu certo, ele chama o programador Caleb (Domhnall Gleeson), funcionário da sua companhia, para viajar até a sua reclusa casa na floresta e fazer entrevistas com Ava (Alicia Vikander) e entender se ela poderia (ou não) ter características humanas (sentimentos, empatia etc). O método usado por eles é o famoso Turing Test, criado por Alan Turing em 1950 para, segundo a Enciclopédia de Filosofia da Universidade de Stanford, caracterizar a habilidade de uma máquina em exibir inteligência equivalente ou indistinguível da humana – em suma, “uma maneira de lidar com a questão de saber se as máquinas podem pensar”. E, apesar das feições e da voz doce, Eva se revela mais sofisticada que o esperado e consegue manipular as circunstâncias para conseguir escapar da vivência em clausura.
Em todos os filmes citados, a tecnologia nas mãos humanas é fadada ao fracasso por uma leitura filosófica da nossa constituição enquanto sociedade. O pesquisador e escritor científico Martin Robbins, colaborador do jornal The Guardian, autor de diversos artigos e resenhas sobre inteligência artificial, dados e algoritmos, coloca em jogo a questão do “homem brincando de Deus” como um ponto de atenção crucial. “Nathan é o estudo mais claro do ego no filme. Quando Caleb faz o seu comentário sobre a história dos ‘deuses’, o CEO instintivamente assume que o ‘deus’ referido é ele próprio, onde Ava é a sua Eva e a sua extensa propriedade verde é uma espécie de Jardim do Éden”, escreveu ele em 2016. “Nathan é o epítome de um tropo específico na visão da sociedade sobre ciência e tecnologia: a ideia de que avanços tremendos são impulsionados por heróis individuais determinados, e não por equipes colaborativas.”
Em todos os três filmes, existe um cientista responsável pelo desenvolvimento de um maquinário supremo. Mesmo com equipes de apoio, que surgem apenas após a criação deste “ser”, em uma lógica similar ao Dr. Frankenstein no clássico de Mary Shelley, os créditos vão para o “cientista maluco” que brinca de ser Deus. Uma hipótese está no fato de que a tecnologia “dá errado” em todas as três histórias por justamente ter como ponto focal apenas uma pessoa, no caso um homem-deus-cientista.
O debate sobre máquina, linguagem e humanidade segue cada vez mais acalorado, agora por conta dos avanços à luz do dia da Inteligência Artificial e toda a sua possibilidade de alcance, disposta em aplicativos de uso diário como o Chat GPT e o Mid Journey. O temor, assim como após duas Guerras Mundiais, tem algum lastro de fundamento, mas não pode (nem deveria) ser o único guia para um entendimento mais profundo de seu uso como ferramenta – e não substituição – para os seres humanos. E diferente do aparato tecnológico visto em “Alphaville”, os códigos de IA estão cada vez mais interessados justamente naquilo que nos torna humanos: a poesia da linguagem. Não para nos controlar usando sua função oposta, como é colocada no filme de Godard, Lang e Garland, mas para possibilitar um avanço da própria tecnologia generativa como parte da evolução social.
“A sociedade humana é transformada por invenções técnicas, e essa transformação sempre vai além da intenção original dos esquemas mentais. Matéria e espírito formam uma relação recíproca – não há materialismo sem espírito, assim como não há espiritualismo sem matéria”, escreve Yuk Hui em Tecnodiversidade sobre a relação humano-máquina elevada a sua máxima potência com o desenvolvimento das IAs. É justamente no aprendizado da linguagem humana (e não a da tecnologia linear pura) que a própria IA se atualiza – para o autor, qualquer falha nesse entendimento irá levar a humanidade para um caminho da autoderrota.
Garrison Lovely, escritor e apresentador do podcast The Most Interesting People I Know, reforça o quanto a ideia da humanidade perder “o controle” para a evolução das máquinas não é algo recente – inclusive, antecede o movimento da própria ficção científica no cinema. De acordo com ele, existem características e riscos especulativos que merecem atenção cuidadosa, “mas quando você olha para as forças materiais em jogo, um quadro diferente emerge: em um canto estão empresas trilionárias tentando tornar os modelos de IA mais poderosos e lucrativos; em outro, você encontra grupos da sociedade civil tentando fazer com que a IA reflita valores que rotineiramente colidem com a maximização do lucro. É capitalismo versus humanidade”.
Fazendo um paralelo com a provocação da figura do homem-deus-cientista, a descentralização da possibilidade de crescimento e evolução da IA hoje em dia talvez seja a resposta para um final nem tão apocalíptico da presença dessa tecnologia no cotidiano da vida humana. Não é para controlar ou substituir, e sim para acrescer como ferramenta de trabalho e criatividade, gerando, inclusive, novos referenciais para as gerações futuras a partir da fabulação de cenários, povos que foram dizimados, culturas que foram apagadas e regiões que passaram por processos de epistemicídios decorrentes das colonizações. O teste, portanto, não deveria ser sobre “se a máquina pensa como um humano”, mas sobre “como a máquina pode auxiliar o humano a pensar melhor”.
Futuro sem amor?
Além dos pontos trazidos acima, uma temática para manter no radar é perceber como a ficção científica no cinema aborda os sentimentos (ou a falta deles) em eras ultra tecnológicas. No caso de “Alphaville”, apesar da poética da vida e seus desejos estarem fora de campo, o sexo mecânico como forma de alívio físico segue em alta. Na trama, as personagens femininas são acompanhantes dos homens em curso, enumeradas com carimbos na pele e destinadas a servir a melhor experiência de presença que ela puder para cada um.
Anos depois, Ridley Scott apresenta uma ideia similar em seu clássico “Blade Runner – Caçador de Andróides” (1982), revisto em “Blade Runner 2049”, de Denis Villeneuve. Ali, a figura da mulher só pode ser fonte de prazer se atrelada a serviços semelhantes a prostituição, mesmo que em corpos ciborgues. Mesma crítica feita em “Ex-Machina” (2014): no desenrolar da trama, descobre-se que, na verdade, vários testes anteriores já tinham sido feitos, usando a máquina com desenho de corpo feminino para fins sexuais. Seria esse o único futuro possível para o feminino no imaginário tecnológico? Um texto para mais tarde.