11min de leitura
Em um episódio da série da HBO Silicon Valley, Thomas Middleditch (Richard Hendricks) está explicando sua plataforma de machine learning (aprendizado automatizado) Pied Piper para participantes de um grupo focal, quando um deles inevitavelmente a compara ao filme O Exterminador do Futuro, de James Cameron, de 1984.
"Não, não, não", insiste o exasperado Middleditch.
"Posso garantir que não há nenhuma situação do tipo Skynet aqui. Não, o Pied Piper não vai se tornar senciente e tentar dominar o mundo."
Tarde demais. Ele perdeu a atenção dos participantes.
Com robôs assassinos e um sistema de inteligência artificial (IA) rebelde, chamado Skynet, O Exterminador do Futuro se tornou sinônimo do espectro de uma IA que se volta contra seus criadores humanos.
Os editores de imagens ilustram rotineiramente artigos sobre inteligência artificial com a caveira cromada do ciborgue assassino T-800 do filme. O roboticista Ronald Arkin usou trechos do filme durante uma palestra de advertência de 2013 chamada "Como NÃO construir um Exterminador do Futuro".
Mas o filme divide opiniões. O filósofo Nick Bostrom, cujo livro Superinteligência, de 2014, popularizou o risco existencial da "IA desalinhada" (inteligência artificial que não está alinhada com os valores e bem-estar humanos), admitiu que sua esposa o "provoca em relação ao Exterminador do Futuro, e o exército de robôs".
Em seu livro The Road to Conscious Machines ("O Caminho para Máquinas Conscientes", em tradução livre), o pesquisador de IA Michael Woolridge dedica um capítulo inteiro a reclamar sobre "a narrativa do Exterminador do Futuro relacionada à IA".
Há filmes influentes mais recentes, e mais plausíveis, sobre inteligência artificial, incluindo Ex Machina e Ela, mas quando se trata dos perigos da tecnologia, O Exterminador do Futuro reina supremo 40 anos após seu lançamento.
"É quase, de uma forma engraçada, mais pertinente agora do que quando foi lançado", disse Cameron ao site The Ringer sobre o filme e sua sequência de 1991, "porque a IA agora é uma coisa real com a qual temos que lidar — e, na época, era uma fantasia."
Essa é uma grande conquista para um filme que, na verdade, não está particularmente interessado na inteligência artificial.
Antes de mais nada, é um thriller simples e sinistro sobre um "homem" imparável que persegue uma mulher assustada, mas habilidosa. O T-800 é um assassino implacável, nos moldes do personagem Michael Myers, de Halloween. Cameron o chamou de "filme de ficção científica de terror".
Em segundo lugar, é um filme de viagem no tempo sobre o tema "destino x livre arbítrio", como disse Cameron.
A premissa rapidamente resumida é que, em algum momento entre 1984 e 2029, os EUA confiaram todo o seu sistema de defesa à Skynet. Um dia, a Skynet ganhou superinteligência — uma mente própria —, e deu início a uma guerra nuclear global.
Os sobreviventes da humanidade travaram então uma rebelião de décadas contra o exército de ciborgues da Skynet.
Em 2029, a resistência humana está à beira da vitória graças à liderança de John Connor, e a Skynet envia um T-800 (Arnold Schwarzenegger) para o ano de 1984, com a missão de matar a futura mãe de John, Sarah (Linda Hamilton), antes que ela engravide.
A resistência responde com o envio de Kyle Reese (Michael Biehn) para deter o T-800 — e salvar Sarah. Em um desses paradoxos de loop temporal que os espectadores não devem prestar muita atenção, Kyle se envolve com Sarah, e acaba se tornando o pai de John. O futuro é salvo.
O Exterminador do Futuro é, então, um thriller, uma história de amor, uma reflexão sobre o livre-arbítrio com viagem no tempo e uma sátira sobre nossa dependência da tecnologia. É anticorporativo, antiguerra, antiarmas e, em grande parte, antimáquina.
A tecnologia, de secretárias eletrônicas a walkmans, está envolvida quando as pessoas são mortas no filme. Mas tem muito pouco a dizer sobre a inteligência artificial propriamente dita.
O Exterminador do Futuro se tornaria um dos filmes mais lucrativos de todos os tempos, arrecadando US$ 78,4 milhões, mas Cameron não tinha expectativa de criar uma referência cultural.
Ele escreveu o roteiro em um hotel decadente em Roma, em 1982, após ser demitido do seu primeiro trabalho como diretor, em Piranha 2: Assassinas Voadoras; e sua produtora, Gale Ann Hurd, só conseguiu arrecadar um orçamento de US$ 6,4 milhões.
O ator principal, um ex-fisiculturista de talento duvidoso, não tinha grandes expectativas. Schwarzenegger contou a um amigo sobre "um filme de m... que estava fazendo, vai levar algumas semanas".
O próprio Cameron esperava que O Exterminador do Futuro fosse "massacrado" nas bilheterias pelos dois épicos de ficção científica daquele outono: Duna, de David Lynch, e 2010 - O Ano em Que Faremos Contato, de Peter Hyams, uma sequência logo esquecida de 2001 - Uma Odisseia no Espaço.
Há uma sincronicidade interessante aqui: não só O Exterminador do Futuro superou o desempenho de 2010 - O Ano em Que Faremos Contato, como a Skynet suplantou o computador assassino HAL 9000 de 2001 - Uma Odisseia no Espaço, como a imagem dominante da inteligência artificial que se rebela.
Muito antes do campo da IA existir, seus perigos potenciais se manifestaram na forma do robô criado por Karel Čapek em sua peça RUR, de 1921, e foram popularizados pelo filme Metrópolis, de Fritz Lang, de 1927.
Em seu excelente livro sobre O Exterminador do Futuro, da série de Clássicos Modernos do Instituto de Cinema Britânico (BFI, na sigla em inglês), Sean French sugere que a cena mais memorável do filme — o T-800 saindo das chamas, com seu esqueleto metálico exposto, após seu revestimento de carne ter derretido — foi uma referência ao robô queimado em Metrópolis.
Na década de 1920, era óbvio que a inteligência artificial andaria e falaria, como o monstro de Frankenstein. A popularidade dos robôs letais levou o escritor de ficção científica Isaac Asimov a elaborar, em 1942, as "três leis da robótica": a primeira tentativa de definir a inteligência artificial ética.
No mundo real, o campo da inteligência artificial começou oficialmente em 1956, durante um curso de verão na Universidade de Dartmouth, organizado pelos cientistas da computação John McCarthy (que cunhou o termo) e Marvin Minsky.
A ambição deles era desenvolver máquinas que pudessem pensar como seres humanos, mas isso se mostrou muito mais difícil do que eles imaginavam.
A história da inteligência artificial é marcada por altos e baixos, as chamadas "primaveras" e "invernos" da IA. As promessas alucinantes atraem atenção, financiamento e talentos; mas sua falha em se concretizar faz com que todos esses três elementos entrem em colapso.
O boom da década de 1960, antes de a dimensão dos obstáculos técnicos se tornar aparente, é conhecido como a Era de Ouro da IA. O hype extravagante sobre "cérebros eletrônicos" entusiasmou o diretor Stanley Kubrick e o escritor Arthur C. Clarke, que incorporou a IA em 2001: Uma Odisseia no Espaço, de 1968, na forma de HAL 9000.
O nome (sigla em inglês para "Computador Algorítmico Heuristicamente Programado") foi dado pelo próprio Minsky, contratado como consultor por Kubrick. Os olhos vermelhos do T-800 são, sem dúvida, uma homenagem a HAL — ter assistido a 2001: Uma Odisseia no Espaço na infância, colocou Cameron na trajetória para se tornar cineasta.
Daniel Crevier, um historiador especializado em IA, comparou a situação de HAL (computador mal programado que dá errado) com a do Colossus (computador que se torna uma nova forma de vida semelhante a um deus), do livrohomônimode DF Jones, de 1966.
No romance de Jones, o governo dos EUA confia de forma imprudente todo seu maquinário de defesa ao supercomputador. O Colossus adquire senciência, une forças com sua contraparte soviética e chantageia a humanidade para que se submeta a uma ditadura tecnológica: renda-se ou enfrente a aniquilação nuclear. O Colossus é um protótipo da Skynet.
Nem HAL nem Colossus tinham — ou precisavam — de corpos. A brilhante inovação de Cameron foi combinar o computador fora de controle (Skynet) com o ciborgue assassino (T-800).
O T-800 é uma forma de IA com propósito único que é capaz de aprender com seu ambiente, resolver problemas, executar tarefas físicas sofisticadas e imitar vozes, mas tem dificuldade para manter uma conversa. A Skynet, ao que parece, pode fazer tudo, menos se mover.
A Skynet foi um produto da segunda primavera da IA. Enquanto Cameron escrevia o roteiro, o cientista da computação britânico-canadense Geoffrey Hinton estava repensando e revitalizando a pesquisa sobre a abordagem de rede neural para IA: modelar a inteligência da máquina com base nos neurônios do cérebro humano. A Skynet é uma IA de rede neural.
Hinton, que acaba de ganhar o Prêmio Nobel de Física, recentemente se tornou um pessimista em relação à IA ("Minha intuição é: estamos fritos. Este é o verdadeiro fim da história"), mas, de acordo com um perfil preparado pela revista New Yorker, ele gostou de O Exterminador do Futuro em 1984: "Não o incomodava que a Skynet... fosse uma rede neural; ele ficou satisfeito em ver a tecnologia retratada como promissora".
O nome Skynet também pode ter sido uma alusão ao programa Guerra nas Estrelas, o sonho fracassado do presidente americano Ronald Reagan de criar um escudo antinuclear ao redor dos EUA com lasers baseados no espaço. Felizmente para o futuro da franquia, também ecoou inadvertidamente a internet — palavra que existia em 1984, mas só começou a ser amplamente usada a partir da década de 1990.
Os nomes amalgamados de novas startups ambiciosas, como IntelliCorp, Syntelligence e TeKnowledge, possivelmente inspiraram Cameron a transformar o nome original da criadora da Skynet, Cyber Dynamics Corporation, em Cyberdyne Systems.
Ao assistir novamente ao filme O Exterminador do Futuro, é surpreendente descobrir que a palavra Skynet é pronunciada apenas duas vezes.
De acordo com o personagem Kyle Reese, ela era: "Nova. Poderosa. Conectada a tudo, confiável para executar tudo. Dizem que ficou inteligente... uma nova ordem de inteligência. Então, viu todas as pessoas como uma ameaça, não apenas as do outro lado. Decidiu nosso destino em um microssegundo... extermínio".
O interesse do filme em relação à IA para por aí. Como Cameron sempre disse, os filmes de OExterminador do Futuro são, na verdade, sobre pessoas, e não sobre máquinas.
A sequência de sucesso O Exterminador do Futuro 2 - O Julgamento Final, de 1991, preencheu um pouco a história. Ela surge de outro paradoxo temporal: a unidade central de processamento e o braço direito do Exterminador original sobreviveram à sua destruição, e permitiram que o cientista Miles Bennett Dyson (Joe Morton), da Cyberdyne, desenvolvesse a Skynet.
A missão dos heróis agora não é apenas salvar John Connor, de 10 anos, do ciborgue T-1000 que viaja no tempo, mas destruir a Skynet em seu berço digital.
Em O Exterminador do Futuro 2, um ciborgue T-800 na forma de Schwarzenegger é o protetor, em vez de caçador — e, portanto, o portador da seguinte explicação:
"O sistema entra em operação em 4 de agosto de 1997. Decisões humanas são removidas da defesa estratégica. A Skynet começa a aprender, a uma taxa geométrica. Ela se torna autoconsciente às 2h14, horário do leste (nos EUA), em 29 de agosto. Em pânico, eles tentam desligá-la."
A Skynet revida lançando mísseis nucleares na Rússia, sabendo que o contra-ataque vai devastar os EUA. Três bilhões de pessoas morrem em 24 horas: no Dia do Julgamento Final.
Este é um relato fundamentalmente diferente do de Reese. No primeiro filme, a Skynet interpreta sua programação de forma exagerada, considerando toda a humanidade uma ameaça. No segundo, ela está agindo por interesse próprio. A contradição não incomoda a maioria dos espectadores, mas ilustra uma divergência crucial sobre o risco existencial da IA.
É provável que um leigo imagine a IA desalinhada como rebelde e malévola. Mas especialistas como Nick Bostrom insistem que o perigo real está na programação descuidada.
Pense na vassoura do aprendiz de feiticeiro em Fantasia, da Disney: um dispositivo que segue obedientemente suas instruções a extremos desastrosos.
O segundo tipo de IA não é humano o suficiente, carece de bom senso e julgamento moral. O primeiro é humano demais — egoísta, ressentido, sedento de poder. Ambos poderiam, em teoria, ser genocidas.
O Exterminador do Futuro, portanto, tanto ajuda quanto atrapalha nosso entendimento da inteligência artificial: o que significa para uma máquina "pensar", e como isso pode dar terrivelmente errado.
Muitos pesquisadores de IA se ressentem da obsessão pelo filme O Exterminador do Futuro por exagerar o risco existencial da tecnologia em detrimento de perigos mais imediatos, como desemprego em massa, desinformação e armas autônomas.
"Primeiramente, ele faz com que a gente se preocupe com coisas com as quais provavelmente não precisamos nos preocupar", escreve Michael Woolridge.
"Mas, em segundo lugar, desvia a atenção das questões levantadas pela IA com as quais deveríamos nos preocupar."
Cameron revelou à revista Empire que está planejando um novo filme do Exterminador do Futuro que vai descartar toda a bagagem narrativa da franquia, mas manter a ideia central de humanos “impotentes” contra a IA.
Se isso acontecer, será fascinante ver o que o diretor tem a dizer sobre a inteligência artificial, agora que é algo sobre o que conversamos — e nos preocupamos — todos os dias.
Talvez a mensagem mais útil de O Exterminador do Futuro para pesquisadores de IA seja a de "destino x livre arbítrio": as decisões humanas determinam os resultados. Nada é inevitável.
Leia a íntegra desta reportagem (em inglês) no site BBC Culture.
Notou alguma informação incorreta no conteúdo de A Gazeta? Nos ajude a corrigir o mais rapido possível! Clique no botão ao lado e envie sua mensagem
Envie sua sugestão, comentário ou crítica diretamente aos editores de A Gazeta
A Gazeta integra o
