Inteligência artificial, história e arquivo

Sobre o uso de arquivos em um horizonte pós-humano

Processo de criar as versões diitais de Peter Cushing (Moff Tarkin) e Carrie Fisher em Rogue One: Uma história Star War. Orson Krennic (Ben Mendelsohn), diretor da Divisão de Pesquisa de Armas Avançadas das Forças Imperiais, entra na sala de comando da nave e encontra seu general, o governador Tarkin (Peter Cushing), de costas, olhando pela janela a “Estrela da Morte”, o planeta/arma que se encontrava em estágios finais de construção. Ainda de costas, com uma voz grave e macabra, o governador manifesta sua decepção com a “violação de segurança” no planeta Jedda. Causa estarrecimento o momento em que gira de frente ao seu interlocutor e mostra a sua face à câmera, pois se tratava do mesmo ator do filme da saga “Star Wars”, no final dos anos 1970, aparecendo quarenta anos depois, sem nenhum sinal de envelhecimento. Algo, no entanto, parece não estar certo: sua pele aparenta ter uma textura emborrachada, a articulação da sua mandíbula ao falar tem algo de robótico, mas sobretudo, como pode um ator que parecia ter 70 anos em 1977 não estar morto em 2016!?

Peter Cushing, de fato, faleceu em 1994. Seu papel post-mortem no filme da saga, Rogue One, foi possível graças a um holograma gerado por um supercomputador que se sobrepunha à atuação de um ator de verdade (Guy Henry). Em essência, esse processo é possível graças a um enorme arquivo pessoal baseado no registro completo de todas as performances de Cushing, incluindo seus papéis como Frankenstein, Sherlock Holmes e Drácula nas décadas de 1940 e 1950. Cada expressão facial, cada inflexão de voz, cada gesto corporal foi usado para dar vida ao robô-avatar do ator.

Existem vários dilemas éticos e legais envolvidos nessa ideia, especialmente relacionados com os limites e consentimentos para performances post-mortem ou não humanas. Por exemplo, a atriz Carrie Fisher (Princesa Leia) aparece tanto quarenta anos mais jovem em Rogue One (2016) e quando atua depois de falecida em O último Jedi (2017). Outro exemplo sugestivo é a aparição da personagem Rachel (Sean Young) em Blade Runner 2049 (2017). Uma tecnologia similar permite que a atriz de 58 anos apareça exatamente igual a 35 anos antes. O ponto interessante neste caso é o elemento metaficcional ou intertextual, uma vez que a própria Rachel personifica um androide, seduzindo seu parceiro romântico no original Blade Runner dos anos 1980, o agora envelhecido Deckard (Harrison Ford). A realidade se mistura com a ficção, porque Young encena no filme o que ela realmente é, um avatar de alta tecnologia, baseado em seu eu de 35 anos atrás, ou melhor, um avatar de ator encenando um androide, outro avatar.

Simultaneamente, podemos observar um novo lugar-comum, que chamamos de uma tópica, tornando-se predominante nas ficções científicas: o do mind uploading, ou “upload” da mente. Durante décadas, essas narrativas expressavam um pavor de que as máquinas, em seu pleno desenvolvimento, não só tomassem o lugar dos homens no controle da sociedade, mas que eventualmente identificassem a raça humana como uma ameaça ou uma falha e a tentassem aniquilar. Nessa ideia se baseiam filmes como Blade Runner (1982), O Exterminador do Futuro (1984), e tantos outros. Hoje, esse pavor relacionado com o desenvolvimento tecnológico parece ter tomado outra direção: a do medo de que a vida de um indivíduo possa ser totalmente arquivada em um dispositivo, de maneira que pode ser gravada, eternamente preservada, trocada de um corpo para o outro, encarnada por uma máquina, dentre outras formas (tal qual em episódios da série Black Mirror, “Black Museum” [2017, S.4, E.6]; “USS Callister” [2017, S.4, E.1]; em X-Files, em “This”, [2018, S.11, E.2]; e como tema geral da série Altered Carbon [2018]).

A predominância dessa ideia na ficção científica parece ser nada mais do que um sintoma de uma ameaça verdadeira. De fato, o Google, o Facebook, dentre outras grandes corporações, podem acessar e controlar milhares de informações sobre nós. Por sua vez, estas informações podem ser processadas por meio de algoritmos, em uma escala e velocidade completamente sem precedentes. No entanto, mesmo nesse contexto tão novo e complexo, podemos dizer que ainda falamos de problemas como os do arquivo, da memória, da narrativa e da experiência no e do tempo. Em poucas palavras, se as formas de armazenar e produzir documentos mudam numa sociedade, o fazer histórico tem necessariamente que mudar. Imagino que essa mudança precisa ser pensada em dois aspectos fundamentais: o primeiro é de como devemos refletir sobre a história; o segundo é de como a história pode ser ensinada e aprendida. Tratarei disso brevemente nas próximas páginas[1].

Pensar sobre a história: arquivos e hiperarquivos

Uma das coisas mais importantes que os historiadores fizeram no século XIX, ao criar as bases da disciplina histórica ocidental, foi pensar sobre as práticas de produção social de registros históricos e as formas do seu arquivamento. Manuais de história, como o famoso Historik (1971 [1854]), de Johann Gustav Droysen, e tantos outros, dedicavam-se a explicar o que podem ser documentos históricos e como eles devem ser analisados. Imaginem o trabalho que teria o historiador alemão se estivesse vivo hoje e tivesse que atualizar a sua obra? O século XX deixou essa tarefa um pouco mais fácil, uma vez que os historiadores procuraram tornar a noção de documento histórico mais ampla e multifacetada, o que evidentemente afetou muito a forma com que os historiadores profissionais fizeram história. Os arquivos mudaram mais lentamente, mas, mesmo assim, observamos novos corpus de documentos se tornando arquiváveis, tais como os depoimentos gravados (ampliando a história oral), o interesse crescente nos arquivos pessoais (raro no século XIX), ou a especialização temática dos arquivos históricos em temas como movimento operário, etc.; o interesse sobre “efêmeros” (tais como cartazes, etc.). Esse processo acompanhou uma demanda social crescente por uma maior transparência, o que vai desde a questão da violência perpetrada pelos Estados em guerras ou governos autoritários, até a questão da vigilância e da inteligência, personificada em iniciativas como a do WikiLeaks.

Uma das lições mais importantes vindas do século XX sobre os arquivos foi proposta por Michel Foucault, em textos como “A vida dos homens infames” (2006 [1969]) e Arqueologia do Saber (1986 [1972]). O que ele propôs é que os arquivos não devem ser apenas encarados como o espaço físico em que documentos são armazenados, mas também como o conjunto de regras e procedimentos, de protocolos sociais, implicados no ato de guardar algo. Seguindo o pensamento de Foucault, poderíamos então entender transformações fundamentais no nosso mundo, tais como as implicadas nas novas tecnologias (Google e Facebook) e pressentidas na ficção pelo assombro do mind uploading como pertencentes à problemática geral dos arquivos.

Indo mais adiante com essa ideia, teríamos também que verificar como os documentos históricos do mundo contemporâneo podem ser analisados. O historiador não precisa ser um programador, mas muito se pode aprender olhando para representações gráficas de grandes massas documentais resultantes dos algorítmicos[1] — as “redes semânticas”, “redes neurais”, knowledge graphs. Essas tecnologias dispõem palavras reincidentes em corpus documentais em conjuntos de interligações, evidenciando padrões e correlações e não dizem nada se estiverem foram de contextos sócio-históricos.

Hoje inteligência artificial nos projeta face um dos maiores dilemas do mundo contemporâneo: a capacidade de reter as informações sobre uma determinada consciência e a emular por IA. Mantendo uma vida eternizada fora do corpo. A IA representa então um desafio para a soberania das vidas corpóreas, um caso limite que leva ao redesenho da soberania no mundo contemporâneo. Soberano é aquele - nos dizeres de Carl Schimitt que esta acima da vida de lei - na nossa sociedade o agente soberano é que detém o arquivo, o conhecimento, junta os dados associados a capacidade de utiliza-los para o cumprimento de seus próprios interesses. A hiperarquivo é então a instancia de acumulo do conhecimento do mundo que permite a sua superação. Tema aparentemente distante da nossa área das humanidades por tratar-se de tecnologia pura e aplicada condensa dentro de si aquilo que fez das ciências humanas substrato fundamental para a construção da sociedade moderna: conceitos fundametais que produzem a coesão social e as possibilidades modernas de controle. Assim, podemos dizer que a questão não é de “aproximar” as humanidades da tecnologia, nem de “incorporar” a tecnologia as humanidades; mas sim de restituir as ciências humanas a sua condição de crítica do que há de humano, e do que há de não humano, em todas as ciências.

O desafio de ensinar História

A maioria dessas ferramentas citadas no item anterior é hoje utilizada para traçar perfis de consumidores. Conhecemos bem isso quando fazemos uma busca na internet e imediatamente nos é oferecido um produto correlato; também sabemos bem que essas ferramentas podem eventualmente ser usadas para outros tipos de manipulações, como aconteceu no escândalo da empresa de consultoria Cambridge Analítica, que influenciou, por meio de informações de perfis no Facebook, as eleições de 2016 nos Estados Unidos, e no mesmo ano o referendum que determinou a saída da Grã-Bretanha da União Europeia, conhecido como Brexit.

Entramos aqui no campo da Inteligência Artificial e do machine learning. Proponho desde 2017 pensar no impacto dessas práticas na formação dos historiadores bem como na epistemologia e na produção do conhecimento. Na época pensávamos nessas possibilidades apenas como hipóteses para um futuro breve, mas hoje, depois de muito aprimoramento a inteligência artificial é totalmente capaz de produzir livros didático, de emular um método de análise, de construir um argumento baseado em evidencias e conhecimentos históricos ou mesmo emular o estilo de historiador, de forma semelhante ao caso da performance post-mortem de Cushing. Evidentemente, é muito difícil que o resultado final substitua a excelência de um trabalho humano de alta qualidade, contém imperfeições e falta de rigor, mas devemos reconhecer o fato que a tecnologia pode substituir muitas das nossas competências num futuro próximo. Entendo que as humanidades no geral e a história no particular poderiam criar mais espaços de reflexão sobre a transformação digital mas também espaços laboratoriais para desenvolver mais experimentos. Vejo que muitos fundamentos do conhecimento das humanidades são mobilizados hoje pela cultura digital, muitos dos nossos alunos/as tem familiaridade com essas linguagens ou disposição para aprender, mas hoje ainda mobilizamos pouco esses recursos.

As experiências na análise de dados e o desenvolvimento de sistemas de inteligência artificial podem ser elas próprias ferramentas do ensino de História. Nossos alunos podem tentar criar um robô emulador de um historiador já morto ou podem fazer o mesmo com um estilo ou método. Também podem testar hipóteses já conhecidas por meio da análise digital. Para isso, é imprescindível que o desenvolvimento dessas ferramentas seja totalmente público e transparente; que IA possua transparência nos seus processos e nas suas linhas de código; e, sobretudo, que arquivos e bibliotecas digitais tenham acesso público e gratuito. Normalmente, quando se pensa na digitalização de documentos e arquivos, não se cogita que eles possam ser submetidos a análises não humanas em escala sem precedentes. É urgente que pensemos sobre essas questões, pois corremos o sério risco de que esse conhecimento seja de monopólio privado, como já vem alertando historiadores como Robert Darton.

Escrevi em 2018 que "talvez estejamos ainda na pré-história do big data aplicado nas Ciências Humanas” e de fato estávamos, mas a pergunta ainda persiste: qual é a profundidade desse iceberg ou quão fundo é esse poço? Até hoje, o que percebemos avaliando a presença cada vez mais marcante da tecnologia no nosso cotidiano, é a aceleração da vigilância e da manipulação de informações, a monopolização do conhecimento, a concentração de renda e a desigualdade social. Pesquisas importantes que lidam com corpus linguísticos de milhões de palavras em associação, como a do Word-Embedding Association Test (WEAT), da Universidade de Princeton, vêm mostrando de fato que uma das coisas que a inteligência artificial efetivamente apreende são os estereótipos e os preconceitos humanos, ajudando a reproduzir a estupidez em larguíssima escala.

A missão das Humanidades, em geral, e da história, em particular, é, nesse contexto, a de resistência. Resistência não consiste necessariamente em tentar impedir que o tempo passe, ou que a tecnologia melhore ou evolua mas sim melhoramos nossas ferramentas para poder pensar em formas alternativas de sociedade que utilizem a tecnologia para o bem comum. Disciplinas que envolvem ética, análise e interpretação qualitativa, arquivo e memória, epistemologia, filosofia e economia política, são fundamentais no mundo contemporâneo.

Uma das perguntas mais comuns de se ouvir ao refletir sobre esse tema durante esses anos no Brasil é se os historiadores e professores no geral perderão os seus empregos. De fato, as vagas para professores e pesquisadores tendem a diminuir, mas as competências tradicionalmente atribuídas à formação do historiador – as de entender as ideias e ações em seus contextos temporais e sociais — nunca foram tão úteis quanto são nos dias de hoje. Ao mesmo tempo muitos outros trabalhos e atividades que mobilizam as competências de humanidades serão necessários, mas precisamos nos preparar para isso.

Referências bibliográficas:

DROYSEN, Johann Gustav. Historik. Darmstadt: Wissenschaftliche Buchgesellschaft. 6. ed. 1971.

FOUCAULT, Michel. A arqueologia do saber. 2. ed. Rio de Janeiro: Forense, 1986.

FOUCAULT, Michel. A vida dos homens infames. In: Ditos e escritos IV – Estratégias, poder-saber. Rio de Janeiro: Forense, 2006, p. 203-222.

ROTA, Alesson ; NICODEMO, Thiago Lima . ARQUIVOS PESSOAIS E REDES SOCIAIS: O TWITTER CONSTRUÍDO COMO DOCUMENTO HISTÓRICO. ESTUDOS HISTÓRICOS, v. 36, p. 44-67, 2023.

NICODEMO, T. L.; CARDOSO, O. P. Meta-história para robôs (bots): o conhecimento histórico na era da inteligência artificial. História da Historiografia: International Journal of Theory and History of Historiography, Ouro Preto, v. 12, n. 29, 2019. DOI: 10.15848/hh.v12i29.1443.

MARINO, I. K. ; NICODEMO, Thiago Lima . Fake news e arquivos digitais a partir da experiência da covid-19. PRÁTICAS DA HISTÓRIA, v. 14, p. 117-149, 2022

LUCCHESI, Anita ; SILVEIRA, Pedro Telles ; NICODEMO, Thiago Lima. Nunca fomos tão úteis. Esboços, v. 27, p. 161-169, 2020.

NICODEMO, Thiago Lima; SILVEIRA, P. T. ; MARINO, I. K. . Arquivo, memória e Big Data: uma proposta a partir da Covid-19. Cadernos do Tempo Presente / UFS, v. 11, p. 90-103, 2020

NICODEMO, Thiago Lima; ROTA, A. R. ; MARINO, I. K. Caminhos da História Digital no Brasil. 1. ed. Vitória: Milfontes, 2022. v. 1. 330p .

MARINO, I. K. ; SILVEIRA, P. T. ; NICODEMO, Thiago Lima . Digital Resources: Digital Informal Archives in Contemporary Brazil. Oxford Research Encyclopedia of Latin American History.. 1ed.Oxford: Oxford University Press, 2022, v. 1, p. 3-27

---

[1] A parte inicial deste texto contem paráfrase em tradução livre do texto Meta-história para robôs (bots): o conhecimento histórico na era da inteligência artificial. História da Historiografia: International Journal of Theory and History of Historiography, Ouro Preto, v. 12, n. 29, 2019. DOI: 10.15848/hh.v12i29.1443, de minha autoria em parceria com Oldimar Cardoso. A ideia inicial era a divulgação de parte do texto antes da sua publicação por volta de 2018. Apesar do atraso optei por manter a paráfrase já que o texto foi concebido e escrito em inglês e nunca foi traduzido para o português de fato.

Publicado como: Arquivos do futuro-presente: histórias sem humanos, histórias pós-humanas ou histórias desumanas. In: Alexandre de Sá Avelar (org.). (Org.). História para quê? Para quem?. 1ed.Teresina: Cancioneiro, 2024, v. 1, p. 35-42.