Law and Artificial Intelligence between Science Fiction and Magic
Willis Santiago Guerra Filho[1]
Alexandre Antonio Bruno da Silva[2]
Paola Cantarini[3]
Resumo
A ficção científica, tanto na literatura quanto no cinema, desempenha um papel crucial ao explorar questões fundamentais do conhecimento humano, como o avanço tecnológico e a inteligência artificial. Essa reflexão nos desafia a repensar não apenas o futuro, mas também o presente, à luz das transformações que já estão em curso. Além disso, a queda da metafísica e sua ressignificação como metaficcionalidade sugerem que a filosofia pode ser direcionada para a arte ou poética, como uma tentativa derradeira de resgate e redenção de um mundo moldado por suas próprias indagações. O movimento de fuga ou exílio, historicamente promovido pelos monoteísmos, contribuiu para a disseminação do ateísmo e do cientificismo, marcando a transição da magia para o humanismo como forma predominante de compreensão da existência. Propõe-se uma solução para os desafios atuais que envolve resgatar a capacidade teúrgica perdida com o advento do humanismo, redirecionando a ciência para a poesia e reconhecendo seu potencial criativo para criar significado humano. A emergência da “ars vivendi”, uma forma de arte da vida que se assemelha a uma tecno-poética, é fundamental para lidar artisticamente com a vida e romper as barreiras entre humanos artificiais, máquinas e entes naturais. Esta revolução biolítica, na era do antropoceno, exige uma redefinição urgente da humanidade e do mundo, reconhecendo sua natureza cada vez mais artística, tecnocientífica e filosófica. A urgência desse pensamento é explicada pela influência predominante do pensamento técnico-científico, sugerindo que a única saída é buscar pela porta de entrada.
Palavras-Chave: Inteligência Artificial. Tecnologia. Cibernética. Humanismo. Magia.
Abstract
Science fiction, both in literature and cinema, plays a crucial role in exploring fundamental questions of human knowledge, such as technological advancement and artificial intelligence. This reflection challenges us to rethink not only the future but also the present, in light of the transformations that are already underway. Furthermore, the decline of metaphysics and its redefinition as metafictionality suggest that philosophy can be directed towards art or poetics, as a final attempt to rescue and redeem a world shaped by its own inquiries. The movement of escape or exile, historically promoted by monotheisms, has contributed to the spread of atheism and scientism, marking the transition from magic to humanism as the predominant form of understanding existence. A solution to current challenges is proposed that involves reclaiming the lost theurgic capacity with the advent of humanism, redirecting science towards poetry, and recognizing its creative potential to create human meaning. The emergence of “ars vivendi,” a form of life art resembling a techno-poetics, is essential for dealing artistically with life and breaking down the barriers between artificial humans, machines, and natural beings. This biolitical revolution, in the era of the Anthropocene, demands an urgent redefinition of humanity and the world, acknowledging its increasingly artistic, technoscientific, and philosophical nature. The urgency of this thought is explained by the predominant influence of technical-scientific thinking, suggesting that the only way out is to seek the entrance door.
Keywords: Artificial Intelligence. Technology. Cybernetics. Humanism. Magic.
INTRODUÇÃO
A produção de qualidade no gênero da ficção científica, seja literária no sentido mais amplo, para incluir, por exemplo, as histórias em quadrinhos, seja cinematográfica, aí também incluídos os filmes de animação, fornece material que consideramos de suma importância para nos auxiliar a reflexão e, de modo mais geral, a elaboração sobre temas de fundamental significado, nas mais diversas áreas do conhecimento. Neste gênero fica evidenciado talvez mais do que em qualquer outro aquilo que se pode caracterizar como a “função onírica” de toda ficção, no sentido mais amplo, para abranger desde as mitologias e religiões até o próprio direito, que entendemos como uma ficção coletiva, assim como a ciência.
A ciência, a partir de suas distintas especialidades, aspira a conservar ou acrescentar o conhecimento, a riqueza, a saúde, a beleza, a energia, a vida. E aí cabe fazer uma pergunta bastante incômoda, que bem caracteriza o novo estado de incerteza em que nos encontramos. Com Jean Baudrillard, poderíamos fazê-la, nos termos carregados de dramaticidade, quando este nos alerta que estaríamos prestes a cometer o que qualificou como “crime perfeito”: matar a morte. Seria o que estamos em vias de realizar, este crime máximo e último? Isso porque “o crime perfeito é o de uma realização incondicional do mundo pela atualização de todos os dados, pela transformação de todos os nossos atos, de todos os acontecimentos em informação pura – em resumo: a solução final, a resolução antecipada do mundo por clonagem da realidade e extermínio do real pelo seu duplo” (BAUDRILLARD, 1996, p. 49).
Daí a necessidade de se buscar detectar singularidades e, também, produzi-las, a fim de resistirmos aos simulacros de realidade e acontecimentos reproduzidos em “tempo real”, a nos confundir cada vez mais a identidade.
Estudos estão atualmente sendo desenvolvidos para permitir que máquinas aprendam a decompor bayesianamente fenômenos biológicos em componentes essenciais, para automaticamente interpretá-los. Assim, não precisaremos pensar nos pequenos detalhes estatísticos dos experimentos: nós mais que tudo filosofaremos sobre eles, exerceremos nossa capacidade imaginativa, onírica, em estado de vigília, enquanto a ciência será feita matematicamente nas máquinas pensantes vislumbradas por Turing, no gesto fundador da chamada, posteriormente, Inteligência Artificial (IA), pré-requisito básico para as máquinas espirituais a que se referiu, na virada do século (e do milênio), visionariamente, Ray Kurzweil, pesquisador do M.I.T.: tal ocorrerá uma vez atingida a singularidade a que se refere já na “Introdução” deste seu livro, The Age of Spiritual Machines (KURZWEIL, 1999).
Desta forma, então, quiçá, nós seremos o programa, feito pelas máquinas que descendem daquelas que foram programadas por designers, até que conseguiram cometer mais um “crime perfeito”, no sentido de Baudrillard, ao programarem máquinas para substituírem com incomensurável vantagem seus programadores, tornando-se autopoiéticas, como a vida, e daí quem sabe entrem em competição conosco, tal como soe acontecer na natureza – então, após a “singularidade”, ao contrário do que supõem seus entusiastas, do que resultaria seria, mais uma vez, algo catastrófico, como a bomba atômica, sendo que desta vez os atingidos pela catástrofe seriam os integrantes da humanidade como um todo, a exemplo da pandemia de Covid-19 que nos assolou.
E não é de uma singularidade o que estamos presenciando e vivendo, os que tendo conseguido escapar da pandemia agora estamos tendo contato com a chamada inteligência artificial generativa e os correspondentes modelos largos de linguagem (MLL ou Large Language Models, LLM), a exemplo do ChatGPT? Singularidade que também pode ser negativa, claro, não apenas aquela positiva, aventada por Kurzweil.
O poder que está emergindo nos parece equivalente ao de um invasor extraterrestre possivelmente hostil, por inumano, tal como conhecemos da ficção científica a mais comezinha, a dos filmes pioneiros do gênero, sendo a eles que já em meados da década de 1960, em ensaio a respeito, Susan Sontag, em “The imagination of disaster”, referia como pesadelos que estamos próximos de viver, o que não é de se excluir por serem moral ou intelectualmente falaciosos (SONTAG, 1990, p. 225).
Escapar, encontrar uma passagem, equivaleria ao ocorrido quando os primeiros mamíferos sobreviveram às situações iniciais tão adversas quando de seu aparecimento entre os reinantes grandes sauros, ou nossos antepassados hominídeos mais remotos, premidos por grandes necessidades, as atendendo graças a invenções tecnológicas rudimentares, mas ainda assim extremamente sofisticadas, culminando naquela que é o exemplo maior, o artefato crucial: a linguagem. É ela que agora está disponível para uso extensivo e intensivo por entidades não humanas, desconhecidas em sua natureza e também identidade – quantos e quem são, onde estão, a quem e ao que servem?
INTELIGÊNCIA ARTIFICIAL E MAGIA
Arthur C. Clarke em colaboração com Stanley Kubrick, com base em contos que havia publicado anteriormente, realizou roteiro de filme de 1968, que contém elementos ainda hoje preciosos para a reflexão sobre o quanto aqui estamos tratando, intitulado 2001: uma Odisseia no Espaço (2001, 1968). No mesmo ano saiu publicado o livro homônimo de Clarke, o qual viria a se tornar o primeiro de uma tetralogia. Ali, temos a figura do Robô Hal 9000, um aparato dotado de IA, com a função de cuidar de tudo quanto fosse necessário para que a missão pioneira dos tripulantes da nave espacial em que estava inserido atingisse o objetivo de ir além do nosso sistema solar. Durante a longa jornada, a quase totalidade da tripulação “hibernava”.
O membro que ficara desperto, quase que por uma formalidade, como sabe quem assistiu ao filme ou leu o livro, se depara com o grave problema de que seus companheiros começaram a falecer, sendo que Hal não tinha resposta para tal problema crucial, uma vez que a causa era ele mesmo: aquilo que deveria guiar e proteger a missão, portanto, entra em crise autoimunitária, passando a atacá-la em nome de tal defesa, uma vez que calculou serem os humanos presentes na nave, com sua imprevisibilidade, os mais altos fatores de risco a ameaçar a missão, e o seu programa determinava a eliminação de tais fatores.
No clássico “Eu, Robot”, Isaac Asimov enuncia as muito conhecidas “três leis da robótica”, que caso tivessem sido implantadas em Hal teriam evitado sua disfunção, apesar de consistente com sua programação, feita por quem tinha como evidente o objetivo de servir ao seu criador de toda criatura, um pressuposto claramente teológico (ASIMOV, 2014). Arthur Clarke (1984) também elaborou três leis acerca da relação entre nós e a técnica, a saber:
- Quando um cientista distinto e experiente diz que algo é possível, é quase certeza que tem razão. Quando ele diz que algo é impossível, ele está muito provavelmente errado.
- O único caminho para desvendar os limites do possível é aventurar-se um pouco além dele, adentrando o impossível.
- Qualquer tecnologia suficientemente avançada é indistinguível da magia (CLARKE, 1984).
Na versão elaborada por Gregory Benford desta última lei, a contrario sensu, “qualquer tecnologia distinguível da magia é insuficientemente avançada”, quando nos falta o respeito incutido por palavras com “uma atmosfera cerimonial, senão sinistra, que as permeia e penetra”.
De fato, se somos constituídos linguajeiramente e tudo humano é linguagem ou resultado de seu emprego em alguma de suas múltiplas formas, vale destacar, também com Toshihiko Izutsu, a função mágica da linguagem, já que segundo este grande sábio japonês
em muitas línguas, o próprio termo para ‘palavra’ tem uma intensa conotação mágica ou cerimonial. Assim, em sumério, como vimos, o mesmo termo, inim, é usado alternadamente no sentido de ‘palavra’ e no sentido de ‘feitiço’ ou ‘encantamento’. Isso é particularmente notável no caso do japonês arcaico. Aqui, as duas palavras principais para a fala, noru e ifu, têm ambas associações mágicas inegáveis; flutua em torno delas uma atmosfera cerimonial, senão sinistra, que as permeia e penetra. (IZUTSU, 2011, p. 37 – 38).
Portanto, concluímos que a implementação das leis de Asimov, considerando a terceira lei de Clarke, requer uma interpretação desta última. Isso nos permite compreender o quanto o avanço da tecnologia deve ser acompanhado por uma consideração igualmente avançada das necessidades que não são puramente materiais, às quais a tecnologia se destina. São essas outras necessidades que a magia se propõe a tratar e atender. Da mesma forma que o conhecimento tecnológico, desenvolvido por especialistas, traz benefícios para o público em geral, o conhecimento mágico, também especializado, poderia proporcionar às pessoas um sentido e uma orientação na vida semelhantes aos proporcionados pelas religiões e tradições sapienciais. Sem uma reconexão com tais tradições, o avanço da Inteligência Artificial continuará a nos afastar do objetivo original da ética, conforme concebido pelos gregos: o de proporcionar uma vida boa, justificada, de conforto interno, mais do que externo, material. Caso não seja devidamente direcionado, esse avanço pode se assemelhar a uma espécie de magia negra.
É o que parece querer nos alertar o Jean-Pierre Bonnefoy, na trilogia “Polynesia” (2010), ao nos propor o encontro entre as tradições míticas, oníricas, das culturas tradicionais dos habitantes das ilhas do Pacifico Sul com um universo imaginado cinco mil anos no futuro, onde biomáquinas se perguntam sobre sua própria subjetividade e humanos vão tentar experimentar, por meio da heresia de seitas novos modos de existência. Tais novos modos seriam reinventados como rebelião e resistência (“re-existência”, como preferia dizer o saudoso José Celso Martinez Corrêa) contra um poder intergaláctico que através de uma potentíssima IA deles suprimira, por questões operacionais, a liberdade de se deslocarem e viver como bem lhes aprouvesse.
E viriam por meio de seitas heréticas, cujo poder transformador Ernst Bloch já apontara em seu livro de 1921 sobre Thomas Müntzer, por serem, assim como as artes, utopias e os sonhos, voltadas para um futuro melhor, a ser realizado, coletivamente, já tendo sido na experiência individual do artista e/ou do sonhador. Daí afirmar Bloch em O Princípio Esperança, seu opus magnum: “A fantasia diurna, assim como o sonho noturno, tem os desejos como ponto de partida, mas vai com eles até o fim, quer chegar ao lugar da realização” (2005, p. 97). Sim, é imprescindível saber que sonhamos também quando estamos acordados, despertos, tomados pela vida, conscientemente vivida.
DIREITO E CIBERNÉTICA
Ainda na década de 1970, de maneira visionária e premonitória, Igor Tenório augurava, examinando as relações entre cibernética e ciência jurídica, que pelas múltiplas implicações do uso do computador, este seria o, verbis, “Feiticeiro do Século XX”. Não chegou a ser, propriamente, no século passado, mas está claramente se tornando no século em curso (TENÓRIO, 1975, p. 66).
Ernst Jünger percebeu muito bem tal circunstância:
Esse foi o ponto da virada em que até os demônios mais fortes compreenderam o seu poder – Leonardo já tinha previsto isso. Seu objetivo era a onipotência e a onipresença no espaço e no tempo. A tecnologia foi o meio pelo qual eles realizaram esse sonho) (JÜNGER, 1949, p. 316)[1].
Estamos sendo constantemente desafiados, já enquanto seres pensantes, para não dizer logo como filósofos, a nos situar em face dos mais recentes desenvolvimentos das chamadas TIC – tecnologias da informação e da comunicação. Mais recentemente, o foco é em agentes ou modelos de dotados de inteligência artificial generativa com linguagem larga (ou alargada), LLM (large language model), assim como antes foi naquela denominada “metaverso”. Sua novidade não seria, a rigor, surpreendente, pois é uma consecução do que já de há um bom tempo se descortina como próprio da “cibernetização planetária”, tanto que ainda no final do século passado, na obra “Cibercultura”, publicado em 1997, de Pierre Lévy, o título mesmo do quinto capítulo o deixa indicado, ao se enunciar como “O ciberespaço ou a virtualização da comunicação”, havendo item dele que é ainda mais específico: “A comunicação através de mundos virtuais compartilhados” (LÉVY, 2010).
Assim, ressoa pleno de sentido o quanto escreveu Adorno na obra “Dialética Negativa”, publicada em 1966, cuja intenção fundamental deixa-se entrever com toda nitidez, a nosso juízo, se considerarmos a frase com que ela se inicia, cotejando-a com aquela com a qual se encerra: “Filosofia, que uma vez pareceu estar superada (no sentido de ultrapassada, überholt – os Aa.), permanece viva, porque o momento de sua realização se perdeu (versäumt ward, como se diz quando se perde um prazo – os Aa.) (…) Tal pensamento (o da dialética negativa, bem entendido – os Aa.) é solidário com a Metafísica no momento de seu colapso (Sturz)” (ADORNO, 1997, p. 15 e 400).
O momento atual marca o declínio da filosofia, que se tornou dispensável em um mundo em crise, especialmente na sua forma metafísica. O interesse agora está nas aplicações práticas do conhecimento, especialmente no domínio científico-tecnológico. No entanto, conforme sugerido por Adorno, a filosofia persiste enquanto houver insatisfação com o mundo, oferecendo uma reflexão crítica sobre sua instrumentalização e falta de sentido. A dialética negativa aborda essa lacuna no pensamento, tornando-se uma reflexão sobre a necessidade de pensamento em si mesma. Assim, apesar de ultrapassada, a filosofia e a capacidade humana de produzi-la continuam sendo insubstituíveis, por exemplo, para pensar o problema dessa falta de realização, seu sentido, como nos alerta Agamben (2022).
Dialética negativa é a negação dialética da dialética totalizadora hegeliana, que busca uma síntese conceitual do absoluto como “identidade entre o idêntico e o não-idêntico” (Hegel). Na dialética negativa, nega-se esse princípio, reafirmando a não-identidade entre o idêntico e o não-idêntico, destacando a incapacidade dos conceitos de abranger tudo o que importa. Isso ressalta a importância do “algo” (Etwas), singular e estranho, que não se deixa subsumir a conceitos, sugerindo um desenvolvimento lógico-dialético distinto do hegeliano. Enquanto Hegel parte do vazio com o Ser (Sein), que remete ao Nada e, após sínteses sucessivas, chega ao conceito absoluto, na dialética negativa, parte-se de “algo” e retorna-se a ele, pois sempre permanece algo fora da síntese, que não é nem Ser nem Nada, mas simplesmente “algo”. Não há uma síntese final, totalizadora, pois esta pode sempre ser negada, reiniciando o processo dialético que revela o Ser.
A dialética negativa, portanto, ao recusar a síntese final, a superação definitiva das contradições pelo pensamento, insiste em permanecer no momento da negação, da crítica ao dado faticamente, considerando-o um falso estado ontológico, uma realidade falsificada pelo conceito para o deleite e/ou domínio humanos. Em sendo assim, vai remeter sempre a “algo” que ainda não teve lugar, ao utópico, sem ingenuidade e falsa esperança na bondade humana. O nome dado por Adorno ao que de melhor nos pode acontecer, neste contexto, é “reconciliação”, Versöhnung. No termo original, em alemão, há um radical que nos remete ao sol, die Sonne, havendo mesmo um aspecto de iluminação, de Aufklärung, de esclarecimento pós-iluminista nessa ideia, iluminação que, conforme uma passagem famosa de outra obra de Adorno, Minima Moralia (ADORNO, 1997, p. 281), não provém do conhecimento, mas é fornecida a ele e ao mundo pela redenção. Esta redenção, em um mundo secularizado e “administrativamente socializado”, como esse que construímos para nos assegurarmos contra as vicissitudes da vida – e a tornamos, nesse mundo, ainda mais insegura e insípida -, para Adorno, só podemos esperar da arte, e desde que ela se faça acompanhar, auxiliar, pela filosofia, capaz de, interpretando-a, revelar a verdade que ela apenas mostra, assim como a arte concretiza as abstrações filosóficas. Isso porque a arte, e a filosofia que a acompanhe, possuem uma negatividade inerente, que estabelece uma relação antitética com o mundo instrumentalizado racionalmente, conceitualmente, revelando sua insanidade, alienação (“outramento”, alheamento, Entfremdung), reificação (“coisificação”), ou seja, desumanização e, logo, sua desrazão, ao separar homem e natureza, e os homens entre si, pela estranhamento mútuo (Verfremdung).
HUMANO COMO FICÇÃO
É de um pensamento solidário com a metafísica no momento de sua queda que se trata aqui de suscitar, caracterizando-o como metaficcional, por considerarmos que tudo humano é ficção. Lembrando que a metafísica pode ser concebida de maneira diversa daquela aristotélica, ou seja, descomprometida com a polis para se concentrar no logos do ontos, na ontologia, portanto, enquanto investigação de um princípio fundamental que não é mais uma arkhé, uma potência geradora permanente, mas sim um teon, um deus imóvel, definitivo e indiferente, cuja investigação torna a metafísica onto-teo-logia. Quando poderia ser também a mathesis megiste dos pitagóricos, voltada para o estudo dos logoi no sentido de leis. Entendendo-se, com Mário Ferreira dos Santos (SANTOS, 2001, p. 46) o logos de um ente como uma lei de proporcionalidade intrínseca, sua razão de ser, expressando sinteticamente todo o corpo de possibilidades de manifestação desse ente, o seu número, dito arithmoi arkhai – o que agora se pode até vir a calcular, graças à capacidade computacional que se encontra a nosso dispor, pelo método da brute force, logo, podendo também vir a ser reproduzido tridimensionalmente pelos mecanismos de virtualização do metaverso, impulsionados pela crescente potência dos LLMs, simulando infinitos mundos possíveis e melhores.
A proporcionalidade, segundo temos defendido em diversas ocasiões, é o melhor nome para a justiça, sendo aquele preservado no ideograma chinês para Direito e direitos, quan, e pela tese tão sugestiva quanto especulativa do Pe. Joaquim A. de Jesus Guerra (1981), nesses ideogramas foram preservados a “língua adâmica”, a primeira língua do primeiro agrupamento de humanos, dos quais (e da qual) descendem todo(a)s o(a)s outro(a)s, com o “princípio regulador” a elas todas inerente, ao qual se referiu Alexander von Humboldt (citado na epígrafe da obra de último referida).
Eis que chegamos à conclusão de que a filosofia, já tendo servido à teologia, durante o período medieval, depois à ciência, e também à política, na modernidade, deveria ainda, em seus estertores, ser posta a serviço da arte, ou melhor, da poética, em uma última tentativa de salvar um mundo que ela, mais do que o expansionismo político-jurídico romano e o monoteísmo personalista cristão, serviu para criar, quando deixou de ser dialética, inconclusiva, sofística, para tornar-se exigência da verdade, filosofia propriamente. Aqui, a descrição da filosofia a aproxima da situação trágica em que se viu envolvido o famoso personagem da tragédia de Sófocles, Édipo. E tal como Édipo, a insistência da filosofia em perseguir a verdade, uma única verdade, hybris que veio a contaminar também a religião cristã e, por ela, o que veio a se tornar a Civilização Ocidental, mundializada, é dizer, em ser “alética”, portanto não mais, di-alética – ou “pluri-alética”, e, positivamente, “lética”, lembrando que lethein, em grego antigo, remete também ao esquecimento, sendo a-lethein o desvelamento, mas também, o “desesquecimento”, o rememoramento – é o que a teria levado (e estaria nos levando) ao encontro de seu (do nosso) fim, trágico. Filosofia, então, estaria bem se não servisse para nada, como postulava já Aristóteles, no início de sua “Metafísica”, mas ela terminou sendo empregada para os mais diversos fins, e agora parece estar a serviço do nada que nos assola, individual e coletivamente. A pulsão auto-destruidora que se manifesta na filosofia também se mostra, por todo lado, nessa Civilização Ocidental, que se tornou mundial – e, logo, não apenas ocidental -, e traz já em seu próprio nome o occido, étimo latino da queda, da ruína, da morte, do assassínio, da chacina. A “Civilização da Razão” é a “Civilização da Destruição”, destruição que pode atingir todas as outras civilizações e, até, o próprio mundo, físico.
As coisas inorgânicas, por exemplo, como destaca Türcke (2004, p. 45), “não sentem a contradição, mas fazem parte dela”. Sim, claro, não sentem por não terem uma sensibilidade sensível a nós, mas são a própria contradição, com a sua simples existência, já que sua densidade ontológica faz-se positividade, contrastando com a negatividade do nada. Já os seres orgânicos, animados, estes sentem, sim, a contradição, a que damos o nome de “dor”, e a externalizam: toda a natureza, segundo Benjamin, caso emitisse um som, seria de dor. E será contra o sofrimento que se mobilizará o “ser de pensamento”, o ser humano, linguajeiro, constantemente aterrorizado, perseguido pelo saber de que pode sofrer e, até, morrer. Se a dor é o mal e o bem ausência de dor, então temos que estes seres que nós somos percebemos como negatividade o bem, e positividade o mal. Para afastar essa ideia se desenvolverão religiões, sendo as mais eficazes aquelas monoteístas, que deslocam o bem supremo, todo o bem, para a divindade, supra-terrena, espírito puro, deixando o mal no mundo, na terra, na matéria impura, enquanto nós, humanos, “húmus da terra”, ficamos presos nessa contradição, oscilando entre os dois extremos. Tal contradição se desdobra em uma série de outras, inclusive naquelas conceituais, próprias da filosofia.
E então, internalizamos as contradições, existentes na realidade e, sobretudo, no contraste da realidade com seu duplo, que fabricamos para melhor enfrentá-la, a linguagem, sendo o modo como as resolvemos que fará de nós o que somos – embora pareça contraditório, e é mesmo, o melhor para nós, individualmente, e para os que convivem conosco, é que adotemos a estratégia da dialética negativa com essas contradições, evitando tanto resolvê-las, superá-las definitivamente, de forma absoluta, como também desconsiderá-las, pretender cancelá-las, por uma cisão analítica entre o certo, positivo, e o errado, negativo, pois a negatividade é positiva e a positividade é negativa, a verdade é parcial e, conforme a famosa afirmação adorniana, constante da obra “Minima Moralia”, “o todo é o falso”, contrapondo-se frontalmente à máxima hegeliana, de que o todo é a verdade, assim como o real é racional e vice-versa, pressupondo uma comunidade estrutural entre ambos, com a arrogância e prepotência da mentalidade tipicamente ocidental, inadvertidamente reducionista.
Pode-se, então, falar em uma “negatividade dúplice”, sendo uma positiva e outra negativa, o que se expressa exemplarmente na arte, como bem explica um teórico contemporâneo que se costuma catalogar bem distante de Adorno, em um espectro ideológico das teorias sociais, mas que muito provavelmente com o assentimento dele o substituiu em Frankfurt, nas aulas interrompidas durante as manifestações estudantis de fins da década de 1960: Niklas Luhmann, autor de uma vigorosa teoria social sistêmica. Em ambos, na verdade, para utilizar uma distinção do enciclopedista d’Alembert, resgatada por Adorno, está presente um “esprit systematique”, antes que o “esprit de système”, de um Hegel. Em “A Arte da Sociedade”, Luhmann (1997) refere que na teoria estética de Adorno a arte aparece como uma negatividade a um só tempo positiva e, propriamente, negativa, ao se contrapor à falta de liberdade na realidade social com seu exercício de liberdade na sociedade, que, por isso, dela se beneficia, tornando-a positiva, valorizada socialmente, por expandir os limites dessa sociedade, ao alterar a subjetividade dos que a possibilitam, sem com ela se confundirem: os indivíduos.
É assim que a estética se põe no lugar da ética, ou, pelo menos, do lugar tradicionalmente ocupado por ela. Ocorre que em ética, ou nas éticas em geral, já se dá por resolvida a questão de saber se apenas viver é bom, buscando o bom viver, o viver bem ou o viver para o bem, associando-se a vida ao bem e a morte ao mal, pois ser é que é bom e não ser, ruim. A tais éticas, afirmativas, porém, podemos contrapor um outro tipo de ética, negativa, como propõe o filósofo argentino radicado no centro-oeste do Brasil, Julio Cabrera (2008), que ao evitar uma valoração positiva prévia do que é, em detrimento do que não é, pode tornar melhor vivida a vida de um ser, como nós, que a rigor não somos – no sentido em que, conforme defendemos em outro local, só Deus pode ser -, mas apenas existimos – enquanto Deus, porque é, não existe -, ocasionalmente.
Facilmente se percebe que a ética, ou seja, o saber sobre o que devemos fazer, do qual depende toda filosofia jurídica que não se reduza à esterilidade do formalismo positivista – negando-se, portanto, como filosofia para se tornar, na melhor das hipóteses, uma teoria do direito -, por seu turno depende fundamentalmente de respostas a outras questões, quer sejam de natureza metafísica, sobre o que é o ser, quer sejam de natureza teológica, sobre o que podemos esperar do desfecho da vida. Dito de outra forma, e sinteticamente: a definição do modo como devemos nos comportar nessa vida depende da concepção que temos de seus limites – da morte, portanto.
Os pressupostos necessários para desenvolver a filosofia, especialmente em relação ao direito, devem ajudar a compreender e superar as questões existenciais que podem levar a reações violentas. A abordagem sugerida é usar a imaginação poética, que inclui desde mitologia até psicanálise, para enfrentar esses desafios transcendentais. Destaca-se o direito como uma forma de ficção que combina elementos de várias áreas, capaz de fornecer soluções para os desafios contemporâneos, como os apresentados pelas tecnologias de informação e comunicação, incluindo possíveis impactos do metaverso e dos LLMs.
“Deus e Golem, S.A.” é o título dado por Norbert Wiener, o “pai” da cibernética, a um livro seu reunindo ensaios escritos em 1964, ano de seu falecimento. No último parágafo da obra, o próprio autor se justifica, quanto ao título e seu teor:
Trabalhei assim em uma série de ensaios que estão ligados porque cobrem todo o assunto da atividade criativa, de Deus à máquina. A máquina, como já disse, é a contraparte moderna do Golem do Rabino de Praga. Uma vez que tenho insistido em discutir a atividade criativa sob um único título, e não fragmentá-la em partes separadas pertencentes a Deus, homem e máquina, considero que não tomei mais do que uma licença autoral normal ao chamar este livro de DEUS E GOLEM, S.A. (WIENER, 1964).
A ideia do “golem” é ali explicitamente referida como precursora daquela dos autômatos. Quanto a ser ideia de um “rabino de Praga”, nas lendas judaicas transmitidas pelo Talmude há vários rabinos que criaram um golem (גולם), um ser animado que é feito de material inanimado, muitas vezes visto como um gigante de pedra – o nome é uma derivação da palavra gelem (גלם), que significa “matéria-prima” -, pois qualquer sábio suficientemente próximo de Deus poderia fazê-lo. O folclore popular judaico da Idade Média também o mencionava. O foco de irradiação destas histórias acabou por incidir na Polônia, o país que acolhia a comunidade judaica mais numerosa. Destacava-se, em particular, a figura de um estudioso e cabalista polaco do século XVI chamado Eliyahu de Chelm, que se dizia ter criado um golem. Por outro lado, nenhum testemunho indica que o rabi Löw, que viveu em Praga por volta da mesma época e também alcançou grande fama e prestígio, se tenha dedicado a criar um golem.
Um golem, portanto, é uma criatura da mitologia judaica. Ele é um humanóide feito de barro e água por encantamentos. É poderoso. A cada dia é um pouco mais. Ele obedecerá às ordens de seu criador, fará seu trabalho e o protegerá do inimigo sempre ameaçador. Entretanto, é desajeitado e perigoso. Se não for controlado, um golem matará seus donos com sua força esmagadora. A ideia do golem assume diferentes colorações em diferentes lendas. Em algumas, o golem é terrivelmente mau, mas há uma tradição mais amistosa: no iídiche que veio dos guetos da Europa Oriental, “golem” (pronuncia-se “goilem” nesse dialeto) é uma metáfora que se aplica a qualquer bruto que ignora tanto sua própria força como a magnitude de sua estupidez e ignorância. No hebraico moderno a palavra golem significa “tolo”, “imbecil”, ou “estúpido”.
Gershom Scholem (1971) renomado estudioso do judaísmo e da cabala, remonta a ideia do golem à interpretação mágica das palavras e letras no Sepher Yetzirah. Este texto, provavelmente do século II ou III, foi fundamental para o desenvolvimento da cabala, fornecendo uma estrutura doutrinária que incluía aspectos místicos e operativos. O Sepher Yetzirah influenciou as disciplinas mentais que visavam abrir estados superiores de consciência, permitindo aos justos, segundo o rabino Rava, criar um mundo através do poder de formação da mente. Esse poder, concedido a Abraão, permite acesso a múltiplos universos imagináveis, acessados por “portas” identificadas por arquétipos ligados às letras do alfabeto hebraico, através da meditação extática. Não há limite para o potencial do pensamento formativo, que pode até dar origem a criaturas “vivas”, como o Golem.
Quanto a quem teria sido o primeiro a supostamente criar um golem, Scholem indica Eleazar ben Judah ben Kalonymus (אלעזר מוורמייזא), que viveu de aproximadamente 1176 a 1238, também conhecido como Eleazar de Worms, por conta da cidade alemã em que viveu, e também “Eleazar dos Perfumes”, devido ao título de seu principal livro cabalístico.
Em 1965, Scholem fez um discurso sobre o Golem e o primeiro computador em Israel, em que lembrava as observações de Norbert Wiener nos escritos de um ano antes. Indo além das discussões técnicas e históricas de seu estudo anterior, Scholem apresenta uma série de novas abordagens sobre o tópico no contexto da ciência moderna, em “The Golem of Prague and the Golem of Rehovot”, incluído na coletânea The Messianic Idea in Judaism (SCHOLEM, 1971, p. 335-340). A mais importante delas é a de Byron Sherwin, então ainda inédita. O estudo de Sherwin veio a ser publicado em 1985. Trata de duas questões principais, a saber, a lenda do Golem e as implicações modernas, sobretudo jurídicas e médicas – principalmente na engenharia genética -, desta lenda.
Para Harry Collins e Trevor Pinch, em sua obra “The Golem at Large: What You Should Know About Technology” (COLLINS; PINCH, 2002), com a palavra “Technology” substituída por “Science” no subtítulo (COLLINS; PINCH, 2012), o Golem é a própria tecnociência, com seu potencial ambíguo, capaz de gerar grande benefícios, como também enormes malefícios, sem oferecer parâmetros para o devido discernimento.
Atualmente, o desenvolvimento da inteligência artificial (IA) resultou em pouco mais do que sistemas brutos e pouco inteligentes para automatizar decisões usando algoritmos e outras tecnologias que processam quantidades sobre-humanas de dados, e no entanto, já se tornou perigoso para a humanidade seu uso generalizado por governos e empresas para vigiar espaços públicos, monitorar mídias sociais, criar deepfakes ou liberar armas letais autônomas. Em matéria de 21/08/2022 da Foreign Policy, a computação quântica é apresentada como uma ameaça muito maior, sobretudo em se dando em relação a ela a mesma ausência de regulação que em relação à IA. Isso porque ela se beneficiará de fenômenos já bem estudados pela física quântica, como a superposição e o entrelaçamento (ou emaranhamento) entre partículas para assim atingir uma capacidade computacional milhões de vezes superior à já bastante potente da atualidade (Wadhwa, 2022).
Evidencia-se a inadequação do material hoje empregado nos aparelhos de computador, com seus semicondutores que se prestam bem à binaridade dos bytes, a ser superada pela polivalência dos quanta bytes (qubytes), onde dois deles são capazes de representar, além do 0/1 dos bytes, 0/0, 1/1 como também 1/0, de modo paralelo e simultâneo. Introduzir assim em computadores o que o grande lógico brasileiro Newton da Costa designou de paraconsistência os aproximará do modo “confuso”, mas também criativo, como pensamos, com uma enorme vantagem quantitativa. E se a qualidade já for similar, considerando o postulado da dialética hegeliana, de que quantidade também gera qualidade, é de se esperar por grandes surpresas.
As notícias a respeito do desenvolvimento de computadores que não são mais eletrônicos e sim “protônicos”, resultando em um processador neuromórfico, isto é, mimetizando as sinapses de nosso cérebro, que lhes permite não só uma aceleração um milhão de vezes maior, como também propicia um aprendizado profundo analógico (IT, 2022a), deve também ser posta no “radar” de observações do que poderia viabilizar um despertar de algo como uma onisciência quântica cibernética. E para completar, a notícia da descoberta de um primeiro material dotado de propriedades similares à nossa memória, base de nosso aprendizado (IT, 2022b), uma matéria prima ideal para nela “enformar” redes neurais que possam ganhar “vida própria”, nos leva a fazer a pergunta: Golem à vista?
Por outro lado, é sintomático que se fale tanto de “inteligência” artificial e tão menos de “vida” artificial, ao ponto de se precisar reivindicar uma IA (human and) “life centered”. Como se a inteligência ao invés de pressupor, precedesse a vida. O que pode muito bem ser, claro, e há físicos importantes, como Richard Feynman ou o ainda vivo, aos 95 aos, Henry Pierce Stapp, tidos como “hippies” tentados a atribuir às partículas estudadas em nível subatômico – sendo o “átomo” apenas uma metáfora, como já sabemos – um poder de decisão inerente ao que seja vivo, e também inteligente, para assim explicar, independentemente do observador, o “colapso da função de onda”, que torna a “matéria” ondulatória em partículas (essas sim, matéria).
Em sendo confirmadas tais suposições em física, Schopenhauer e Nietzsche encontrariam também uma confirmação para as suas, em metafísica. Historicamente, as concepções de John von Neumann sobre vida artificial antecedem as de Alan Turing sobre inteligência artificial. E se A. Hodges estiver correto, no artigo que escreveu para o encontro e o volume organizados por Christof Teuscher para homenagear a passagem dos noventa anos de Turing, em junho de 2002, o que se está buscando realizar em computação quântica a partir da arquitetura matemática proposta pelo primeiro com os axiomas U (de “unitary evolution”, evolução unitária) só se realizará, tal como supostamente apostaria o segundo, caso se passe a desenvolvê-la com os axiomas R (de “reduction”, redução), para assim incluir o elemento imprevisível envolvido no “colapso da função de onda”.
A questão é saber do que depende o conhecimento de uma “vontade” de se subtrair ao estado de onda que ao se expressar, desaparece, é dizer, se os meios de conhecê-la seriam buscados corretamente sem convicção de sua existência e significado. Ou se para atingir tal conhecimento é preciso da fé e postura dos “justos”, quando então o progresso em ética, no sentido de se tornar “po-ética”, logo, em filosofia, e também em teologia, em especial aquela mística, se torna uma condição para o avanço tecnológico nesse plano mais sutil.
Nur noch ein Gott kann uns retten. Só mais um deus pode nos salvar”, reza a célebre frase contida na entrevista-testamento concedida por Heidegger à revista alemã Der Spiegel, em 1966, a ser publicada apenas após o seu falecimento, o que se deu dez anos depois. Frase que de certa maneira resume todo o seu percurso filosófico de diagnóstico de nossa época “da imagem do mundo (Weltbild)”, para referir expressão que cunhou e consta do título de um significativo trabalho seu deste período, pós-publicação de Ser e Tempo; época assombrada pela ameaça da técnica. Nesta época, de obscuridade ofuscante, de “cegueira clara”, para empregar a metáfora saramaguiana, as deidades foram afugentadas, ou exiladas, como preferia Heine.
É certo que quem promove a fuga ou exílio foi e continua sendo sobretudo o Deus único, por vezes também trino, dos monoteísmos, preparando a generalização do ateísmo e do cientificismo, ao que correspondente movimentos como os de interiorização da subjetividade e de privatização de experiências do sagrado. Dá-se o que Weber celebremente consagrou como a época do “desencantamento do mundo”, “desencantamento” que traduz a “Entzauberung”, palavra que literalmente significa o desfazimento da magia (Zaubern). É a época da afirmação do humanismo, em múltiplas formas, como sucedâneo de formas mitopoéticas de nos situarmos na existência.
Esse deus que nos salvaria precisaria, então, emergir da recuperação desta capacidade teúrgica, que nos restituiria uma humanidade perdida com o advento do humanismo antropocêntrico – antes, cristocêntrico. Sem que isso signifique uma negação das ciências, antes pelo contrário: elas poderiam e, mesmo, precisariam ser reorientadas para além do serviço da técnica, em direção à poética, ressaltando seus poderes de criação (poiésis) de mundo, não só de produção (téchne) de imagens de mundo, ou de resultados economicamente lucrativos, em favor daqueles humanamente significativos.
Daí a extrema necessidade depromoçãodaquela forma de arte que para Vilém Flusser estaria ressurgindo em nossos dias, a ars vivendi, um saber viver que é um saber da vida como exploração de abismo – o Ab-grund, ou o Bodenlos (FLUSSER, 2007), ou seja, literalmente, o sem fundamento, de onde finita, mas indefinidamente emergimos.
No momento crítico em que vivemos, esta ars se configura comouma tecno-poética em vias de se tornar um modo de lidar artisticamente com a matéria viva, bem como romper barreiras estabelecidas e aceitas secular ou mesmo milenarmente entre os seres artificiais e os entes enquanto artefatos naturais, diferentemente inteligentes e inteligíveis. É a revolução biolítica, dos humanos artificiais e das máquinas com alma, a que se referiu Hervè Kempf (1998) na era do antropoceno, quando perguntamos, com Déborah Danowski e Eduardo Viveiros de Castro (2014). Tal revolução viria nos impor, com a urgência da ameaça de extinção, a necessidade de uma redefinição de nossa humanidade e de tudo o que nos rodeia, ou seja, o que quer que consideremos mundo, reconhecendo-o como criação cada vez mais nossa – assim artística como tecnocientífica, logo, filosófica.
A urgência desse pensamento em nosso tempo se explica justamente em razão do que nele vem-se produzindo, sob a influência do predomínio do pensamento técnico-científico – e o pensamento técnico, vale destacar, desde sempre e cada vez mais remete ao pensamento que a filosofia tornou científico, e vice-versa. Antes da ciência se tornar o que hoje – e desde já há algum tempo – ela se tornou, ela existiu embrionariamente enquanto técnica, faltando apenas o encontro histórico com a filosofia, primeiro, e, depois, com a religião monoteísta e personalista, de Deus onipotente feito homem, no cristianismo, para que se arvorasse na condição de impor sua vontade ao mundo e assim se verificassem os pressupostos mais importantes, no plano ideológico, imaginário, de seu completo desenvolvimento – eis que se tem uma origem metafísico-teológica da ciência e de sua(s) técnica(s), que repousaria em seu antecedente primevo, arcaico, que é a magia. Sugerirmos, então, que a saída única que nos resta é pela entrada.
CONSIDERAÇÕES FINAIS
A ficção científica, seja na literatura ou no cinema, desempenha um papel crucial ao explorar questões fundamentais do conhecimento humano. Ao abordar temas como o avanço tecnológico e a inteligência artificial, a ficção científica nos convida a considerar as implicações éticas e filosóficas dessas inovações. A comparação entre a evolução da IA e uma possível “singularidade” nos alerta para os limites do nosso entendimento e para o impacto potencial dessas tecnologias na sociedade. Essa reflexão nos desafia a repensar não apenas o futuro, mas também o presente, à luz das transformações que já estão em curso.
A queda da metafísica e sua possível ressignificação como metaficcionalidade, leva a considerar que a filosofia, ao longo de sua história, serviu a diversas finalidades, desde a teologia até a ciência e a política. No entanto, em sua fase final, sugere-se que ela deva ser direcionada para a arte ou poética, como uma tentativa derradeira de resgate e redenção de um mundo moldado por suas próprias indagações.
O movimento de fuga ou exílio foi historicamente promovido principalmente pelo Deus único dos monoteísmos, contribuindo para a disseminação do ateísmo e do cientificismo, acompanhado pela interiorização da subjetividade e privatização das experiências sagradas. A era do “desencantamento do mundo” é marcada pela transição da magia para o humanismo como forma predominante de compreensão da existência.
Propõe-se que uma solução para os desafios atuais envolve resgatar a capacidade teúrgica perdida com o advento do humanismo, sem negar a ciência, mas redirecionando-a para a poesia e reconhecendo seu potencial criativo para criar significado humano. A emergência da “ars vivendi”, uma forma de arte da vida que se assemelha a uma tecno-poética, é fundamental para lidar artisticamente com a vida e romper as barreiras entre humanos artificiais, máquinas e entes naturais.
Esta revolução biolítica, na era do antropoceno, exige uma redefinição urgente da humanidade e do mundo, reconhecendo sua natureza cada vez mais artística, tecnocientífica e filosófica. A urgência desse pensamento é explicada pela influência predominante do pensamento técnico-científico, que tem suas raízes na magia e na religião, sugerindo que a única saída é buscar pela porta de entrada.
REFERÊNCIAS
Adorno, Theodor W. Minima Moralia, Gesammelt Schriften, vol. IV, 9ª. ed., Frankfurt a. M.: Suhrkamp, 1997.
Adorno, Theodor W. Negative Dialetik, Gesammelt Schriften, vol. VI, 9ª. ed., Frankfurt a. M.: Suhrkamp, 1997.
Agamben, Giorgio. L’irrealizzabile. Per una politica dell’ontologia, Turim: Einaudi, 2022.
Asimov, Isaac. Eu, Robô, São Paulo: Editora Aleph, 2014.
Baudrillard, J. O crime perfeito, trad.: Silvina Rodrigues Lopes, Lisboa: Relógio D’Água, 1996.
Bloch, Ernst. O Princípio Esperança, vol. 1, trad. Nélio Schneider, Rio de Janeiro: EdUERJ: Contraponto, 2005.
Bonnefoy, Jean-Pierre. Polynesia (3 vols.), Paris: Buchet/Chastel, 2010.
Cabrera, Julio et al. Ética Negativa: Discussões e Problemas, Goiânia: EdUFG, 2008.
Clarke, Arthur C. Profiles of the Future: An Inquiry into the Limits of the Possible. Holt, Rinehart, and Winston, 1984.
Collins, Harry; Pinch, Trevor. The Golem at Large: What You Should Know About Technology, Cambridge: Cambridge University Press, 2002.
Collins, Harry; Pinch, Trevor. The Golem at Large: What You Should Know About Science , Cambridge: Cambridge University Press, 2012.
Danowski, D; Castro Eudardo Viveiros de. Há mundo por vir? Desterro – Florianópolis/São Paulo: Cultura e Barbárie/Instituto Socioambiental, 2014.
Dantec, Maurice G. Artefact. Machines à écrire 1.0, Paris: Albin Michel, 2007.
Dantec, Maurice G. Grand Junction, trad. Tina A. Kover, New York: Ballantine/Del Rey, 2009.
Flusser, Vilém. Bodenlos , São Paulo: Annablume, 2007.
Guerra, Joaquim A. de Jesus. Dicionário Chinês-Português de Análise Semântica Universal, Macau: Jesuítas Portugueses, 1981.
Guerra Filho, Willis S. O Conhecimento Imaginário do Direito, Rio de Janeiro: IFCS-UFRJ, 2011.
Inovação Tecnológica (IT). 2022a. Hardware protônico faz computação analógica e acelera IA. Disponível em: https://www.inovacaotecnologica.com.br/noticias/noticia.php?artigo=resistor-programavel-faz-ia-hardware-usando-computacao-analogica&id=010150220801#.YwaqgnbMKaF). Acesso em 01 abr. 2024.
Inovação Tecnológica (IT). 2022b. Descoberto material que pode aprender como o cérebro. Disponível em: https://www.inovacaotecnologica.com.br/noticias/noticia.php?artigo=material-aprende-como-cerebro&id=010150220823#.YwaqjnbMKaG). Acesso em 01 abr. 2024.
Izutsu, Toshihiko. Magic, Science and ReligionThe collected works of Toshihiko Izutsu, vol. 1, Language and Magic: Studies in the Magical Function of Speech, Tóquio: Keio University Press, 2011.
Jünger, Ernst. Heliopolis, Rückblick auf eine Stadt. Tübingen: Heliopolis, 1949.
Kempf, Hervè. La Révolution biolithique. Humains artificiels et machines animées, Paris: Albin Michel, 1998.
Kurzweil, R. The Age of Spiritual Machine: When computers exceed human intelligence. Cambridge, Mass: MIT Press, 1999.
Kubrick, Stanley, Direção. 2001: Uma Odisseia no Espaço. Produção: Stanley Kubrick. Estados Unidos: MGM, 1968.
Lévy, Pierre. Cibercultura. São Paulo: Editora 34, 2010.
Luhmann, Niklas. Die Kunst der Gesellschaft, Frankfurt a. M.: Suhrkamp, 1997.
Santos, Mário Ferreira dos. A Sabedoria das Leis Eternas, São Paulo: É, 2001.
Scholem, G. "The Golem of Prague and the Golem of Rehovot", in: Id., The Messianic Idea in Judaism, New York: Schocken 1971.
Sontag, Susan. “The imagination of disaster”, in: Id. Against Interpretation,and other essays, New York: Picador, 1990.
Tenório, Igor. Direito e Cibernética, Rio de Janeiro: Rio, 1975.
Türcke, Christoph. “Pronto-socorro para Adorno: fragmentos introdutórios para a dialética negativa”. In: Zuin, A.; Pucci, B.; Ramos-de-Oliveira, N. (orgs.), Ensaios frankfurtianos, São Paulo: Cortez, 2004, pp. 41-59.
Wadhwa, V. (2022) Why quantum computing is even more dangerous tham artificial intelligence. Forreingpolicy. Disponível em: https://foreignpolicy.com/2022/08/21/quantum-computing-artificial-intelligence-ai-technology-regulation/. Acesso em 01 abr. 2024.
Wiener, Norbert. God & Golem, Inc.: A Comment on Certain Points Where Cybernetics Impinges on Religion, Cambridge: M.I.T. Press, 1964.
[1] No original: “Das war die Wende, an der auch die sehr starken Dämonen ihre Macht begriffen hatten — das hatte schon Leonardo vorausgeschaut. Ihr Ziel war das der Allmacht und der Allgegenwart im Räume und in der Zeit. Die Technik war das Mittel, durch das sie diesen Traum verwirklichten”.