Blog

As perturbadoras repercussões de ressuscitar uma moça morta

A imagem da moça morta ainda é tosca, fica muito no fundo do Vale da Estranheza, mas é só uma questão de tempo para conseguirmos gerar em tempo real imagens fotorealistas indistinguíveis do mundo real. Em alguns casos já conseguimos, vide os efeitos visuais do Mandalorian.

Essa tecnologia em zero é dissemelhante do que vemos fazendo nos últimos 100 milénio anos; manter viva a memória dos mortos. Fazemos isso com estátuas, com mumificações, criando mitos de espíritos que habitam objetos inanimados, incorporando os mortos no dia-a-dia. No México os mortos são honrados não só em seu Dia, mas todos os dias, é generalidade as casas terem um altarzinho, aonde imagens de santos se misturam com as de parentes falecidos.

De novo: Esse comportamento não tem zero de novo. Os romanos transformavam alguns parentes mais importantes falecidos em espíritos protetores, uma espécie de deus domiciliar. Esses deuses domésticos tinham um altar próprio, eram relembrados e adorados diariamente. Eram os ancestrais, honrados através de gerações.

O nome dos altares dessas divindades era… Lararium. Os deuses domiciliares que protegiam seus descendentes que moravam sob aquela moradia se chamavam… Lares. Eram tão fundamentais na cultura romana que o termo “Lar” em português descende diretamente de Lar, nume doméstica. Uma lar é exclusivamente uma moradia, uma morada cuidada e protegida por um parente morto devidamente estremecido e lembrado, é um lar.

Lembrar dos entes queridos que se foram é alguma coisa fundamental para nossa espécie. Erguemos estátuas, pintamos quadros, inventamos a Arte.

40 milénio anos detrás, no que viria a se tornar Lascaux, França, um varão, um caçador Cro-Magnon morreu tentando levar comida para mansão. Ele foi morto por um bisão. Um de seus amigos, talvez querendo perpetuar a curta existência do companheiro, desenhou o momento de sua morte na parede de uma caverna.

Cada um, de conformidade com suas capacidades e posses, tenta perpetuar os falecidos, seja a pintura na caverna, seja uma estátua dos pais, tornados deuses pessoais, porquê mostrado em Gladiador (o nome dessa categoria de deuses era… Parentes) seja com o Taj Mahal.

Quando a tecnologia tornou isso provável, a retrato se popularizou rapidamente porquê forma de gerar um memento mori, uma memorial da morte. Na Inglaterra Vitoriana, com a deliciosa mortalidade infantil do Século XIX, as famílias faziam fileira para que suas crianças fossem fotografadas depois de mortas, mas em poses “normais”. Hoje é um pouco que parece macabro e disparatado, mas era um esforço final para passar uma ilusão de normalidade, um último momento de vida para o falecido.

Para muitas famílias, principalmente as mais pobres, era a única foto que tinham do falecido, retrato ainda era custoso demais, e mesmo quem tinha moeda não contratava fotógrafos toda hora. Fotografar os mortos era um esforço monumental, mas que todos achavam valer a pena.

Por milênios as memórias dos mortos foram passadas somente por tradição verbal. Com a invenção da escrita, idéias e pensamentos puderam ser eternizados. Hoje conseguimos ler mensagens do dia-a-dia de habitantes da antiga Mesopotâmia. Os mortos agora tinham suas histórias escritas em barro, depois em pedra.

Quando os gravadores portáteis foram inventados, passamos a ser capazes de preservar a voz de nossos parentes. Inúmeras pessoas deixaram fitas com mensagens para filhos e parentes, mensagens essas que são guardadas porquê verdadeiros tesouros.

Hoje temos mensagens em vídeo, copiadas e guardadas com carinho, e em pelo menos um caso privativo um usuário do Slashdot (acho) conta que tirou o XBox do armário, foi jogar um jogo de corrida e reparou que havia um carruagem-fantasma, era o pai, há muito falecido. Ele estava jogando contra o pai (zero sobrenatural, não-gamers, é uma feature de jogos de corrida) e nunca superou o escore, para sempre que sentisse saudade, poder passar com o pai.

Usar tecnologia de veras virtual para simular um ente querido falecido é alguma coisa inevitável. Inicialmente teremos os filmes não-interativos, prevejo que em breve a mesma tecnologia usada para fabricar deep fakes será usada para gerar simulações tridimensionais, com o usuário podendo passear virtualmente dentro de uma cena. Isso já foi usado em vários filmes (Minority Report ou Eu, Robô, qual tinha a filha morta?).

O próximo passo é a geração de personagens virtuais, usando gravações e vídeos do falecido, para que ele interaja de forma simples, uma versão em veras virtual dos quadros de Hogwarts, mas o passo mais terrível virá quando o que foi feito com atores e de forma limitada na Coréia atinja seu potencial.

Em Caprica Zoe Graystone morre em um atentado terrorista, mas antes disso ela estava trabalhando em um avatar privativo, usado em um mundo virtual acessado através de Holobands. Imagina uma mistura de Matrix com Ready Player One.

Normalmente as pessoas acessavam com avatares normais, mas Zoe criou uma simulação de si mesma, um bot que pensa que é a própria Zoe. Ela é uma construção baseada nas memórias, vídeos, gravações, lembranças da verdadeira Zoe, e aí começa a discussão filosófica. Quando uma simulação deixa de ser uma simulação?

Hoje temos tecnologia de lucidez sintético, redes neurais, deep learning capaz de feitos assustadores. O funcionamento é “simples”.  Você não pode gerar informação do zero, mas você pode chutar. Uma rede neural faz um monte de chutes, escolhendo os que se encaixam melhor. Por exemplo: Se você vê metade de um rosto escondida por um poste, há boa chance de possuir outra metade do rosto ali. Evidente, o sujeito pode ser caolho, mas o bom-siso diz que se duplicar e inverter a metade existente, tem uma aproximação do rosto.

Cá um uso dessa tecnologia: É um filme de Lumiere, Arrival of a Train at La Ciotat, feito em 1896.

Cá o mesmo filme, depois de ser processado por uma rede neural que através de bilhões de operações transformou o original em um filme com 4K de solução, 60 frames por segundo:

Existe um trabalho em redes neurais aonde você entra um texto de um responsável, ele é processado e reescrito no estilo de outro responsável. Sinistro o bastante? Eu acho.

Do mesmo jeito que sistemas especialistas recebem toneladas de dados e passam a examinar e resolver problemas da mesma forma que humanos, uma rede neural alimentada com tudo que uma pessoa produziu, todos os filmes fotos e áudios que ela publicou, todos os comentários que fez, todos os materiais de terceiros falando dela, seu histórico acadêmico e profissional, essa rede neural pode chegar a uma boa aproximação do modo de pensar dessa pessoa.

Será uma forma de lucidez sintético? Tecnicamente não, uma rede neural não “pensa”. Talvez nem mesmo seja provável um dia um computador pensar, autores porquê Miguel Nicolelis e Roger Penrose entendem a mente humana porquê um problema não-computável, outros acham que é um problema que pode ser resolvido por outros meios.

Se a mente não for computável, ainda assim teremos simulações em veras virtual no estilo de um Holodeck em Star Trek, com os entes falecidos em uma situação determinada, trabalhando dentro de parâmetros e reagindo da forma com que esperamos que eles reajam.

Faz realmente diferença pra uma filha, sozinha e deprimida, se é IA Real ou não se de qualquer jeito ela consegue conversar com a mãe morta, numa sexta-feira chuvosa, desabafando seus problemas, pedindo conselhos e ouvindo uma boa aproximação do que a mãe realmente diria naquele momento?

Redes Neurais funcionam por força bruta, mas porquê Dr Banner e Ben Grimm nos ensinaram, às vezes força bruta é uma boa solução. Descrever para um computador porquê gerar um rosto humano é uma tarefa impossível, são centenas de milhares de pequenas regras. Já com redes neurais você consegue que ele deduza os resultados dessas regras. É tipo o João Grilo, “Não sei, só sei que foi assim”.

Com isso fazemos o impossível, porquê gerar rostos de pessoas que não existem. O site “This person does not exist” faz exatamente isso. A cada reload, cria um rosto novo, que nunca existiu nem existirá de novo.

Com essas redes poderemos além dos parentes falecidos, gerar pessoas virtuais completas e com elas viver novas situações. A patroa deu férias e você quer realizar o sonho de levar sua mãe na Disney? Provável. Aquela viagem dos sonhos que o acidente envolvendo sua prometida e uma motoniveladora não deixou intercorrer? Pode ser realizado.

O Risco

Porquê toda tecnologia, há o risco de ataque, mas no caso o ataque é psicológico. A idéia de usar Veras Virtual para reviver memórias, reencontrar parentes falecidos é muito boa, mas deve funcionar porquê secção do trabalho de aprovação da morte do falecido. Infelizmente o mais provável é que essa tecnologia se torne uma muleta.

Não duvido que muita gente vá viver dentro das simulações, preferindo o convívio com uma reprodução imperfeita, a admitir a perda e seguir adiante. Toda uma série de problemas psicológicos surgirão por desculpa das simulações de parentes mortos, e isso se estenderá para outros cenários.

Um dos vídeos mais tristes que já vi foi sobre sujeitos que “casam” com bonecas Real Doll. Não digo os pervertidos, que compram bonecas de japinhas ou loiras pneumáticas, falo dos sujeitos que não conseguem desenvolver relacionamentos com pessoas, e para combater a solidão compram as bonecas e as tratam porquê namoradas e esposas, fazendo jantar para elas, levando para passear, conversando com elas por horas.

Se você acha isso triste, imagine quando esse pessoal puder gerar uma persona virtual, se alienarão completamente da raça humana. E sim as bonecas são laváveis.

O Problema Mais Ético Ainda

Cá já partimos pra ficção científica.

Durante o incidente Second Chances, da 6a Temporada de Star Trek: A Novidade Geração, um acidente de teletransporte duplicou o Comandante Riker. Ele foi transportado para a Enterprise mas uma imitação foi refletida para a superfície do planeta. Os dois eram virtualmente idênticos ao nível molecular, logo qual era o verdadeiro Riker? Os dois eram, mas um ser humano é mais do que seu cérebro. Além da estrutura física, somos moldados por nossas experiências, nossa vivência e nossas memórias.

Do momento em que a reprodução foi criada, eles começaram a divergir, e a imitação mais tarde se uniu aos terroristas Maquis, um pouco que o Riker normal não faria, ou faria se tivesse as mesmas experiências.

Is good to be Number One.

Se a mente humana for um problema computável, e puder ser simulada adequadamente em computadores, teremos um snapshot da mente de uma pessoa armazenada em um emulador, não mais um simulador. Se não houver complicação quântica envolvida na mente, porquê propõe Penrose, não faz diferença se um neurônio dispara uma sinapse real ou se é um neurônio virtual copiando a complicação de um cérebro geminado célula a célula.

Aí temos a grande questão, que foi discutida n’O Varão Bicentenário: Quando um Varão deixa de ser um Varão? Quantos órgãos podemos perder sem perder nossa Humanidade? Implantes para medicar Parkinson e Alzheimer estão já na esquina. Se tudo der claro, teremos primeiro as próteses, depois tecnologia que melhorará nosso cérebro. As lembranças de sua puerícia existindo em um chip de grafeno (eu falei que era ficção científica, grafeno saiu do laboratório) são menos válidas do que existindo em um grupo de células interligadas?

Se seu cerebelo for danificado e substituído por um cerebelo sintético, você é menos humano?

A progressão é que se for provável, chegaremos a um cérebro 100% sintético, com todas as memórias e caminhos neurais do cérebro real. Não há dúvidas que o “de verdade” é o real, mas e se você se conversar com aquele cérebro sintético através de um telefone, uma mensagem de texto ou por epístola? Se não for capaz de mandar que está falando com um cérebro sintético, ele não é uma pessoa de verdade?

Parabéns, você acaba de entender o Teste de Turing.

Se uma pessoa morre e deixa uma versão de seu cérebro rodando em um computador, com todas as suas memórias, pensamentos, personalidade, essa pessoa morreu realmente? Porquê ficam as questões legais, as propriedades, patentes, responsabilidades, relacionamentos?

Agora imagine que em um horizonte distante (tipo uns 20 anos) alguém perde um ente querido, e inconformado, gasta uma riqueza recolhendo dados, escaneando o cérebro do falecido, criando uma versão em software do cérebro daquela pessoa, que agora existe em um envolvente virtual, mas com seus pensamentos e memórias.

Qual a exigência lítico de uma pessoa virtual que é indistinguível de uma mente real, em determinado momento de sua vida? Quais os efeitos psicológicos dessa pessoa desenredar sua quesito? Porquê você reagiria se descobrisse que alguém que gosta muito te recriou num computador e agora você está vivendo uma novidade vida?

Eu, pessoalmente, ficaria desesperançado. Ao menos poderia saber kung fu.