Participar do SXSW 2022 foi simplesmente incrível. A exposição a tantos assuntos relevantes, apresentados por pessoas de altíssima qualificação, ajuda a nos manter atentos aos temas centrais que estamos vivendo, ou que vamos viver nos próximos anos. Além disso, as discussões com o grupo de amigos foram valiosas para conectar os assuntos das diferentes palestras, pontos de vista diferentes e diferentes compreensões.

Assim como foi difícil escolher as 26 palestras que assisti entre as centenas que estavam acontecendo no centro de Austin nos 10 dias do evento, foi difícil selecionar os melhores temas para escrever este texto. Compartilho aqui dois deles que foram relevantes para mim.

In praise of friction: os perigos da Inteligência Artificial

Uma das melhores palestras que assisti foi a de Renée Richardson Gosline, intitulada In praise of friction (“em louvor ao atrito”). Renée constrói sua tese a partir do trabalho de Daniel Kahneman, apresentado em seu livro “Rápido e devagar – Duas formas de pensar” (link).

Nesse livro, Daniel Kahneman descreve que no dia a dia usamos duas formas de pensar, chamadas de Sistema 1 e Sistema 2. O Sistema 1 é responsável pelas decisões rápidas, operando na maior parte das aproximadamente 35 mil decisões que tomamos diariamente, enquanto o Sistema 2 entra em ação quando o Sistema 1 não é suficiente para tomar uma decisão. 

Sabemos que o Sistema 2 opera quando temos que parar para pensar, como ao fazer uma conta, focar na voz de uma pessoa em uma sala barulhenta, ou ler esse texto. Já o Sistema 1 opera nas respostas imediatas, quando corremos o risco humano de tomar decisões viesadas.

Renée chama a atenção para um efeito chamado frictionless fever (“febre de não atrito”). Frictionless fever é o anseio do ser humano em tomar cada vez menos decisões próprias, e ser auxiliado cada vez mais pela IA (Inteligência artificial). Essa tendência é compreensível, já que sofremos frequentemente de sobrecarga cognitiva. 

O perigo do uso da IA para facilitar a tomada de decisão é achar que ela é neutra. A IA sempre é viesada. 

A soma do viés humano, do viés da IA, e a febre de não fricção, resulta ocasionalmente em grandes problemas de tomada de decisão, como avaliação de notas de alunos por IA ou algoritmos que prendem pessoas na pobreza.

Segundo Renée, o grande problema é o uso da IA para substituir as decisões do Sistema 1. Quando não paramos para refletir sobre as decisões tomadas, e simplesmente seguimos cenários pré calculados por computadores, ficamos à mercê do viés existente nos códigos da IA. E, pior ainda, por seguirmos cegamente comandos gerados por máquinas, ficamos sujeitos a um efeito chamado diffusion of responsibility, a responsabilidade diluída entre os participantes em uma tomada de decisão ou execução de um ato.

Quando a diluição de responsabilidade se dá numa tomada de decisão compartilhada entre uma máquina e um ser humano, quem vamos responsabilizar se os efeitos forem desastrosos? Esse recurso pode inclusive ser usado de forma intencional para minimizar a responsabilidade de um ato humano, culpando um algoritmo que não pode sofrer nenhuma penalidade.

A proposta para a solução é simples em teoria, difícil na prática: usar a IA como um auxílio no processo de tomada de decisão, e não como o critério final. 

Por ser uma mulher negra de origem humilde, Renée concluiu sua palestra com a frase “eu questiono o algoritmo, pois o algoritmo me questionaria”. Ela resumiu sua palestra na mensagem que deixou escrita no meu caderno: “stay human”.

Engineering the world through genetic biohacking

A maioria das palestras apresentadas no SXSW abordou temas de tecnologia e tendências para o futuro, mostrando para onde estamos caminhando, e como podemos contribuir para um futuro melhor. Quem não previu um futuro positivo, pelo menos deixou a provocação de que a mudança está em nossas mãos, e que há um caminho para isso. Apesar de esse ter sido também o propósito da palestra de Josiah Zayner, para mim ela foi perturbadora.

Nos primeiros 30 minutos da palestra, enquanto bebia uma garrafa de cerveja, Josiah nos contou sua história de vida. Disse que nasceu em uma cidade pequena, numa família com baixo nível de escolaridade e que nunca imaginou que pessoas como ele poderiam ser cientistas um dia. Ele teve contato com tecnologia em seu primeiro trabalho. Estudou biologia porque queria aprender sobre plantas. E fez um percurso no meio acadêmico até obter seu PhD em biofísica, pela universidade de Chicago.

Hoje é dono da Odin, uma empresa que possibilita às pessoas fazerem experimentos de engenharia genética em casa. Seu objetivo é despertar o interesse pela ciência para aumentar o número de cientistas no futuro. Até esse momento da palestra, tudo certo. A parte controversa começou em seguida.

Josiah acredita que assim como hoje as pessoas se reúnem para “beber cerveja e fazer uma tatuagem”, no futuro as pessoas vão se reunir para “beber cerveja e fazer edição genética em si mesmas”. E não se trata de uma crença futurística, pois ele postou diversos vídeos em redes sociais realizando testes em si mesmo, junto com amigos (e foi banido do YouTube e outras plataformas por isso). 

Sua postura liberal em relação à edição genética caseira é bastante criticada, como pode ser visto nesse vídeo do Last Week Tonight, ou nessa notícia em que ele “incomou todo o estado da Califórnia”. As críticas giram principalmente em torno da forma como ele trata o assunto, passando a impressão de que biohacking pode ser praticado em casa por pessoas sem qualificações para tal.

Josiah rebate as críticas que recebe com dois argumentos. No primeiro diz que, apesar de o biohacking parecer assustador, mais assustador ainda é o baixo número de pessoas no controle dessa tecnologia atualmente. O FDA (Food and Drugs Administration), o equivalente à ANVISA no Brasil, libera em torno de 30 novos remédios por ano, e existem atualmente 30.000 doenças sem cura, já catalogadas. Ou seja, ainda teremos em média 1.000 anos de espera para a cura de todas essas doenças. Com o investimento em biohacking caseiro, teríamos a cura dessas doenças sem a burocracia do sistema de saúde atual, ele acredita.

O segundo argumento parece minimizar os riscos implicados no biohacking: ele acredita que, assim como nos primeiros anos de popularização dos automóveis houve fatalidades que aprendemos a mitigar com a invenção de semáforos, cinto de segurança etc., o biohacking irá passar por uma trajetória semelhante, em que aprenderemos com a experiência a criar salvaguardas para um uso mais seguro dessa tecnologia.

Pensar no futuro em que qualquer pessoa poderá comprar um kit de engenharia genética para aplicar em si mesmo ainda soa como ficção distópica cyberpunk, porém cientistas como Josiah estão empenhados em fazer dessa ficção uma realidade.

Um pensamento final

Numa das palestras que assisti, foi dito que aprender novos vocabulários amplia o espaço de conhecimento em que conseguimos atuar. Espero que o conceito de diffusion of responsability e as informações atuais sobre biohacking provoquem o leitor a incluir esses temas no dia a dia de suas conversas e reflexões!

Daniel Murta