Stevens Rehen, Tadeu Jungle e o engenheiro e pesquisador Fabio Cozman discutem a relação complexa entre as máquinas e seus algoritmos e a nossa sociedade
A inteligência artificial já é uma realidade, assim como seus impactos na sociedade. Nos próximos anos, a sua importância tanto em nossa rotina quanto na economia vai crescer exponencialmente, a ponto de algumas das mentes mais brilhantes do nosso tempo afirmarem que ela é um dos principais riscos ao futuro da humanidade. Neste episódio do Trip com Ciência, Stevens Rehen convida o artista multimídia Tadeu Jungle e o diretor do Centro de Inteligência Artificial da USP Fabio Cozman para conversar sobre arte, empatia, ética e extremismos.
Tadeu Jungle atua nas áreas de fotografia, vídeo, instalações e poesia visual. Ele dirigiu o premiado documentário Rio de Lama, sobre o crime ambiental de Mariana, o primeiro filmado usando realidade virtual do Brasil. "A tecnologia da realidade virtual é a maior máquina de empatia jamais inventada", diz. "Você vestir o sapato do outro gera uma empatia muito grande."
Para o professor e engenheiro Fabio Cozman, ainda falta muito para a inteligência artificial conseguir reproduzir sentimentos empáticos. Mas ele tem uma visão otimista de que as máquinas podem ser grandes aliadas na construção de uma sociedade melhor. "A utopia é que elas sirvam como suporte ao ser humano, aumentem a produtividade, aumentem a precisão do nosso trabalho e consigam nos ajudar, retirando da nossa carga aquilo que é repetitivo e desnecessário."
Tadeu, o uso de novas tecnologias é uma marca do seu trabalho desde os anos 80, quando a tecnologia não costumava interessar tanto assim o pessoal de Humanas. Quando começa a sua relação com a tecnologia?
Tadeu Jungle. Começou desde sempre. Quer dizer, desde que eu entrei na ECA-USP, primeiro foi televisão, depois vídeo e, de lá pra cá, tenho ficado envolvido com tecnologia o tempo todo. E agora, mais recentemente, com realidade virtual. Minha poética também caminha com os poemas digitais. A tecnologia faz parte do meu cotidiano.
LEIA TAMBÉM: Todos os episódios do Trip com Ciência
Fabio, e no teu caso? Você começou na Engenharia Elétrica, depois passou por robôs e agora está trabalhando com inteligência artificial. Conta um pouquinho de como começou o seu interesse por essa área.
Fabio Cozman. Eu me interessava por matemática e física na escola, mas também gostava muito de ler, gostava de revistas em quadrinhos, essas coisas. Até cheguei a pensar em ir para esse lado. Mas depois acabei me interessando por computação e fiz Engenharia Elétrica. Já na USP, descobri um grupo de robótica, trabalhei um pouco com isso e fui fazer doutorado em computação nos Estados Unidos, na área de inteligência artificial. Há 30 anos, essa era uma área muito inclusiva. Então uma pessoa que tinha interesses em matemática, mas também tinha interesses em Humanas, se sentia muito abrigada, muito acolhida. Olhando em retrospectiva, é uma área que tem muitos diferentes lados, muito interdisciplinar e isso que acabou me levando para essa direção.
Tadeu, você fez o primeiro documentário do Brasil usando realidade virtual sobre o crime ambiental de Mariana. O que essa experiência com a realidade virtual entrega a mais do que um vídeo comum?
Tadeu. O Rio de Lama foi feito no calor da hora. Eu queria muito trabalhar com realidade virtual e não tinha feito nenhum filme. Então além de ser o primeiro documentário de realidade virtual no Brasil, foi o primeiro filme que fiz nesse formato. E o que a realidade virtual proporciona que nada mais proporciona? Que você vivencie uma nova situação, que você se transporte para uma nova realidade - ora com interatividade, você podendo interagir com esse novo mundo onde está imerso, ora onde você é um espectador, relativamente dito como passivo. Mas, na verdade, quando você se sente imerso dentro de uma nova situação, a tua relação com a narrativa é completamente diversa da tua relação com uma narrativa de um filme, que você já aprendeu a se relacionar. A realidade virtual é o primeiro formato audiovisual a ser disruptivo, desde que o cinema foi criado. Porque agora você não retrata a realidade através de um retângulo. Você faz a realidade virtual, ela é uma esfera. Então o impacto é muito grande, você passa a acreditar que está naquele local. E o interessante é que essa novíssima forma de narrativa está ligada aos gregos, ao teatro, porque a realidade virtual é um teatro de arena invertido, você está no centro da ação e a ação acontece ao seu redor. Então você tende a mimetizar a realidade. Ainda tem muito campo a ser explorado, estamos no comecinho.
Fabio, muito se fala sobre a inteligência artificial, muito se especula, mas pouco se entende - eu digo, o público em geral. Onde é que a gente enxerga mais a aplicação da inteligência artificial nos dias de hoje?
Fabio. Bom, eu vou responder assim: inteligência artificial é um bicho meio difícil de definir. Hoje em dia é aquela coisa tech, pop. O sorvete é feito com inteligência artificial, o carro é feito com inteligência artificial. Então vou tentar situar um pouco como a própria área se vê. Inteligência artificial é você procurar reproduzir por um artefato artificial (e essa é a parte fácil) um comportamento que você acha inteligente, e isso é muito difícil de definir. Porque a gente não tem uma clareza do que é inteligência. Inclusive, acho que isso é um problema da ciência, da psicologia, que ainda não chegou a concretizar essa definição, mas também um problema do ser humano, porque temos uma flexibilidade muito grande com esse conceito. Há dez anos, as coisas funcionavam mas o público ainda não tinha percebido. E o que aconteceu entre 2010 e 2015 foi um momento de transição, no qual algumas tarefas que fazem a ponte entre a máquina e o ser humano foram vencidas. Por exemplo, você não conseguia dialogar com o computador dez anos atrás, agora dá para fazer. Quando a sociedade percebeu e disse "olha, dá pra fazer isso", houve uma mudança de foco. "Puxa, então agora nós temos grandes benefícios potenciais, de repente essas coisas vão conseguir nos ajudar, vão dirigir os carros...". Mas também tem grandes perigos potenciais, "essas coisas vão nos invadir". Então isso gerou toda uma mudança de visão. Hoje em dia, acho que aquela inteligência artificial mais tradicional, aquela que realmente olha para uma reprodução dos níveis cognitivos mais avançados, está presente no nosso dia a dia: as buscas que a gente faz no Google, os chatbots dos sistemas bancários, as inúmeras ferramentas que fazem reconhecimento de imagens etc. O que acontece é que talvez ela não esteja tão presente quanto o marketing quer indicar.
Tadeu, como você vê a ideia de inteligência artificial extrapolando para as artes?
Tadeu. Bom, os artistas já estão utilizando a inteligência artificial para produzir trabalhos de arte em várias plataformas, pintura, vídeo, etc. Acredito que a inteligência artificial vai ser utilizada assim como se utiliza um pincel ou se utiliza uma câmera. O que acontece hoje é assim: o artista faz uma seleção inicial de algum assunto e municia a máquina desse conhecimento. Ele cria um algoritmo para que a máquina trabalhe, ela produz um resultado e o artista filtra como bom ou ruim, de acordo com o seu desejo. Ou seja, a inteligência artificial trabalha muito em diálogo com o artista. Existe também esse mito de que os robôs vão produzir arte, mas toda vez que o robô vai lá e produz uma pintura, tem todo esse processo por trás. Em que momento a arte está realmente incorporada dentro da tecnologia? Quando o artista concebe um ponto preto no meio de um quadro branco e isso revoluciona a arte, ou quando você desloca três mictórios e coloca na frente e diz "isso é arte", em que momento que isso seria possível com a tecnologia e com a inteligência artificial?
Vamos passar essa pergunta para o Fabio, então.
Fabio. Eu estava falando que é difícil definir inteligência artificial, mas eu tenho certeza que é muito mais difícil definir arte. Nós temos um grupo lá na Universidade de São Paulo que se chama GAIA, sobre arte e inteligência artificial. E a gente tem explorado em vários projetos como as ferramentas artísticas podem se misturar com ferramentas computacionais. O pesquisador Bruno Moreschi tem feito um trabalho muito legal de examinar os erros que os computadores cometem, quando pegam uma arte e dizem: "isso aqui não é um quadro, é uma janela".
Tadeu. Eu adorei essa coisa do erro. Eu sempre incorporei o erro. Tem vários trabalhos que depois eu fui entender que vieram de erros, desses acasos não controlados. E a ideia desses acasos serem utilizados pela inteligência artificial, para poder se entender ou para poder criar alguma coisa dentro da arte, eu acho um golaço.
LEIA TAMBÉM: A influência do sono na saúde mental
O Fabio compartilhou com a gente como é difícil tentar definir inteligência. Você se arrisca a definir criatividade, Tadeu?
Tadeu. Acho que essa também está nesse hall da pergunta de vários milhões de dólares. Mas a ideia de criatividade está muito próxima da invenção, de você inventar, de você conseguir ir para um outro lugar. É uma capacidade que eu não sei se é nata ou inata, depende muito de cada um. Eu acho que quanto mais próximo da categoria de inventor, mais próximo da criatividade você está.
A gente está vendo muito a inteligência artificial, a internet, radicalizando pontos de vista, levando ao extremismo, racismo. Você tem alguma ideia, Fabio, de como a gente pode solucionar esse problema?
Fabio. Esse é um problema que diz muito sobre várias dimensões da nossa sociedade. A tecnologia, que é o veículo dessa radicalização hoje, é um componente. Uma coisa que eu posso falar otimisticamente é que as ferramentas de inteligência artificial podem nos ajudar, podem nos dar um suporte para entender o mundo, entender as notícias e conseguir navegar um pouco melhor. Eu tenho trabalhado em conjunto com colegas da Federal de Minas Gerais gerando repórteres automáticos. A gente fez um que se chama Repórter da Mata, que coleta dados sobre a Amazônia, sobre as matas e gera pequenas notícias no Twitter. Então ele gera notícias de fontes seguras. Nós temos um outro repórter que faz a mesma coisa com a COVID-19, coletando informações de um órgão sacramentado e fazendo pequenas notícias.
Tadeu. Interessante isso que você fala de criar repórteres ligados a fontes confiáveis, porque tem um componente humano que está julgando aquelas fontes. Eu acho que o grande dilema da realidade da inteligência artificial é ter essa coisa democrática e, principalmente, diversa, já no seu design, na sua concepção. Se você tiver essa diversidade na hora que conceber uma determinada máquina, ou um caminho da inteligência artificial, já ameniza um pouco o impacto de uma dúvida sobre o que essa máquina está fazendo. Essa questão diversity by design, democracia by design, não?
Fabio. Esse ponto levanta uma série de questões que hoje afligem a área de inteligência artificial. Olha, dez anos atrás, mais ou menos, eu fiz uma palestra na Unicamp e me perguntaram qual era o futuro da inteligência artificial. E eu falei: "olha, eu vou chutar o pau da barraca e vou falar uma coisa maluca aqui: vai ser a discussão de ética. Isso aí vai demorar 20 anos para acontecer". E, na verdade, rapidamente isso se tornou importante e hoje a área tecnológica e a científica estão muito preocupadas com questões éticas. E isso envolve evitar discriminação, envolve ter transparência, envolve ter capacidade de explicar os resultados para que aja controle democrático. Tudo isso está muito na mente dos pesquisadores. Porque se você está extrapolando dados e os dados que você tem, têm algum padrão de discriminação, você vai acabar fazendo a mesma coisa. O nosso raciocínio é muito mais sofisticado, é um raciocínio causal, onde você leva em conta o que causa cada padrão. E isso é um desafio para a pesquisa. Se você me perguntar o que vai acontecer nos próximos 20 anos, uma das coisas que eu vou falar é: "melhorar a capacidade da máquina de ter um raciocínio causal e sofisticado o suficiente para detectar regras, impor regras de comportamento e detectar padrões inadequados".
Tadeu, você acha que dá para gente ensinar para as máquinas empatia, que é algo que a gente está perdendo um pouquinho entre nós mesmos. Como é que a gente faz para ensinar algo que a gente não está conseguindo ensinar para nós mesmos?
Tadeu. A tecnologia da realidade virtual é, segundo o Chris Milk, a maior máquina de empatia jamais inventada. Porque a ideia de você vestir o sapato do outro, a ideia de você estar no lugar do outro, de vivenciar, gera uma empatia muito grande. Nesse sentido, a tecnologia está ajudando. Tecnologia e empatia caminhando juntos.
Fabio. De certa forma, o que os chatbots tentam fazer hoje em dia é ter empatia, né? Quando você liga em alguma companhia e a voz fala: "estou pensando", você sabe que ela não está pensando nada, está só procurando. Eu preferia que ele falasse: "a sua informação está aqui, vai embora". E quando eu quisesse empatia, eu gostaria que realmente houvesse empatia, mas as máquinas não estão fazendo isso, e não vão fazer isso tão logo. Os seres humanos têm uma vantagem muito grande nesse ponto e eu vou até conectar isso com uma coisa que parece diferente, mas não é. Que é a história dos empregos, que muitos vão perder os empregos e tal. Lógico, vai haver dificuldades e mudanças no mercado de trabalho. Mas a gente pode pensar que as máquinas estão aí para nos retirar aquelas coisas repetitivas. O ser humano tem um reservatório de vantagens que tem a ver com a empatia, com a capacidade de ajudar, então eu não vejo nenhuma dificuldade. Um médico, por exemplo, com a inteligência artificial, vai ter simplesmente um suporte, vai poder trabalhar mais eficientemente e vai poder se dedicar mais ao paciente. E o que o paciente mais quer é receber essa empatia.
Pensando agora em deep fake e fake news. Tadeu, você que a gente vai chegar em um momento em que a sociedade vai dar um golpe de misericórdia na verdade?
Tadeu. Olha, a gente tem uma crise muito próxima de acontecer com relação às fake news e à tecnologia. As fake news vão confundir a ponto de criar convulsões sociais. É extremamente complexo, porque a gente já está vendo pessoas falando [mentiras] com a maior desenvoltura. E nem é mais em texto só, já é no contato humano mesmo. Uma pessoa chega para outra e conta um fato. Até eu desmentir aquele fato, já foi criada uma confusão muito grande. Me deixa muito preocupado que a tecnologia avance a tal ponto que crie uma outra realidade e, através da inteligência artificial, essa realidade fique fora de controle, criando factóides e fake news em profusão.
A inteligência artificial vai ser o começo do fim da humanidade ou vai ser, justamente, a salvação do planeta? Dentro desse espectro de possibilidades, onde é que vocês se posicionam?
Tadeu. Eu acredito que a inteligência artificial veio para nos ajudar e já está nos ajudando muito. Quero acreditar que ela vai se aproximar de soluções de problemas que nós não conseguimos, que vai salvar muitas vida, seja na medicina, no social. Que ela vai nos ajudar a criar mais arte, vai nos fazer ficar mais interessantes como seres humanos. Espero que ela fique nesse patamar e que não nos possua e não nos domine.
Fabio. A sociedade é que tem que debater isso, é importante que a gente discuta aqui e a que a sociedade pense qual caminho quer seguir. Existem utopias e distopias nessa área, tem de todos os aspectos que você imaginar. A utopia é que essas máquinas sirvam como suporte ao ser humano, aumentem a produtividade, aumentem a precisão do nosso trabalho e consigam nos ajudar, retirando da nossa carga aquilo que é repetitivo e desnecessário. Agora, isso tem que acontecer com uma distribuição justa das riquezas que vão ser geradas nesse processo. O Brasil tem vantagens nessa tecnologia e precisa explorar isso. O país tem uma população grande, relativamente uniforme, que fala a mesma língua. O Brasil tem órgãos de geração de informação importantíssimos para conseguir automatizar as suas atividades e dar suporte aos seus cidadãos. O DATASUS é um órgão que não existe igual no mundo de geração de informação. Se você pegar a Fiocruz, o INPE, o IBGE, são inúmeras instituições que geram dados da maior qualidade. Além disso, essa tecnologia, embora um pouco cara, não é nada extraordinário. O que ela exige, realmente, é que as pessoas sejam educadas, exige educação. O Brasil pode explorar essa tecnologia para dar alguns saltos no caminho do desenvolvimento, saltos que estão à disposição no momento, frente a outras nações. Utopicamente, se a sociedade conseguir discutir como evitar os problemas – perda de controle, invasão de privacidade, perda de contato humano, mudanças no mercado de trabalho, por exemplo – e tiver um diálogo aberto sobre como dividir as riquezas, a sociedade tem como se beneficiar muito desse avanço tecnológico.
