“Existe um discurso de que a tecnologia vai ganhar consciência, como no ‘Exterminador do Futuro’… Não é isso: é só uma ferramenta”

Reza a lenda que quem é de humanas não é bom em matemática; programação então, nem pensar. Mas basta uma conversa de 5 minutos com Rafael Kenski para perceber que ele não se enquadra no estereótipo. 

Formado em Ciências Sociais pela Universidade de São Paulo (USP) e em Jornalismo pela PUC-SP, Rafael explica com facilidade os conceitos por trás da tecnologia do momento: a inteligência artificial generativa, base para ferramentas como o ChatGPT. 

O vício por aprender tecnologia, como ele mesmo diz, surgiu ao longo da sua carreira — fruto de uma curiosidade inata e de uma percepção afiada das tendências do mercado de trabalho. De 2000 a 2009, Rafael desempenhou diferentes papéis na Editora Abril, então uma gigante no segmento. Como editor-chefe, esteve à frente de revistas como Superinteressante, Guia do Estudante, Mundo Estranho, Aventuras na História e Sapiens.

Nos seus últimos dois anos na editora, Rafael percebeu que o jornalismo que ele conhecia até então ia mudar drasticamente. 

“Eu comecei a andar pro lado. Fui estudar inovação, marketing, trabalhei com pesquisa de mercado, com o que hoje em dia se chama branded content”

A mudança de chave oficial para a área de exatas se deu em 2010, quando concluiu um mestrado em Gestão de Sistemas de Informação na London School of Economics. Detalhe: ficou entre os top 5% da turma, sendo agraciado com uma distinção acadêmica. 

A partir daí, Rafael fez um mergulho solo nos livros para aprender tudo do zero  —  desde cálculo I e II, probabilidade e estatística, até conhecimentos mais complexos como Python, machine learning, inteligência artificial e redes neurais. 

Na EY, antiga Ernst Young, pôde colocar seus estudos em prática. 

“Criei produtos com o que se chama hoje de processamento de linguagem natural, desenvolvendo robôs para ler textos jurídicos e de empresas” 

Depois de quase seis anos atuando na EY, Rafael decidiu deixar o meio corporativo para focar em projetos pessoais relacionados à popularização da inteligência artificial. Foi então que fundou, em 2022, a KenskIA, newsletter para quem deseja entender melhor sobre o assunto. O timing se mostrou preciso: “Saí justamente quando o ChatGPT e o GPT4 explodiram”, explica. 

Em entrevista ao Draft, Rafael Kenski conta sobre o seu projeto e compartilha sua visão sobre inteligência artificial e o futuro da economia do conhecimento, aterrissando a conversa em meio a diálogos antagônicos na internet sobre a tecnologia. 

De onde surgiu a ideia de criar a KenskIA?
Eu percebi que tinha um gap de comunicação em inteligência artificial, era um espaço muito mal ocupado, com pouca gente realmente interessante escrevendo sobre. 

De um lado, pessoas falando coisas muito legais, só que muito técnicas, querendo ensinar Python e como fazer um robô usando programação; do outro, pessoas de áreas como publicidade e comunicação, mas que estavam abordando o tema com um viés um pouco exagerado, às vezes comercial demais ou alarmista demais. 

E aí eu pensei que existia uma oportunidade de começar a produzir conteúdo nessa área, algo diferente, que pesasse os prós e contras e desse detalhes sobre como a IA funciona e tudo que de fato pode oferecer.

Qual é o perfil dos seus leitores?
Hoje nós temos 970 assinantes. A maioria das pessoas não possui conhecimento técnico em computação e inteligência artificial. Muitos leitores são da área de direito, contabilidade e comunicação, e querem entender um pouco melhor como esse mundo funciona.

Existem diversos tipos de inteligência artificial, mas nos últimos meses a IA generativa tem sido “o” assunto das redes sociais e noticiários. O que há de tão revolucionário e, ao mesmo tempo, tão amedrontador nela?
Estamos presenciando um momento de mudança tecnológica no mundo. O que nós temos visto de inteligência artificial nos últimos meses realmente tem o potencial para mudar não um, mas vários setores da economia ao longo de décadas; mesmo se a gente parar agora e não desenvolver mais nada. 

Pela primeira vez, a gente tem de fato uma ferramenta com o potencial comprovado de aumentar a produtividade e a efetividade do trabalho da economia do conhecimento. 

Algumas pessoas estão comparando com o surgimento da internet, dizendo que estamos vivendo uma nova Revolução Industrial. Não sei o quão exagerado é isso, mas não tenho dúvida de que estamos presenciando um daqueles momentos importantes e sérios de: o futuro já chegou e a gente ainda só está aprendendo a lidar com ele 

Existem dois tipos de críticas bem extremas feitas por pessoas que talvez não tenham entendido ainda esse novo cenário. A primeira reação de muitas pessoas foi: “ah, esse negócio é inútil, é hype, não vai pra lugar nenhum”.

Por outro lado, existe um discurso, que vem muito da própria indústria da inteligência artificial, de que a tecnologia tem capacidades mágicas e humanas, tipo Skynet do filme O Exterminador do Futuro, de que ela vai ganhar consciência. Não é nada disso, é apenas uma ferramenta. 

A verdade é que o ChatGPT só economizou o tempo das pessoas. Não é que ele vai resolver todos os problemas da humanidade e nem que é inútil porque não acertou 100%. 

Você costuma dizer que as discussões em torno da inteligência artificial oscilam entre o mágico e o apocalíptico. O que de fato deveríamos estar discutindo?
Tanto o discurso que nega quanto o discurso que exagera a utilidade e o poder da inteligência artificial generativa, escondem os reais problemas que essa ferramenta tem. E são vários. 

Tem problemas graves de direitos autorais e propriedade intelectual, porque os textos, as fotos e os vídeos usados para treinar [a ferramenta] e os que são gerados e reproduzidos por ela não dão qualquer compensação para o autor. 

Há também mil vieses, principalmente de raça e gênero, por tratar mulheres, pessoas negras e populações de países periféricos de maneira diferente. 

Além disso, existem problemas de desemprego, de trabalhos específicos desaparecerem por conta da inteligência artificial… Outra questão que não é tão comentada é a poluição de conteúdos na internet, que já está acontecendo

Todos esses problemas são ofuscados por essas críticas, talvez superficiais ou extremadas, que escondem o potencial dele [ChatGPT] como ferramenta para mudar a vida de muita gente, tornar mais acessível um monte de poderes que as pessoas não tinham – e vários riscos que não estamos discutindo.

Quando podemos confiar ou não nas respostas dadas pelo ChatGPT? Ele consegue diferenciar uma fonte confiável de uma duvidosa?
Não tem nada ali no sistema que se dedique a validar o que está sendo dito. Em grande parte, o que o ChatGPT faz é pegar a distribuição de frases relacionadas a um tema específico, as mais comuns e as menos comuns, e ver qual é a probabilidade de cada frase ser a resposta para o pedido feito.

A grosso modo, é mais ou menos isso. A ferramenta não sabe exatamente o que cada frase quer dizer, ela só sabe que, estatisticamente, aquela frase tem grande chance de ser a resposta que o usuário está procurando; pode ser certa, pode ser errada, pode ser completa alucinação 

Esse é um ponto frequentemente esquecido no uso da inteligência artificial generativa e que é o grande potencial do ser humano. 

A discussão sobre responsabilidade não existe em qualquer ponto da indústria. A responsabilidade do conteúdo gerado pelo ChatGPT é de quem está usando a ferramenta para gerar conteúdo.  De certo modo, ele é [como] um Microsoft Word: se você escrever um texto que vai ofender pessoas, a culpa não é da Microsoft. 

Inclusive, os termos de uso de qualquer ferramenta de inteligência generativa deixam bem claro que a empresa não tem qualquer culpa sobre o que está sendo produzido ali.

Eu não vejo esse cenário mudar tão rapidamente. Tem alguns estudos que abordam as consequências e causas, mas ainda é muito embrionário; está muito atrasado perto do uso gritante que a gente já está fazendo dessas tecnologias

 Durante muito tempo nós teremos um aprendiz, um assistente júnior super esperto, mas que tudo que for gerado por ele precisará ser relido para ter certeza de que está certo, checar as fontes etc.

Pensando nisso, é necessário a existência de uma autarquia ou instituição que regule, fiscalize a ferramenta?
Algum nível de regulamentação tem que ter, principalmente nessas questões que estão acontecendo de vieses, propriedade intelectual e até de impacto mesmo. A inteligência artificial erra, mas se ela erra sempre em detrimento de um grupo da sociedade, é um problema que precisa ser regulado, isso não pode acontecer.

Outra questão seríssima é a privacidade e o uso dos dados colocados na ferramenta. O ChatGPT guarda todos os dados sobre a pergunta feita ou sobre qualquer documento que tenha sido inserido ali. 

Até que ponto esses dados podem ser utilizados para treinar o modelo ou não? Quando eles treinarem a ferramenta, até que ponto esse dado que você presumia como sigiloso vai ser jogado para o mundo? Ainda não está muito claro pra ninguém

A indústria diz que ela tem que se autorregulamentar. Existe uma discussão de quão ético é essa postura que ela está tendo de se colocar como a solução para o problema que ela mesma gerou. 

Mas eu acho que é uma discussão que a gente tem que ter séria e vai envolver obviamente a indústria, o governo. Também deveria envolver, mas não está envolvendo, setores interessados, sindicatos, associações, ONGs e grupos minoritários.  

Que outra categoria de inteligência artificial não está ganhando tanta atenção, mas tem um potencial de transformação tão grande quanto a IA generativa?
Quando eu criei a KenskIA, a inteligência artificial generativa ainda não era tão pop como hoje em dia. A ideia era falar de IA como um todo. Mas uma coisa que a gente está percebendo é que a IA generativa potencializou o uso de todas as outras, foi como uma porta de entrada. 

Por exemplo, existe um tipo de inteligência artificial chamada busca de informação; [com o desenvolvimento da IA generativa,] ela ganhou uma baita força, porque, no fim, o que você quer saber é qual informação colocar no prompt para que a IA gere o resultado certo. Hoje existem áreas dedicadas a classificar textos. 

Os algoritmos de recomendação, de detectar a intenção, de converter fala para texto e texto para fala estão crescendo violentamente por conta da necessidade que a inteligência artificial generativa está gerando. 

Fora isso, você tem toda a evolução de inteligência artificial que já vem de longa data e que continua existindo, desde visão computacional, algoritmos de otimização e robótica que talvez ganhem ainda mais força.

Considerando o potencial que a inteligência generativa tem, quais áreas podem se beneficiar do seu uso?
A inteligência artificial abarca muitos setores de diversas indústrias. Uma área que já está usando a ferramenta loucamente é o marketing de conteúdo digital. Essa coisa de você gerar posts, e-mails, elaborar propostas para clientes, é tudo muito automatizado e o pessoal já descobriu isso. 

Parte do setor jurídico também está utilizando a ferramenta para criar templates ou princípios, porque boa parte dos processos das grandes empresas tendem a girar em torno das mesmas questões. Então podemos automatizar parte da defesa e do entendimento dos processos 

O RH, a mesma coisa: toda parte de comunicação com funcionários e o entendimento do que eles estão fazendo pode mudar, mas existem algumas questões éticas e de privacidades a serem resolvidas antes.

Algumas áreas da tecnologia da informação, que era um setor grande e complicado, podem ficar pequenas, principalmente com essa tecnologia chamada low code, em que sem saber código, uma pessoa consegue produzir um protótipo, alguma coisa que funcione.

Na minha opinião, cargos como gerente de produto e gerente de projetos tendem a crescer muito, porque o trabalho desses profissionais é coordenar diversos times, fazer a comunicação entre eles, de uma maneira automatizada. 

O próprio empreendedor pode usar o ChatGPT para gerar estratégias, discutir ideias e ter insights. De certo modo, o robô funciona como um assistente de inteligência que, antigamente, só as maiores empresas do país tinham acesso 

Todos os setores de uma empresa podem fazer uso da plataforma e se beneficiar. No caso das startups, que você tem às vezes cinco pessoas fazendo tudo, a utilidade se torna ainda maior.

Falando agora sobre o jornalismo, alguns veículos de comunicação estadunidenses, como a revista WIRED, já divulgaram manuais explicando como irão utilizar ferramentas como LaMDA e ChatGPT. Qual a sua visão sobre o uso da inteligência artificial no jornalismo e sobre o futuro da sua ex-profissão?
Talvez a minha visão seja um tanto ousada. O impacto será grande, mas talvez essas ferramentas corrijam algumas questões do jornalismo, de como ele é feito hoje, do que de fato acabem com a profissão. Acredito que o jornalismo irá permanecer e talvez até se fortaleça com isso.

Em grande parte, o que a inteligência generativa consegue fazer? Lidar com tarefas do jornalismo que até então ou tomavam muito tempo e geravam pouco valor, ou nem deveriam ser feitas. 

Existe algo bem comum nas redações que é pegar uma notícia de agência, reescrevê-la e publicá-la no seu portal. Outro ponto é adaptar a mesma notícia para diferentes públicos e mídias. São trabalhos braçais e absolutamente automatizados hoje em dia

Eu não vejo o ChatGPT achando furos, entrevistando pessoas, indo lá na fonte ou na rua, achando um dado novo… O trabalho mais sério do jornalismo, de buscar a verdade, de ir atrás da informação, não será substituído tão facilmente. 

Sem dúvidas a IA facilita. O profissional consegue resumir grandes quantidades de texto e analisar bases de dados maiores em alguns instantes; mas, ainda assim, essa informação vai exigir um repórter pesquisando.

Na sua opinião, quais habilidades são imprescindíveis para quem desejar utilizar a inteligência artificial de maneira eficiente?
O principal ponto é ter certa clareza de propósito e de raciocínio. Tem uma piada circulando na internet que diz assim: “a inteligência artificial generativa exige que o cliente saiba exatamente o que ele quer, o que garante que o trabalho dos designers vai permanecer por muito tempo”. É uma boa piada, porque o que você precisa mesmo é entender exatamente o que você quer. 

Depois, você tem que saber expressar isso em uma pergunta razoavelmente consistente, que permita uma resposta precisa, senão a ferramenta pode ir para qualquer lado e vai ser meio literal. 

A terceira – e talvez a mais difícil – habilidade é saber quando você pode ou não confiar na resposta gerada pelo robô. Essa é a parte mais difícil, e que vai demorar mais tempo para as pessoas se acostumarem 

Até lá, teremos muitos problemas, como o advogado que incluiu casos fictícios na sua petição.