Se você ainda não ouviu falar de ChatGPT, uma rápida busca no Google vai te dar o contexto necessário. Não vou explicá-lo por que quero seguir um pouco adiante sobre as coisas que ele pode fazer, e principalmente, as coisas que ainda não pode.

Sim, a IA generativa já dá mostras de como vai mudar o mundo. Ela avança sobre o território que sempre achamos que estava além da fronteira das máquinas: a criatividade humana. DALL-e, Stable Difusion, ChatGPT e outras muitas tecnologias que vieram à luz nos últimos meses de 2022 mostram que robôs agora sabem criar tão bem ou melhor que a maioria dos humanos.

Mas dois conceitos são importantes aqui. Inteligência artificial tem por objetivo imitar a nossa. Além disso, inteligência é diferente de consciência. Esses sistemas não sabem o que estão fazendo, ainda que reproduzam características humanas com enorme eficiência.

Mas enquanto a Open AI discute acordos bilionários com a Microsoft e fundos de investimento, qual o seu potencial real neste momento? Porque a tecnologia vai evoluir e rápido (GPT4 está previsto para o primeiro semestre de 2023), mas existem limitações importantes na tecnologia que ainda a impedem de se tornar uma ferramenta de negócios.

Devo começar por dizer que, apesar da sua fluência notável, o ChatGPT é apenas o enchedor de linguiça mais poderoso de todos os tempos. Ele não tem nenhum compromisso com a realidade, por duas razões. A primeira é que ele não entende a realidade. Isto é, ele não tem uma história pessoal, nenhuma sensação que o conecte ao mundo físico, auto-crítica, freios morais ou comportamentais, relações pessoais, ética ou bom senso. O que ele faz, simplesmente, é buscar materiais já produzidos por alguém, em algum lugar, e os reempacotar de maneira esperta, baseados em parâmetros dados pelo usuário.

De fato, a lógica inicial da IA Generativa era buscar a próxima palavra que mais faria sentido numa frase, simplesmente isso. Um jogo de montar que cresceu com o poder computacional para bilhões de parâmetros (um parâmetro é um pequeno bloco de texto digerido na internet) deixando o resultado cada vez mais sofisticado.

No exemplo “me entregue uma receita de torta de banana em formato de Haikai”, a ferramenta não sabe o sabor da torta, e nada, absolutamente nada, o impede de colocar fentanil na receita. Não que ele vá fazer isso, até porque poucas pessoas colocam fentanil numa torta de banana e, portanto, os algoritmos do ChatGPT dificilmente vão achar algo assim, mas o fato é que ele PODE fazer isso, e aí vem sua segunda limitação séria.

IA generativa é um modelo de Deep Learning e, portanto, uma caixa preta. Não se entende ou explica que parâmetros a tecnologia usa para chegar a uma resposta, e mais, esses parâmetros não são alteráveis, a não ser com força bruta (retreinamento de milhares ou milhões de blocos de aprendizado).

Portanto, ainda não é possível usar o ChatGPT como um chatbot normal, porque neste último é necessário que a resposta de saída seja controlada, e a IA generativa ainda é um cavalo selvagem, que faz o que quer, mesmo sendo lindo de se olhar.

Do ponto de vista prático, o que a OpenAI (criadora do chatGPT e do Dall-e) faz hoje é uma programação de chatbot ao contrário. Ao invés de programar o que ele vai dizer, eles criam o que chamam de guardrails, para impedi-lo de dizer certas coisas. Isso significa que a ferramenta ainda precisa de curadoria ou supervisão, não para dizer o que queremos que ela diga, mas para impedi-la de exprimir opiniões perigosas. Normalmente, esses guardrails se aplicam para elementos críticos de discurso, tais como racismo, sexismo e violência. É impossível supervisionar tudo, então a ferramenta está livre para dizer besteiras enormes, o que faz com frequência.

O desafio que se tem, portanto, é conseguir criar modelos eficientes de IA generativa com menos parâmetro de treinamento, que permitam mais flexibilidade no uso da ferramenta. Isto posto – e essas são notas técnicas -, o potencial comercial e de disrupção social do que temos visto até agora é profundo e merece um artigo à parte, que vou escrever em breve.