Uma cartilha sobre ChatGPT, grandes modelos de linguagem e IA generativa

O que significa esta sopa de letrinhas para o contact center?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.

Grandes modelos de linguagem.

Então, do que as pessoas estão falando quando dizem que o ChatGPT vai transformar o setor de contact center (ou qualquer outro)?Eles dizem sobre o tipo de modelo de IA que sustenta o ChatGPT.Esse tipo de modelo é chamado de modelo grande de linguagem ou LLM.É grande porque faz um grande número de cálculos para cada previsão que faz.Esses modelos também são treinados em uma quantidade igualmente grande de dados, como quase todas as palavras escritas digitalizadas, como toda a Internet. 

É um modelo de linguagem porque seu foco é prever sequências de palavras. O que isso significa é que, quando recebe um prompt, o modelo pode prever o que vem a seguir. Portanto, se você fornecer o prompt "Cai, cai, ____", o modelo pode prever que a próxima palavra é "balão". 

Esta última coleção de grandes modelos de linguagem pode prever, no entanto, muito mais que uma palavra.Quando é apresentado um prompt como, "O impacto das IVRs na qualidade do atendimento ao cliente tem sido..." um LLM pode prever ou completar alguns parágrafos de texto muito razoável descrevendo o impacto histórico das IVRs no atendimento ao cliente.Por esse motivo, esses modelos também são chamados de modelos de completar texto.Considerando todos os dados que o modelo "leu" anteriormente, ele pode completar a próxima frase lógica, parágrafo, ou ensaio com uma qualidade humana.

Os LLMs não trabalham com imagens, não fazem análises estatísticas, não fazem cálculos e não verificam fatos.Eles apenas operam no domínio da linguagem—a palavra escrita.Mas para qualquer setor que lida principalmente com a linguagem, como o contact center—focar apenas na linguagem, já é muito! O contact center ajuda as pessoas a resolver problemas por meio de linguagem falada ou digitada.A linguagem está no centro do que o contact center faz e é por isso que o impacto dos LLMs no atendimento ao cliente é tão profundo.

GPT.

Todos nós sabemos o que significa chat.Mas o que é GPT?GPT significa "Generative Pre-trained Transformer" (Transformador Generativo Pré-treinamento).Descreve uma família de LLMs que foram construídos de uma maneira particular.Cada geração desses modelos tem um número crescente de “parâmetros”, que você pode imaginar como neurônios no cérebro.O GPT-1 tem 117 milhões de parâmetros, o GPT-3 tem 175 bilhões de parâmetros e o GPT-4 terá muito mais parâmetros.

Até o momento, a adição de mais parâmetros resultou em modelos mais capazes.Se você já jogou com o ChatGPT, que usa GPT-3 nos bastidores, sabe que as conclusões do texto são muito boas. Em particular, foi a última iteração dos modelos GPT, conhecida como GPT 3.5 DaVinci, que cruzou o abismo do interessante para o incrível. 

Embora o ChatGPT não esteja disponível fora da interface de chat no site da OpenAI, muitos desses modelos GPT estão disponíveis na OpenAI por meio de APIs pagas.Devido ao relacionamento cordial da OpenAI com a Microsoft, essas APIs também estão disponíveis para uso pago através do Microsoft Azure.Esse fato é significativo para os contact centers porque o Azure acrescenta os tipos de segurança, confiabilidade, conformidade e fatores de privacidade de dados que os contact centers exigem.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.

ChatGPT.

ChatGPT é o termo que você verá mais frequentemente usado e mal utilizado. ChatGPT é um aplicativo de bate-papo que pode manter uma conversa humana sobre quase qualquer assunto. Foi construído por uma startup com fins lucrativos chamada OpenAI, que recebeu um investimento significativo da Microsoft. No momento, o ChatGPT utiliza uma versão não divulgada do GPT criada pela OpenAI, que foi aprimorada para ter um bom desempenho em conversas do tipo bate-papo. 

É este aplicativo que gerou a agitação da imprensa e entusiasmo, por dois motivos:

1. Parece mágica.
2. É acessível a todos.

Parece mágica porque parece humano.Você faz uma pergunta sobre o café espresso e recebe uma resposta de conversação como se fosse de um barista.Você faz uma pergunta sobre epilepsia e recebe  uma resposta que poderia vir de um pesquisador médico.E quando comparada às experiências de muitas pessoas com chatbots que parecem dizer principalmente: “Desculpe, não entendi”, essa experiência parece uma alquimia.

Além disso, é acessível às pessoas comuns. Embora esse tipo de recurso pudesse estar disponível apenas para pesquisadores e cientistas de dados no passado, o ChatGPT é o primeiro aplicativo disponível e compreensível para o público em geral.Não importa se você é uma criança de 10 anos pesquisando uma tarefa de casa ou um engenheiro procurando conselhos sobre codificação, o ChatGPT é acessível e fácil de usar.