Eine Einführung in ChatGPT, große Sprachmodelle und generative KI

Was bedeutet dieser „Wortsalat“ für Contact Center?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.

Große Sprachmodelle.

Worum geht es genau, wenn gesagt wird, dass ChatGPT die Contact Center-Branche (oder andere Branchen) verändern wird? Die Rede ist von der Art des KI-Modells, das ChatGPT zugrunde liegt. Es wird als großes Sprachmodell oder kurz LLM (Large Language Model) bezeichnet. „Groß“ deshalb, weil es für jede Vorhersage eine Unmenge von Berechnungen durchführt. Diese Modelle werden zudem anhand einer ebenso riesigen Datenmenge trainiert, die fast das gesamte digitalisierte Schriftgut umfasst, wie z. B. das komplette Internet. 

Es ist ein Sprachmodell, weil sein Fokus auf der Vorhersage von Wortfolgen liegt. Das bedeutet, dass das Modell bei der Eingabe eines Prompts vorhersagen kann, was als Nächstes kommt. Auf das Prompt „Backe, backe ____", kann das Modell vorhersagen, dass das nächste Wort „Kuchen“ ist. 

Diese neueste Generation großer Sprachmodelle kann jedoch viel mehr als nur ein Wort vorhersagen. Bei einem Prompt wie z. B. „Der Einfluss von IVRs auf die Qualität des Kundendienstes war ...“ kann ein LLM mehrere Abschnitte eines sehr aussagekräftigen Textes erstellen oder vervollständigen, der die bisherigen Auswirkungen von IVR-Systemen auf den Kundenservice beschreibt. Aus diesem Grund werden diese Modelle auch als Modelle zur Textvervollständigung bezeichnet. Anhand aller Daten, die das Modell zuvor „gelesen“ hat, kann es den nächsten logischen Satz, Abschnitt oder Text mit einer menschenähnlichen Qualität vervollständigen.

LLMs arbeiten nicht mit Bildern, sie führen weder statistischen Analysen noch Berechnungen durch und überprüfen auch keine Fakten. Sie agieren lediglich im Bereich der Sprache – und zwar des geschriebenen Worts. Für eine Branche, bei der Sprache — wie im Falle von Contact Centern — im Vordergrund steht, ist der Fokus auf Sprache sehr wichtig! Contact Center helfen Menschen, Probleme durch gesprochene oder getippte Sprache zu lösen. Sprache steht im Mittelpunkt der Tätigkeit von Contact Centern und deshalb ist der Einfluss von LLMs auf den Kundenservice so tiefgreifend.

GPT.

Wir alle wissen, was „Chat“ bedeutet. Aber was ist GPT? GPT steht für Generative Pre-trained Transformer (generativer vorprogrammierter Transformator). Dabei handelt es sich um eine Familie von LLMs, die auf eine bestimmte Art und Weise konstruiert wurden. Jede Generation dieser Modelle hat eine wachsende Zahl von „Parametern“, die man sich wie Neuronen im Gehirn vorstellen kann. GPT-1 hat 117 Millionen Parameter, GPT-3 hat 175 Milliarden Parameter und GPT-4 wird noch viel mehr Parameter haben.

Durch Hinzufügen weiterer Parameter konnten bisher immer leistungsfähigere Modelle erstellt werden. Wenn Sie schon einmal auf GPT-3 basierendes ChatGPT ausprobiert haben, werden Sie festgestellt haben, dass die Textvervollständigung sehr gut ist. Insbesondere die als GPT 3.5 DaVinci bezeichnete neueste Generation der GPT-Modelle hat den Sprung von interessant zu beeindruckend geschafft. 

ChatGPT ist zwar nicht außerhalb der Chat-Schnittstelle auf der OpenAI-Website verfügbar, aber viele der GPT-Modelle sind über kostenpflichtige APIs von OpenAI erhältlich. Aufgrund der engen Beziehung zu Microsoft sind diese APIs auch für die kostenpflichtige Nutzung über Microsoft Azure verfügbar. Dies ist für Contact Center von großer Bedeutung, da Azure die Faktoren Sicherheit, Zuverlässigkeit, Compliance und Datenschutz bietet, die für Contact Center wichtig sind.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.

ChatGPT.

ChatGPT ist der Begriff, der am häufigsten verwendet und falsch benutzt wird. ChatGPT ist eine Chat-Anwendung, die eine menschenähnliche Konversation über fast jedes Thema führen kann. Es wurde von einem gewinnorientierten Start-up namens OpenAI entwickelt, in das Microsoft stark investiert hat. Im Moment verwendet ChatGPT eine nicht offengelegte Version von GPT, die von OpenAI entwickelt wurde und für eine gute Performance in chatähnlichen Unterhaltungen weiter optimiert wurde. 

Diese Anwendung hat aus zwei Gründen für Aufsehen in der Presse und für Furore gesorgt:

1. Sie wirkt wie Zauberei.
2. Sie ist für jeden zugänglich.

Es wirkt wie Zauberei, weil es menschlich wirkt. Auf eine Frage über Espresso erhält man eine Antwort, die so unterhaltsam ist wie die eines Baristas. Auf eine Frage über Epilepsie erhält man eine  Antwort, die von einem Medizinwissenschaftler stammen könnte. Und im Vergleich zum Eindruck, den viele Leute von Chatbots haben, nämlich dass sie meistens sagen: „Tut mir leid, das habe ich nicht verstanden“, kommt einem dieses Erlebnis wie Alchemie vor.

Zweitens ist es für jedermann zugänglich. Während Funktionen dieser Art bisher nur Forschern und Datenwissenschaftlern zur Verfügung standen, ist ChatGPT die erste Anwendung, die für die breite Öffentlichkeit zugänglich und verständlich ist. Egal ob man ein 10-jähriges Kind ist, das Hausaufgaben macht oder ein Programmierer, der nach Tipps zur Programmierung sucht - ChatGPT ist für alle zugänglich und einfach zu benutzen.