So bauen Sie den eigenen Chatbot für Ihre Firma

Die Antworten, die Sie von ChatGPT oder Perplexity bekommen, sind Ihnen zu austauschbar? Dann gilt: Do it yourself! Unser Geschäftsführer Timm Rotter erklärt in der neuen Folge unserer Kolumne „KI für Könner“ in W&V, wie Sie für die tägliche Arbeit mit Text und Wissen einen eigenen, individuellen KI-Bot bauen. Hier eine leicht gekürzte Version: 

„ChatGPT ist super geeignet, wenn man die Hausaufgaben der Kinder machen oder ein Gedicht für Oma schreiben will.“ Dieses vergiftete Lob stammt von Jonas Andrulis, CEO der KI-Firma Aleph Alpha, dem einzigen ernsthaften deutschen Wettbewerber der führenden US-Bots.

Was Andrulis meint: Das Wissen, das in den gängigen Sprachmodellen steckt, ist zwar gigantisch, aber eben sehr allgemein. Zudem verraten die GenAI-Tools in der Regel nur bruchstückhaft, woher sie Informationen haben. Und auf Nachfrage gibt es – gerade bei ChatGPT – oft falsche Quellen. 

Fehlendes spezifisches Wissen und mangelnde Verlässlichkeit – beides zusammen hat vielen professionellen Nutzern die Arbeit mit KI-Chatbots verleidet. 

Dazu kommt, dass sie für individuelle Use Cases, die Firmen-Know-how benötigen, ohnehin ungeeignet sind, weil sie das Wissen nicht haben. Und die entsprechenden Unterlagen – etwa ein Pitch-Deck oder euer Onboarding-Manual – bei ChatGPT reinzukippen, ist schon aus Datenschutzgründen ein No-Go.

Die Lösung heißt: Do it yourself

Daher: Bauen Sie doch Ihren eigenen GenAI-Bot! Die Technologie ist da, und einige Ansätze sind auch für Nicht-ITler nutzbar. Das Stichwort heißt No-Code- bzw. Low-Code-Programmierung (die Hintergründe sprengen hier den Rahmen – sich aber vollumfänglich bei uns im Blog nachzulesen).

Aus der Erfahrung unserer Projekte hier drei Wege zum eigenen Bot – jeweils mit Vor- und Nachteilen. Der Fokus liegt auf der Arbeit mit Text und Wissen:

1. Das eigene GPT in ChatGPT

Jeder, der das Bezahlabo „ChatGPT Plus“ hat, kann eigene Chatbots in ChatGPT bauen. Einfach links oben in der Seitenleiste auf „Explore GPTs“ gehen, dann rechts auf den „Create“-Button, und Sie gelangen direkt auf eine Setup-Oberfläche. Hier können Sie im Dialog mit ChatGPT Ihren Bot individualisieren, sein Verhalten definieren und Dokumente hochladen, auf die er zugreifen soll. Es gibt noch erweiterte Einstellungen – dazu finden sich im Netz sehr gute Tutorials. Mir hat etwa dieses hier zuletzt geholfen.

Bei uns in der Agentur In A Nutshell, dem Mutterunternehmen von disruptive, haben wir beispielsweise einen Bot gebaut, der das gesamte Wissen zu unserer kaufmännischen Software enthält. Im Dialog hilft er Mitarbeitenden, wenn sie bei der Projektanlage oder beim Controlling nicht weiter wissen. Und bei einem Kunden setzen wir gerade ein eigenes GPT auf, das die Texte für die neue Website schreiben wird.

Vorteile

  • bekanntes Interface
  • keinerlei Programmierkenntnisse vonnöten (zumindest in der Basisfunktion)
  • Kostenlos, abgesehen vom ChatGPT-Account

Nachteile

  • Unberechenbarkeit: Es ist immer wieder vorgekommen, dass das GPT auf die im Dialog definierten Vorgaben anders reagiert als erwartet oder aber vorher Definiertes überschreibt. Es gibt keine Code-Zeile, die man dann löschen oder reparieren kann – und dem Tool Verhalten wieder abzutrainieren, ist oft schwierig. Daher: Gerade eigene GPTs wollen sehr präzise gepromptet werden!
  • Datenschutz: OpenAI hat zwar versprochen, dass es GPTs von Enterprise-Abonnenten nicht anzapft, um das eigene Large Language Model weiterzuentwickeln. Über US-Server laufen die Daten dennoch – was alle DSGVO-Wächter alarmiert.
  • Analytics-Auswertungen erfordern kostenpflichtige Plugins wie GPT Wallets (5 €/Monat). Damit kann man die App sogar kostenpflichtig machen – was in unserem Case allerdings zweitrangig ist.

Fazit

Es ist die intuitivste und einfachste Lösung am Markt. Der Funktionsumfang ist allerdings beschränkt (bspw. zeigt mir ein GPT nicht die PDF-Seite eines in die Datenbank hochgeladenen Whitepapers an, aus der es gerade zitiert) und nur begrenzt erweiterbar. Wir nutzen GPTs vor allem als grundlegende Wissensdatenbanken oder für Textarbeiten. Zudem haben wir mit „Bedtime Stories“ ein persönliches, interaktives Gute-Nacht-Geschichten-GPT entwickelt.

2. Chatbots auf Basis von Prozessautomatisierungs-Tools

Tools wie Make.com oder Zapier bieten seit einiger Zeit die Möglichkeit, eigene KI-Bots aufzusetzen. In Zapier, unserer Nummer eins in Sachen Prozessautomatisierung, gibt man Rollen, Verhalten, URL und Namen vor. Programmieren muss man nicht können. Im Vergleich zu ChatGPT lässt sich der Bot deutlich individueller aufsetzen. Das große Manko: Selbst im „Premium“-Modus (19 €/Monat) können Sie nur eine Datei als Datenquelle hochladen. Links zur eigenen Datenbank oder zum Cloud-Server, über die der Bot aktuelles Wissen anzapfen könnte, sind nicht zulässig.

Vorteile

  • Individuelles Setup
  • Gute Verzahnung zwischen Bots und weiterer Prozessautomatisierung – bspw. haben wir einen „Nutshell-Concierge“ als Wissensdatenbank erstellt, der dem Nutzer automatisch weitere Dokumente aus der Cloud anbietet, die zu seiner Suche passen

Nachteile

  • Nicht DSGVO-konform
  • nur eine statische Wissensquelle
  • Teuer

Fazit

„Führt zur Abwertung“ schreibt Stiftung Warentest, wenn ein Produkt aufgrund eines speziellen Mankos sofort durchfällt: Aus meiner Sicht ist das hier der Fall: Selbst im 95 €/Monat-„Advanced“-Abo kann man aktuell nur drei Quellen nutzen – in Zeiten, wo vermeintlich neues Wissen noch am gleichen Tag veraltet, ist das zu wenig. Sollte Zapier dieses Manko beheben, kann das Tool aufgrund der Automatisierungs-Features wirklich mächtig werden.

3. Copilot

Microsoft hatte in seinem KI-Bot Copilot auch die Option, eigene GPTs zu bauen – schafft diese Funktion jedoch Anfang Juli ersatzlos ab. Also: hier keine Energie mehr reinsetzen!

Zumal es eine viel bessere Lösung gibt: Die Microsoft-KI selbst lässt sich sehr gut zum „eigenen“ Bot weiterentwickeln. Voraussetzung ist, dass man die Enterprise-Version nutzt (337 €/Jahr), denn nur die kann auf Daten der eigenen Organisation zugreifen, die in Office 365 abgelegt sind. Die wichtigste Hürde: dass Sie diese Daten gut strukturieren und jede:r Nutzer:in den richtigen Zugriff hat – was im Fall vertraulicher Daten auch „kein Zugriff“ bedeuten kann (Rechte-/Rollen-System). 

Besonders mächtig ist der Copilot als Wissensdatenbank, denn das Tool durchforstet nicht nur Dokumente, Tabellen und Präsentationen, sondern auch Teams-Chats, Kalendereinträge und Mails. 

Programmieren muss man hier ebenfalls nichts. Umso wichtiger ist es, die Nutzer zu sensibilisieren, dass das System dann umso hilfreicher wird, wenn sie Ihr Wissen teilen. 

Vorteile

  • DSGVO-konform, wenn man seine Microsoft-Instanz entsprechend hostet
  • Unbegrenzter, tagesaktueller Zugriff auf Organisations-Daten
  • Großes Vertrauen von IT- und Legal-Abteilungen in Microsoft
  • sehr gute Quellennachweise mit Links zu den jeweiligen Daten/Dokumenten

Nachteile

  • teuer, da aktuell jeder User 337 €/Jahr zahlt

Fazit:

Das aufwändige Setup beim Datenmanagement mag abschrecken, aber diese Einmal-Aufwände werden alle Unternehmen auf sich nehmen müssen, wenn sie effizient mit GenAI arbeiten wollen. Insofern: Wer früh startet, hat Vorteile gegenüber der Konkurrenz. Mein Rat: mit einem klar abgrenzbaren Pilotprojekt starten und dabei das Datenmanagement üben – wie wir es gerade mit der HR-Abteilung eines Kunden machen, wo wir Copilot im Onboarding neuer Mitarbeitenden nutzen. 

Übrigens hat Microsoft für Profis noch eine andere Lösung parat – mit der OpenAI-Integration in Azure. Das nur als Stichwort für Entwickler und System-Admins, da hier echte IT-Kenntnisse nötig sind.

Darum sollten Einsteiger erst einmal mit ChatGPT starten

Für erste Gehversuche im No/Low-Code-Metier sind Custom GPTs großartig: leicht aufzusetzen und sofort einsatzfähig. Aktuell geht es ja in vielen Unternehmen darum, die Business-Potenziale von GenAI zu finden und mit entsprechenden Cases Überzeugungsarbeit zu leisten. Das funktioniert hervorragend mit einem GPT, das Wissen bündelt oder zu einem klar abgegrenzten Thema Content erstellt. 

Bald danach stößt diese Option an Grenzen. Das aber müssen Sie, Ihren Kollegen oder Chefs ja nicht direkt sagen – denn wenn Sie die Neugier einmal geweckt haben, bekommen Sie vermutlich auch eher den Support für eine komplexere Lösung.

Bild-Credit: disruptive / Midjourney

Kommentar verfassen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Nach oben scrollen