Die nächste GenAI-Revolution ist da. Jetzt können auch Konzerne generative KI nutzen:

„ChatGPT war für die KI-Nutzung in Unternehmen nur ein Vorbote im Vergleich zu dem, was Copilot verändern wird.“ Dieser Satz eines Microsoft-Experten neulich beim Afterwork-Bier nach einer Digitalkonferenz klingt im ersten Moment entweder nach Größenwahn oder nach guten Corporate Marketing.

Die Wahrheit ist: Es ist wohl keines von beiden – er hat vermutlich einfach Recht. Microsoft Copilot besitzt das Potenzial, die Arbeit mit Generativer KI (GenAI) in Unternehmen in einem Maße zu verändern, das weit über ChatGPT und andere Tools hinausgeht. Vor allem Mitarbeitende in Konzernen, deren Datenschutzabteilungen viele der neuen Tools bisher verboten hatten, werden profitieren.

Dieser Blogpost erklärt, 

• wie der Copilot mit den restlichen Microsoft-Anwendungen zusammenspielt
• welche Tools besonders profitieren
• wann und zu welchen Bedingungen Copilot in Deutschland verfügbar sein wird
• wie sicher Copilot hinsichtlich Datenschutz und Cyberattacken ist
• wo die Idee von Konzern-internen KIs an Grenzen stößt   

Wie spielt der Copilot mit den restlichen Microsoft-Anwendungen zusammen?

Copilot unterscheidet sich in einer Hinsicht ganz grundsätzlich von den aktuell so populären GenAI-Anwendungen wie ChatGPT, Midjourney oder DeepL: Es ist kein singuläres Tool oder gar nur eine weitere Office-Applikation wie etwa Excel. Copilot ist eine generelle, ganz grundlegende Funktion im neuen Windows 11. Microsoft selbst spricht von

„einem KI-gestützten, intelligenten Assistenten, der Ihnen hilft, Antworten und Inspirationen aus dem Internet zu erhalten, Kreativität und Zusammenarbeit zu unterstützen und sich auf die anstehende Aufgabe zu konzentrieren“.

microsoft.com

Dieser Assistent wird in diversen Apps zur Verfügung stehen, darunter allen 365-Programmen von PowerPoint bis Teams, aber auch in Paint, im Snipping Tool und in der Windows-Oberfläche selbst. Copilot setzt auf ChatGPT auf. Dank seiner 10-Milliarden-Dollar-Beteiligung am Hersteller OpenAI hat sich Microsoft schließlich exklusive Nutzungsrechte an dem Chatbot gesichert. Daher ist GPT, das Large Language Model (LLM), das ChatGPT zugrunde liegt, auch bereits in der hauseigenen Suchmaschine Bing integriert. 

Weitere Programme, in die der Copilot integriert ist, sind beispielsweise Microsoft Viva und Dynamics. Auf sie alle einzugehen, würde jedoch den Rahmen hier sprengen.

Interessant dürfte eine Funktion sein, die Microsoft noch nicht so offensiv vermarktet, die aber in die Zukunft von GenAI blicken lässt: Mit dem Copilot kan man reden – wie mit Siri oder Alexa.

Welche Microsoft-Tools profitieren besonders vom Copilot?

Aus Marketing- und Kommunikationssicht werden vor allem drei Programme aufgewertet: Word, PowerPoint und Teams. Für Datenanalyst:innen bietet das KI-basierte Excel zudem ganz neue Optionen.

Der Microsoft Copilot bringt GenAI nun auch in die Konzernwelt. Echten Mehrwert liefert er aber nur, wenn auch – um im Bild zu bleiben – KI-fit ist.
Bild: Dall-E

Word: Das, was ChatGPT, Perplexity oder Anthropics Claude heute leisten, findet fortan direkt in der Textverarbeitung Word statt. Sie haben eine vierseitige Vorstandsrede und wollen diese auf die drei Kernaussagen reduziert in eine Mail verwandeln? Klicken Sie auf das Copilot-Symbol in der oberen Navigationsleiste, geben den entsprechenden Befehl (aka Prompt) ein und Sie erhalten direkt im Dokument die entsprechende Kurzfassung. Wollen Sie einen Satz ändern, markieren Sie diesen, fordern via Copilot eine alternative Formulierung an – erledigt.
Alle anderen aus ChatGPT bekannten Features wie Übersetzungen, Textergänzungen usw. beherrscht Copilot ebenfalls – verständlicherweise, da er ja auch ChatGPT basiert.  Neu ist bei der Textverarbeitung also weniger, was nun möglich ist – neu ist die Rechts- und Datenschutzsicherheit und damit Konzerntauglichkeit, die bisherige Chatbots nicht geboten haben. 

In PowerPoint hingegen eröffnet KI tatsächlich neue Potenziale. Previews von Microsoft zeigen, wie Copilot in PowerPoint Präsentationen allein durch die Auswertung von Textdokumenten konzipiert und gestaltet. Sie wollen also die erwähnte vierseitige Vorstandsrede in ein Slidedeck verwandeln, das der CEO parallel zum Vortrag durchklicken kann? Dann laden Sie die Word-Datei hoch, präzisieren eventuell noch Ihre Anfrage (Seitenzahl, Design, Bildwelt), und das System liefert einen entsprechenden Draft.
Die Cases, die wir gesehen haben, waren nie perfekt und gerade mit Blick auf das Corporate Design teilweise fehlerhaft. Trotzdem erspart man sich Zeit, und zugleich sollte /man sich vergegenwärtigen, dass wir es mit Tools zu tun haben, die gerade erst auf den Markt kommen. Und dafür ist die Qualität schon beeindruckend.

Ganz neue Funktionen in PowerPoint und Teams

Gleiches gilt für Teams. Der Business-Chat profitiert enorm von der KI-Erweiterung. Angenommen, Sie kommen aus einer Woche Urlaub zurück und wollen nicht alle Threads nachlesen. Dann kann Copilot die in der Zwischenzeit aufgelaufenen Teams-Nachrichten nach Relevanz auswerten oder filtern – etwa danach, ob für Sie relevante Deadlines genannt sind oder ob Sie und für Sie wichtige Menschen zusammen getaggt sind. Ähnlich funktioniert der Copilot übrigens in Outlook. Außerdem kann die KI Protokolle von Teams-Chats erstellen und To-Do-Listen ausgeben.

Falls die meisten Features für Sie gar nicht so spektakulär klingen, der haben Sie – ganz einfach gesagt – schlichtweg recht. Denn neu beim Copilot ist, wie oben schon angedeutet, weniger, was die KI kann. Neu ist vor allem, dass jede:r in der Konzernwelt GenAI durch die Einbettung in die Microsoft-Umgebung nun rechtssicher nutzen kann. Und das ist der ganz große Hebel.

Wie bei allem GenAI-Systemen gilt auch hier: Gute Ergebnisse erhält nur, wer professionell promptet, also präzise und vollständige Befehle eingibt. Wie Sie das lernen und das Wissen in der Organisation möglichst effektiv teilen, das zeigen wir Ihnen in unseren Prompting-Workshops.

Wann wird Copilot in Deutschland verfügbar sein?

Angeblich schon sehr bald: „Nach Monaten des Lernens freuen wir uns, (…) dass Microsoft 365 Copilot am 1. November allgemein für Unternehmenskunden verfügbar sein wird“, hat Microsoft unlängst vermeldet. Allerdings wird es Einschränkungen geben. So müssen Unternehmen …  

1. Microsoft Enterprise nutzen
2. diverse Voraussetzungen beim Microsoft-Setup erfüllen, u.a. hinsichtlich OneDrive-Account und Software-Updates. Hier die Kurzübersicht von Microsoft auf englisch.
3. bezahlen – und zwar einiges: Die vollständige Copilot-Integration wird für Firmenkunden voraussichtlich 30 Dollar pro Nutzer:in und Monat kosten. Schon für kleine Organisationen wie unsere Muttergesellschaft In A Nutshell, mit knapp 45 Accounts, wären dies umgerechnet mehr als 15.000 Euro pro Jahr

Wie sicher ist Copilot mit Blick auf Datenschutz und Cyberattacken? 

ChatGPT hatten zahlreiche Unternehmen verboten, da es in puncto Datenschutz viele Corporate-Standards reißt. So werden die Daten auf US-Servern gespeichert, sodass jede Eingabe personenbezogener Informationen einen DSGVO-Verstoß darstellt. Zudem hat OpenAI an allen eingegeben Daten ein Mitbenutzungsrecht, um sie für das Training der eigenen Sprachmodelle zu nutzen. 

Theoretisch können Informationen, die man eingibt, sogar wieder anderen Nutzer:innen als Antworten auf deren Anfragen ausgegeben werden. „Theoretisch”, weil alle Large Language Models Wörter nach dem Wahrscheinlichkeitsprinzip aneinanderreihen und nicht nach Fakten suchen. Allein das potenzielle Risiko reicht aber – zu Recht – schon aus, um Datenschützer zu alarmieren. 

Andere GenAI-Systeme sind mit Blick auf Cyberattacken riskant, weil sie nach dem Open-Source-Modell aufgebaut sind, also theoretisch jede:r den Code verändern kann.

Copilot löst auch die DSGVO-Sorgen, die GenAI bisher gebremst haben

Microsoft ist auch deswegen der Konzern-Standard, weil es in den Enterprise-Versionen diese Probleme gelöst hat. Auch Copilot entspricht den „bestehenden Datenschutz-, Sicherheits- und Compliance-Verpflichtungen gegenüber kommerziellen Microsoft 365-Kunden“, verspricht das Unternehmen – einschließlich der DSGVO. Daten, die Kunden eingeben, würden nicht für das Training der eigenen Sprachmodelle verwendet.

Auch interne Rechte- und Rollenlogiken würden berücksichtigt, so Microsoft, sodass jede:r User:in nur die Organisationsdaten sehen kann, für die er oder sie zumindest Leserechte hat. Mehr zum Thema Datensicherheit beim Copilot steht hier.

In einer Hinsicht bleibt Microsoft allerdings seiner Linie treu und stur – einfach so rauswerfen kann man den Copilot nicht. Er lässt sich deaktivieren, vollständig deinstalliert bekommt man ihn allerdings nur mit Admin-Rechten plus IT-Kenntnis über den „Registry Editor“.

Wo stößt die Idee von Konzern-internen KIs an Grenzen?

Beim Thema Datenqualität: Die führenden Large Language Models sind deswegen so gut, weil sie mit extrem vielen Daten gefüttert worden sind. Bereits in das GPT-3-Modell von OpenAI sind mindestens – genauere Zahlen finden sich nicht – 45 Terrabyte Daten eingeflossen – aus Büchern, Website-Scans, Twitter, Reddit und Wikipedia. Die Datenmenge entspräche etwa 3 Milliarden vollgeschriebenen Seiten Word. Entsprechend gut funktioniert das Modell. Denn es hat, nach jahrelangem Training, quasi zu jeder Anfrage genug „Wissen“, um statistisch – und damit meist auch faktisch – korrekte Antworten zu liefern.

Kein Unternehmen der Welt aber besitzt derart viele Daten und hat genug Zeit, um ein LLM auch nur annähernd so gut zu trainieren. Und genau daher werden Konzern-KIs anders aufgesetzt: Die aktuell vielversprechendste Lösung heißt „Retrieval Augmented Generation“ (RAG). Auf Deutsch übersetzt: Das LLM erzeugt die Antwort erst nach einer vorgeschalteten Datenanreicherung.

Unternehmen haben zu wenig Daten, um große Sprachmodelle wirklich sinnvoll zu trainieren

Bevor die generative KI anspringt, stellt das System zunächst fest, welche Firmendaten zu dem Thema vorhanden sind und welche davon die besten sind. Einzig und allein diese nutzt das LLM dann für die Antwort. Fragt man beispielsweise nach den aktuellen Finanzzahlen, sollte das System nur den letzten Jahresbericht und die zugehörige Pressemitteilung zulassen, nicht aber die Veröffentlichungen vom Jahr zuvor.

Das RAG-Prinzip ist eine Antwort, hilft allerdings nur, wenn klar identifizierbare Daten vorliegen. Microsoft hat eine weitere Logik entwickelt, den sogenannten Semantic Index, der passende Dokumente auch dann findet, wenn sie auf den ersten Blick nicht zum Thema passen. Hier wird das Prinzip kurz bei YouTube erklärt.

Auch das dürfte jedoch nicht ausreichen, so dass wir vermutlich eine Art von Blended Intelligence brauchen, in der AI und humane Intelligenz einander halbautomatisiert ergänzen. Dazu aber mehr im nächsten Blogbeitrag.

Sie wollen den Copilot bei sich im Unternehmen nutzen? Sprechen Sie uns an – wir helfen bei Einrichtung, Roll-out und Schulungen!