Generative AI einführen in acht Schritten

Generative Künstliche Intelligenz (GenAI) ist gekommen, um zu bleiben – und Unternehmen müssen entscheiden, wie sie damit umgehen. Eine vielversprechende und bereits praxiserprobte Möglichkeit: individualisierte Versionen von intelligenten Chatbots nach dem Vorbild von ChatGPT bereits einführen. Das hier skizzierte Vorgehen in acht Schritten basiert auf den Erfahrungen, die NTT DATA bei der Einführung seiner eigenen GenAI «GoodGPT» gemacht hat. Spoiler: GoodGPT war innerhalb von drei Monaten einsatzbereit.

«Learning by Doing» ist ein bewährter Grundsatz im Umgang mit innovativen Technologien. Allerdings bietet die Methode viele Möglichkeiten, vermeidbare Fehler zu machen. Wer schnelle Erfolge liebt, tut deshalb gut daran, sich zunächst mit Möglichkeiten und Grenzen von ChatGPT und Co. vertraut zu machen. So lassen sich unnötige Enttäuschungen vermeiden. Solche entstehen nämlich nahezu zwangsläufig, wenn Unternehmen sich Ziele setzen, die mit der verfügbaren Technologie nicht erreichbar sind. Gleichzeitig hilft dieses Grundverständnis von KI, ungerechtfertigte Bedenken zu entkräften. So etwa die Einschätzung, dass GPT-3.5, das KI-Modell hinter der frei verfügbaren Version von ChatGPT, nicht für die professionelle Nutzung geeignet sei.

Je konkreter die Zielsetzung formuliert ist, desto grösser die Wahrscheinlichkeit, brauchbare Ergebnisse zu erhalten. Typische Ziele, die sich mit heutigen GenAI-Lösungen gut erreichen lassen, sind beispielsweise:

• Synthetische Daten für Softwaretests erzeugen,
• Programmcode entwickeln,
• Ideen und Konzepte für Texte und andere Kommunikationsmedien entwickeln,
• Content zusammenfassen und
• Standardtexte im Bereich Sport- oder Wirtschaftsmeldungen erstellen.

Bei der Einführung von GoodGPT lag der Fokus auf der schnellen Implementierung einer sicheren und flexiblen generativen KI-Plattform mit einfachen und flexiblen Werkzeugen für eine Vielzahl von Anwendungsfällen.

Die Veränderungen, die KI im Arbeitsalltag der Mitarbeitenden von Unternehmen bewirkt, sind tiefgreifend. Ihren vollen Nutzen wird die Technologie jedoch nur entfalten, wenn sie bestmöglich genutzt wird. Dazu kommt es darauf an, Bedenken ernst zu nehmen, das Verständnis der neuen Technologie zu erleichtern, und die Menschen an der Einführung zu beteiligen – sowohl Betriebs- und Personalräte als auch die Mitarbeitenden an ihren jeweiligen Arbeitsplätzen. Aufklärung über die Funktionsweise, Mitwirkung an Regelungen zum Einsatz der KI und Hilfe bei der praktischen Anwendung, etwa durch Workshops zum Gestalten von wirkungsvollen Prompts, waren deshalb von Anfang an ein wichtiger Bestandteil des Projekts zur Einführung von GoodGPT.

GPT steht für Generative Pretrained Transformer, also ein vortrainiertes System ursprünglich zum Erzeugen von Text, das inzwischen auch auf andere Medien angewendet wird. Wie bei jedem KI-System hat die Auswahl der Daten, mit denen es trainiert wurde, erheblichen Einfluss auf seine Eignung zum Beantworten bestimmter Fragestellungen. Im Falle von ChatGPT beispielsweise wurde dafür ein gigantischer Pool von überwiegend englischen, frei verfügbaren Texten verwendet, die alle eins gemeinsam haben: Sie wurden vor 2022 veröffentlicht. Wenn es um aktuellere Fragen geht, bei denen auch Spezialwissen gefragt ist, das in einer seltenen Sprache hinter einer Bezahlschranke liegt, kann die frei verfügbare Version von ChatGPT ohne spezialisierte Plugins wenig helfen . Allerdings kann GenAI auch auf die unternehmenseigenen Daten angewendet werden und mit «Retrieval Augmented Generation» auch auf neue Daten zugreifen. Generell gilt auch für GenAI die alte Regel: Garbage in – Garbage out. Qualitativ hochwertige Ergebnisse sind nur auf Basis qualitativ hochwertiger und quantitativ ausreichender Daten zu erreichen. Wer zum Beispiel einen KI-basierten Chatbot im Support einsetzen will, sollte daher zunächst die Aktualität und Vollständigkeit der Datenblätter und Benutzerhandbücher prüfen, auf die der Bot zugreift.

Wer GenAI nutzt, um personenbezogene Daten zu verarbeiten, muss sicherstellen, dass dabei das Datenschutzrecht eingehalten wird. Die Erfahrungen der vergangen Monate haben gezeigt, dass urheberrechtliche Fragen ebenfalls zu beachten sind, die viele Mitarbeitende in ihrem bisherigen Arbeitsalltag nicht kennen: Welche Daten darf die KI benutzen, um neue Inhalte zu generieren? Wie muss sie darauf verweisen? Wer darf diese neu generierten Inhalte wofür nutzen? Manche dieser Fragen werden sich im Detail erst nach und nach beantworten lassen. Wichtig ist jedoch, ein Bewusstsein bei den Mitarbeitenden für das Thema zu schaffen. Und so viel ist schon heute klar: Unternehmen müssen in der Lage sein, nachzuweisen, welche Daten sie mit KI-Tools verarbeiten und dass sie die geltenden rechtlichen Bestimmungen einhalten – wie bei jeder anderen IT-basierten Anwendung auch.

Hinter den erwähnten rechtlichen Aspekten stehen grundlegende ethische Fragen, denen sich auch Unternehmen als Anwender stellen müssen. Wie viele Ressourcen darf KI verbrauchen? Welche Entscheidungen darf sie treffen? Wer darf sie wofür nutzen? Hier auf die Verabschiedung konkreter Gesetze zu warten, etwa den AI-Act der EU, wird die praktischen Herausforderungen des Themas nicht lösen. Umso wichtiger ist es, Verantwortung zu übernehmen und Mitarbeitenden und Kunden zu erklären, welche Werte beim KI-Einsatz im Unternehmen gelten. Beispiel Nachhaltigkeit: GenAI-Anwendungen können je nach Aufgabe unterschiedliche Instanzen einsetzen, deren Energieverbrauch der tatsächlich benötigten Rechenleistung angepasst ist, um den CO2-Fussabdruck der KI insgesamt zu minimieren.

Bei der Auswahl geeigneter Lösungen können Unternehmen inzwischen auf eine breite Angebotspalette zugreifen. Und neben den Grossen der Branche gibt es ein wachsendes Angebot an zusätzlichen Services wie beispielsweise ChatWithPDF, mit dem Anwender Dokumente bequem durchsuchen, auswerten und zusammenfassen lassen können. Das gilt auch für die Bearbeitung und Gestaltung von Bildern und Grafiken. Darüber hinaus gibt es Open Source Tools zum Erstellen einer individualisierten AI-Umgebung bereits in grosser Zahl – Tendenz steigend. Um die richtige Lösung zu finden, brauchen Unternehmen vor allem die Bereitschaft, mit innovativen Technologien zu experimentieren. Und Menschen, die auf der Suche nach neuen Wegen vorangehen und dabei jede Neuerung kritisch nach ihrem Nutzen für konkrete Problemlösungen hinterfragen. Denn nicht jedes Update bringt für jede Anwendung Vorteile.

Wie jede neue Technologie stellen auch GenAI und andere KI-Anwendungen die Verantwortlichen für die IT-Infrastruktur vor neue Herausforderungen. Die gute Nachricht: Für die technische Verknüpfung von GenAI mit den Datentöpfen des Unternehmens stehen im Umfeld der LLMs zahlreiche Tools bereit, die einen raschen Zugriff unterstützen. Die Herausforderung liegt hier eher in der Absicherung des Zugriffs auf die Ergebnisse der KI. Und im Schutz sensibler Daten vor unbefugtem Zugriff durch KI. Ein anderer wichtiger Punkt ist die Offenheit für zukünftige Entwicklungen. Denn auch wenn sich heute noch achtzig Prozent der Aufgaben von GoodGPT auf Basis von GPT-3.5 erledigen lassen: Sowohl die Anforderungen als auch die Systeme ändern sich schnell. Die Anwendung ist deshalb so aufgebaut, dass sich die einzelnen KI-Instanzen jederzeit durch ein anderes Large Language Model ersetzen lassen. Damit die Nutzer von GoodGPT auch in Zukunft von den heutigen Investitionen profitieren.