KI-Workflows verstehen und implementieren für optimales Training und optimale Bereitstellung

Künstliche Intelligenz (KI) hat das Potenzial, Geschäftsabläufe grundlegend zu verändern und die Innovationsentwicklung branchenübergreifend und weltweit neu auszurichten.

Mehr als 75 % der gesamten jährlichen Auswirkungen generativer KI zeigen sich vor allem in Vertrieb und Marketing, in der Produktentwicklung, im Software Engineering und im Kundenservice. Diese Chancen können jedoch nur dann genutzt werden, wenn KI durchdacht und strategisch umgesetzt wird. 

Die Implementierung von KI ist ein strukturierter Prozess, der von CTOs, CDOs und CIOs gleichermaßen verlangt, neue Technologieanforderungen zu verstehen, ihre aktuelle Infrastrukturstrategie zu überdenken und Altsysteme zu bewerten. Damit KI wirklich effektiv sein kann, müssen IT-Verantwortliche eine Grundlage schaffen, die den Entwicklungs- und Bereitstellungsanforderungen der heutigen und zukünftigen KI-Modelle entspricht.  

Hierfür sollten IT-Verantwortliche die einzelnen Phasen von KI-Workflows strategisch betrachten. Diese Workflows beinhalten drei unabhängige Arten der Arbeit mit Daten: Datenaggregation, Training und Inferenz. Zu berücksichtigen ist, wie die einzelnen Systeme funktionieren und welche grundlegenden Elemente für einen reibungslosen Ablauf erforderlich sind. 

Drei Phasen von KI-Workflows und wie sie sich auf die IT-Infrastruktur auswirken  

Phase 1: Datenaggregation

Künstliche Intelligenz ist nur so gut wie die Daten, mit denen sie trainiert wurde. Die Datenaggregation beginnt mit einem ganzheitlichen Ansatz zur Erfassung, Bereinigung, Strukturierung und Speicherung von Daten, damit diese für das Training und die Nutzung von unternehmensweiten KI-Anwendungen eingesetzt werden können.

Um sicherzustellen, dass die Vorverarbeitung effektiv umgesetzt wird, empfiehlt es sich für IT-Verantwortliche, die folgenden Best Practices zu befolgen: 

1. Datenquellen identifizieren: Große Unternehmen erzeugen und erfassen umfangreiche Datenmengen, darunter Kunden- und Mitarbeiterdaten, operative und finanzielle Daten, Netzwerk-Logs, Intranet-Suchanfragen sowie Daten aus IoT-Sensoren. Damit KI Informationen und Antworten über ein Unternehmen bereitstellen kann, ist ein umfassendes Bild der Unternehmensumgebung erforderlich. Der erste Schritt besteht darin, herauszufinden, wo sich diese Datenquellen befinden.
2. Daten in einem zentralen System zusammenführen: Anschließend benötigen IT-Verantwortliche ein System, mit dem sich Daten aus unterschiedlichen Quellen, Datenbanken und Endpunkten erfassen und in einem zentralen Hub oder Repository bündeln lassen. Dies kann beispielsweise durch die Einführung eines Enterprise-Resource-Planning-Systems (ERP) oder eines Data Lakes erfolgen, die jeweils über direkte Datenbankverbindungen, Application Programming Interfaces (APIs) oder andere Datenquellen angebunden sind.
3. Daten bereinigen und strukturieren: Auch wenn die Daten zentral zusammengeführt wurden, liegen sie häufig nicht einheitlich formatiert vor. Sie können strukturiert sein (klar definiert und einheitlich, z. B. aus Datenbanken), semistrukturiert (organisiert, aber nicht vollständig governance-konform) oder unstrukturiert (unterschiedliche Datentypen). Zur Sicherstellung einer hohen Datenqualität empfiehlt es sich für IT-Verantwortliche Maßnahmen zur Datenhygiene umzusetzen, etwa standardisierte Formate und Benennungen zu verwenden, Daten auf Fehler zu prüfen und redundante oder veraltete Daten zu bereinigen. Dieser Schritt kann sowohl zeitaufwändig als auch kostspielig sein.
4. Daten-Governance etablieren: Zum Abschluss sollte ein standardisierter Prozess definiert werden, der das Datenmanagement steuert und festlegt, wie Daten geschützt werden und wer Zugriff darauf erhält. Dadurch wird sichergestellt, dass Ihre Datenqualität über die Zeit hinweg konstant bleibt. Bei umfangreichen Datenbeständen gilt es als Best Practice, die Datenverarbeitung an den Edge zu verlagern, um den Effekten der Datengravitation entgegenzuwirken.

Phase 2: Training

Auch wenn Unternehmen höchstwahrscheinlich nur auf Basismodelle zurückgreifen werden, die sie mit ihren eigenen Daten erweitern (anstatt eigene Modelle zu erstellen und zu trainieren), ist es wichtig, diese Phase der KI-Entwicklung zu verstehen.

Organisierte und saubere Datensätze sind eine Voraussetzung für das Training eines KI-Modells im Unternehmen. In der Regel verwenden Unternehmen ein Basismodell wie das GPT-4-Modell von OpenAI und trainieren oder „prompt-tunen“ dieses anschließend mit internen Daten weiter, sodass die KI sowohl allgemeines als auch unternehmens- und fachspezifisches Wissen abbildet. Dieser Trainingsablauf kann wie folgt aussehen:

1. Das richtige Modell auswählen: Nicht jedes KI-Modell erzielt die gleiche Leistung oder eignet sich gleichermaßen für die spezifischen Daten eines Unternehmens. Zunächst sollten IT-Verantwortliche den Anwendungsfall für den Einsatz von KI definieren. Datenanalyse? Kundenservice? Betriebliche Effizienz? Dies hilft bei der Auswahl der richtigen KI-Architektur, des Algorithmus und der Parameter für Ihre geschäftlichen Anforderungen.
2. Mit einer Aufgabe beginnen: Bringen Sie dem neuen KI-Modell anschließend bei, eine bestimmte Aufgabe mithilfe eines Trainingsdatensatzes aus der Datenaggregationsphase auszuführen. Dadurch kann das KI-Modell Muster und Zusammenhänge in den Daten erkennen. Sobald das KI-Modell zu lernen beginnt, können diejenigen, die es trainieren, seine Parameter anpassen, um es präziser und effektiver zu machen.
3. Testen und evaluieren: Testen Sie das Modell weiterhin, um sein Wissen zu stärken und zu vertiefen. Beginnen Sie damit, die Tests auf zusätzliche Datensätze auszuweiten und beobachten Sie, wie sich das System anpasst und optimieren Sie es gegebenenfalls. Bewerten Sie die Leistung während des gesamten Testprozesses, um sicherzustellen, dass das System wie erwartet funktioniert und die Anforderungen an Genauigkeit, Trefferquote, Präzision und andere notwendige Bewertungskriterien erfüllt.
4. Leistung validieren: Jetzt ist der richtige Zeitpunkt, die Leistung der KI anhand eines neuen Validierungsdatensatzes zu bewerten, um zu sehen, wie sie gelernt hat. Es ist an der Zeit, die Parameter abzustimmen und das KI-Modell für den Einsatz in Unternehmen vorzubereiten.

 Phase 3: Inferenz

Jetzt ist es an der Zeit, die KI einzusetzen! In dieser Phase ist das KI-Modell bereit für den Einsatz in verschiedenen Anwendungen und Anwendungsfällen. Dort wird es seine Inferenzfähigkeiten nutzen, um Vorhersagen oder Entscheidungen auf Basis neuer Datensätze zu treffen.

Allerdings sollten Sie die KI nicht einfach bereitstellen und sie ungeprüft arbeiten lassen. Etablieren Sie einen Prozess für eine kontinuierliche Validierung, um sicherzustellen, dass das KI-Modell präzise ist und umsetzbare Ergebnisse liefert, insbesondere um sich gegen etwaige „Halluzinationen“ abzusichern, die Geschäftsauswirkungen haben könnten. Dieser Prozess der Überwachung eines Algorithmus in der Produktion ist allgemein als Modellbeobachtbarkeit bekannt.

Zum Beispiel beschreibt die Harvard Business Review, wie Morgan Stanley „eine Reihe von 400 ‚goldenen Fragen‘“ hat, deren Antworten bekannt sind und die als fortlaufender KI-Genauigkeitstest verwendet werden. Wenn sich die Antworten der KI auf diese goldenen Fragen ändern, wissen sie, dass sie das Modell neu abstimmen müssen.

Bewältigung von KI-Workflow-Herausforderungen

Im Idealfall verläuft die Implementierung von KI im Unternehmen reibungslos, von der Datenstrategie über das Training bis hin zum Rollout. Allerdings sollten sich IT-Verantwortliche dabei der folgenden Herausforderungen bewusst sein.

• Schlechte Datenqualität: KI ist nur so gut wie die Daten, auf denen sie trainiert ist, und unstrukturierte oder unformatierte Daten oder sogar ein Mangel an Daten aus dem gesamten Unternehmen ermöglichen es dem KI-Modell nicht, wie nötig zu lernen oder zu funktionieren. Laut IBMs „Global AI Adoption Index 2023“ ist „zu viel Datenkomplexität“ die zweitgrößte Hürde für eine erfolgreiche KI-Einführung. Deshalb ist es wichtig, zunächst die oben beschriebenen Schritte zur Erstellung eines Datenmanagementplans einzuleiten.
• Mangel an Hardware: Der schnelle und effiziente Betrieb von KI erfordert Computerhardware, die den Anforderungen gerecht wird – und ein Mangel daran wirkt sich auf Leistung und Geschwindigkeit aus. High-Performance-Computing-Hardware (HPC) kann die KI-Anforderungen von Unternehmen zuverlässig unterstützen, insbesondere in der latenzsensitiven Inferenzphase, indem Simulations- und Modellierungsumgebungen durch Parallelverarbeitung ermöglicht werden. Zudem wird im Vergleich zu älteren Hardware-Generationen deutlich weniger Rackfläche benötigt.
• Schwache Infrastruktur: Neben der Hardware benötigt KI die richtige Infrastruktur, um optimal funktionieren zu können. Dazu gehört die richtige Leistungsdichte, die bei KI fünf- bis zehnmal höher sein kann als bei anderen Systemen, die mit veralteter Infrastruktur betrieben werden. Mit dieser Zunahme der Rechenleistung erfordern KI-Workflows auch eine spezielle Kühlung für das Rechenzentrum.
• Steigende Kosten: KI-Investitionen können für ein Unternehmen kostspielig sein, sowohl in Bezug auf die Entwicklung als auch die zugrunde liegende Infrastruktur und Hardware. Eine Möglichkeit, KI kosteneffektiver zu machen, besteht darin, sicherzustellen, dass KI-Implementierungen und -Projekte mit den Geschäftszielen übereinstimmen und dass KI-Anwendungsfälle dem Wachstum und der Wirkung des Unternehmens zugutekommen. Proof-of-Concepts (POCs) werden häufig eingesetzt, um vor Beginn eines Projekts einen quantifizierbaren Nutzen nachzuweisen.
• Komplexer IT-Betrieb: KI-Workflows erfordern viele neue betriebliche Überlegungen im IT-Bereich, einschließlich eines strategischen Ansatzes für Datenmanagement und Interkonnektivität, Zeitaufwand für Schulungen und entsprechende Hardware und Infrastruktur. Ebenso erforderlich ist ein strategischer Umgang mit Teamstrukturen und Kompetenzen, um sicherzustellen, dass ausreichend Fachwissen für neue KI-Rollouts verfügbar ist. Laut dem oben genannten IBM-Bericht sind eingeschränkte KI-Kenntnisse und fehlende Expertise die größte Hürde bei der Einführung von KI. 

Die Grundlage für KI auf Enterprise-Ebene

Für KI in Unternehmen bieten sich heute enorme Chancen – die sich jedoch nur bei erfolgreicher Implementierung ausschöpfen lassen. Es beginnt mit dem Aufbau eines strategischen Programms zur Datenaggregation, um Daten effizient zu sammeln, zu verarbeiten und zu speichern. Anschließend werden diese Daten verwendet, um das KI-Modell zu trainieren, damit es sich mit domänenspezifischem Wissen, Mustern und statistischen Zusammenhängen vertraut macht. Schließlich sollte sichergestellt werden, dass ein Plan zur Bewertung der Leistung und zur Verfolgung von Kennzahlen nach der Bereitstellung und dem realen Einsatz der KI vorhanden ist. 

Diese drei Phasen der KI-Workflows bilden die Grundlage, auf der Unternehmen Innovationen aufbauen können.

Möchten Sie lernen, wie Sie KI erfolgreich implementieren können, um Ihr Unternehmen gut für die Zukunft aufzustellen? Laden Sie noch heute „AI for IT Leaders: Deploying a Future-Proof IT Infrastructure“ herunter.