Head of Data Office and Platform AI
Führungskräfte suchen heute nach Lösungen für künstliche Intelligenz (KI), die die betriebliche Effizienz steigern, Kosten senken, strategische Entscheidungen verbessern und die Kundenbindung fördern.
Gartner schätzt, dass bis 2026 über 80 % der Unternehmen generative Künstliche Intelligenz (GenAI) über Programmierschnittstellen (APIs) oder durch die Bereitstellung von KI-Anwendungen genutzt haben werden – ein deutlicher Anstieg gegenüber weniger als 5 % im Jahr 2023. Angesichts der zunehmenden Bedenken hinsichtlich des Datenschutzes benötigen Unternehmen jedoch KI-Lösungen, um ihre Kunden- und Unternehmensdaten und -ressourcen zu schützen.
Private KI (engl. Private AI) bietet diese Lösung. Hier erfahren Sie, was hinter dem Begriff steckt, warum Unternehmen, die sich um den Datenschutz bemühen, davon profitieren und wie IT-Führungskräfte die Einführung von Private AI maximieren können.
Was ist Private AI?
Die heute beliebten GenAI-Modelle wie ChatGPT und Copilot können Unternehmen bei vielen Aufgaben unterstützen, z. B. bei der Datenanalyse, der Interaktion mit Kunden, der Bereitstellung von Output-Matching-Anwendungen und vielem mehr.
Allerdings fehlt bei diesen KI-Modellen die Transparenz darüber, wohin die Daten eines Benutzers gehen oder wie diese Daten verwendet werden, was zu Bedenken hinsichtlich des Datenschutzes führt. Führungskräfte, die GenAI-Modelle eifrig einsetzen, sind sich möglicherweise nicht bewusst, dass private, sensible Informationen an Dritte weitergegeben oder für das KI-Training verwendet werden könnten.
IT-Verantwortliche haben jetzt jedoch die Möglichkeit, eine private KI-Architektur zu verwenden, die Abfragen und Anfragen auf die interne Datenbank eines Unternehmens, SharePoint, API oder andere private Quellen beschränkt. Dieser Ansatz beinhaltet oft Retrieval-Augmented Generation (RAG), um sicher mit großen öffentlichen Modellen zu interagieren und organisationsspezifische, fundierte Antworten zu liefern.
Mit privater KI können Organisationen die Vorteile von KI und großen Sprachmodellen (Large Language Models, LLM) nutzen und gleichzeitig die Sicherheit ihrer Eingabedaten gewährleisten.
Private KI vs. öffentliche KI
Wir haben einen Wendepunkt erreicht, an dem KI für eine breite Akzeptanz ausgereift genug ist und ihre zunehmende Demokratisierung sowohl die Wirtschaft als auch die Gesellschaft. Wir müssen jedoch über die Möglichkeiten eines KI-Modells hinausblicken und uns damit befassen, wie es trainiert wird, woher seine Daten stammen und wo diese Daten gespeichert sind.
Die heutigen öffentlichen GenAI-Modelle wurden mit öffentlichen Datensätzen trainiert – GPT-3 beispielsweise mit 45 Terabyte Daten aus dem CommonCrawl-Datensatz. 1 Sie werden auch weiterhin mit neuen Daten trainiert, die Benutzer in die Modelle eingeben.
Dies stellt eine Herausforderung für Unternehmen dar, die KI-Initiativen einführen möchten, aber Bedenken haben, ihr geistiges Eigentum und ihre Kundendaten preiszugeben. Die in ein öffentliches KI-Modell eingegebenen Informationen werden dann in einer Datenbank eines Drittanbieters gespeichert und Drittanbietern zur Verfügung gestellt. Führungskräfte sind der Meinung, dass das größte Risiko bei der Einführung von generativer KI die Ungenauigkeit ist (56 %), aber an zweiter Stelle stehen Cybersicherheitsrisiken (53 %), das Risiko von Verstößen gegen das geistige Eigentum (46 %) und das Risiko für die Privatsphäre von Personen oder Einzelpersonen (39 %).
Firmen, die sich der Bedeutung von Datensicherheit bewusst sind, suchen nach Lösungen, die Privatsphäre, Kontrolle und Effizienz gewährleisten – eine davon sind private KI-Modelle.
Wie Retrieval Augmented Generation (RAG) private KI erleichtert
Die Einführung privater KI bedeutet nicht, dass eine Organisation ihr eigenes internes ChatGPT und die grundlegenden LLMs von Grund auf neu erstellen muss, um ihre Daten privat zu halten. RAG ist darauf ausgelegt, Sicherheit, Compliance, Datenschutz und Datensouveränität bei der Nutzung von KI zu gewährleisten.
Anstatt öffentliche Datensätze abzufragen, fragt ein KI-Modell zunächst die internen Datenbanken, Dokumentbibliotheken und andere Systeminformationen eines Unternehmens ab – wie bei einer Abfrage im Intranet eines Unternehmens. Sobald die KI diese Ergebnisse abgerufen hat, fügt sie sie der Abfrage hinzu und sendet sie an das öffentliche Modell. Mit RAG können Organisationen ihre Daten schützen und verhindern, dass sie öffentlich verwendet werden, während sie gleichzeitig zuverlässige Antworten von komplexen öffentlichen LLMs erhalten.
Unternehmen können noch einen Schritt weiter gehen, indem sie ihre eigenen Organisationsdaten an ein öffentliches KI-Modell anhängen und das Modell mit den spezifischen Daten ihres Unternehmens verfeinern. Natürlich ist dies teurer und komplexer als RAG, aber es ist wahrscheinlich eine Option, die Unternehmen in Zukunft nutzen werden.
Warum Unternehmen heute private KI einsetzen sollten
Private AI kann IT-Führungskräften, die neue KI-Lösungen für Unternehmen untersuchen, mehrere Vorteile bieten, darunter:
- Datenschutz: Der größte Vorteil von Private AI ist der Datenschutz, da sie Unternehmen, die Wert auf die Sicherheit sensibler Informationen legen, die Möglichkeit bietet, die Leistungsfähigkeit von KI zu nutzen.
- Kontrolle: Private AI bietet mehr Kontrolle darüber, wie Unternehmensdaten verwendet werden, wie auf sie zugegriffen wird und wer auf sie zugreift. Anstatt interne Daten an öffentliche Modelle zu senden, die möglicherweise offengelegt werden, können Unternehmen die Kontrolle über ihre Daten behalten und bei Bedarf Sicherheitsvorkehrungen treffen.
- Schnelligkeit und Einfachheit: Durch die Nutzung privater KI können Organisationen interne Backend-Systeme – Datenbanken, Customer Relationship Management (CRM) und Enterprise Resource Planning (ERP) – einfach über eine natürlichsprachliche Schnittstelle abfragen und so durch automatisierte Prozesse schnell und effizient Erkenntnisse und Antworten aus ihren Daten gewinnen.
- Einhaltung gesetzlicher Vorschriften: Durch die Kontrolle darüber, wo sich Daten befinden und wie sie verwendet werden, können Organisationen sicherstellen, dass sie die Datenschutzgesetze und -vorschriften wie die Datenschutz-Grundverordnung (DSGVO), den Health Insurance Portability and Accountability Act (HIPAA) und den California Consumer Privacy Act (CCPA) einhalten.
- Kundenvertrauen: In Anbetracht der Tatsache, dass 85 % der Verbraucher die Datenschutzrichtlinien eines Unternehmens vor einem Kauf kennen möchten und 46 % einen Markenwechsel in Betracht ziehen, wenn ein Unternehmen nicht transparent ist, wie es Kundendaten verwendet, können Unternehmen das Kundenvertrauen stärken, indem sie ihren Datenschutz durch private KI verbessern.
- Wettbewerbsvorteil: Wenn Unternehmen ihre KI-Fähigkeiten ausbauen, können sie sich einen Wettbewerbsvorteil verschaffen, indem sie Innovationen fördern und das Vertrauen der Kunden stärken. Die Erstellung domainspezifischer großer Sprachmodelle, die auf internen Daten trainiert werden, kann als sogenannter „Wissens-Hub“ dienen und diesen Vorteil weiter ausbauen.
Wie Unternehmen private KI einführen und skalieren können
Die besten Voraussetzungen für eine private KI-Infrastruktur zu schaffen, erfordert einige Vorbereitungen und ein gewisses Bewusstsein, einschließlich der folgenden ersten Schritte:
- Beginnen Sie mit der Datenqualität: IT-Führungskräfte können damit beginnen, die Qualität ihrer Unternehmensdaten sicherzustellen, da KI gute Daten benötigt, um effizient zu arbeiten. Die Daten sollten bereinigt, einheitlich organisiert und so aktuell und zeitnah wie möglich sein. Dies kann bedeuten, dass neue Verfahren zur Datenverwaltung und -hygiene eingeführt werden müssen.
- Schaffen Sie die richtige Umgebung: Bei der Vorbereitung ihrer technologischen Infrastruktur für die Einführung von KI geben 59 % der Führungskräfte an, dass sie nur mäßig, etwas oder gar nicht vorbereitet sind.2 Stellen Sie sich KI wie die Cloud vor, die eine erweiterte Rechen-, Netzwerk- und Speicherinfrastruktur erfordert. Die Anforderungen an die Energiedichte für KI können das Zehnfache dessen betragen, was traditionelle Rechenzentren verbrauchen.
Setzen Sie auf High-Performance-Computing (HPC) -Infrastrukturen, um KI-Anwendungen auszuführen, insbesondere High-Density-Colocation-Lösungen, die die Anforderungen an Stromversorgung, Sicherheit, Kühlung und Compliance für eine effiziente private KI-Infrastruktur erfüllen können.
Um Bedenken hinsichtlich der Datengravitation zu vermeiden, sollten Sie einen dezentralen Ansatz für die Edge-Datenverarbeitung wählen. Nutzen Sie einen privaten KI-Austausch über eine globale private Datenstruktur, um Optionen für Interkonnektivität und Datentransport zu einem breiteren Ökosystem von KI-Infrastruktur, Datensätzen, Diensten und Netzwerken zu erschließen.
Wenn IT-Führungskräfte diese Anforderungen an Private AI berücksichtigen, sollten sie sich auch fragen, ob ihre bestehende IT-Infrastruktur diese unterstützen kann, wie sie in bestehende Systeme integriert werden kann und ob sie in neue Plattformen oder Infrastrukturen investieren müssen.
- Stellen Sie ein Team zusammen und arbeiten Sie mit Experten zusammen: IT- und Engineering-Teams können die Daten für private KI-Angebote sammeln und vorbereiten. IT-Führungskräfte benötigen möglicherweise auch KI- oder Software-Ingenieure, wenn sie das KI-Modell weiterentwickeln, sei es beim Aufbau einer Schnittstelle für Natural Language Processing, einer einfachen Webanwendung oder eines Bots.
Aufgrund des Datenschutzes und der Zugriffsverwaltung sollten Teams für IT-Sicherheit in die Planung einbezogen werden. IT-Führungskräfte sollten bei der Entwicklung ihrer KI-Strategie auch das richtige Ökosystem von Partnern nutzen und extern nach Fachleuten suchen, die sich mit der einzigartigen Infrastruktur auskennen, die KI erfordert.
Vorbereitung auf die Zukunft der Unternehmens-KI
IT-Führungskräfte suchen nach Möglichkeiten, private Daten mit GenAI sicher zu nutzen, sei es für die Textgenerierung, den Kundenservice oder die Analyse und Entscheidungsfindung.
Da KI-Lösungen durch Standard- oder SaaS-Produkte immer weiter verbreitet werden, ist private KI der Weg in die Zukunft für Unternehmen, die dem Datenschutz Priorität einräumen und ihre Vermögenswerte, ihr geistiges Eigentum und ihre Kunden schützen wollen.
Wir erleben die Entwicklung der Unternehmens-KI hautnah mit. Um zu erfahren, wie Sie Ihre IT-Infrastruktur zukunftssicher gestalten können, lesen Sie unser neuestes Whitepaper: AI for IT Leaders.
Fußnoten:
1. Brown, T., et al., Language Models are Few-Shot Learners, 22. Juli 2020. https://arxiv.org/pdf/2005.14165.pdf
2. Deloitte LLP, Deloitte’s State of Generative AI in the Enterprise Quarter One Report, Januar 2024. https://www2.deloitte.com/content/dam/Deloitte/us/Documents/consulting/us-state-of-gen-ai-report.pdf

