KI-Organisation erfolgreich aufbauen: Das AI Center of Excellence in der Praxis

Künstliche Intelligenz verändert, wie wir arbeiten und stellt Unternehmen vor eine wichtige Frage: Wie bringt man diese Technologie nachhaltig, sicher und wirksam in die eigene Organisation?
Auch wir bei AKQUINET standen vor genau dieser Frage. Dabei haben wir Erfahrungen gesammelt, die weit über einzelne Technologien und Anwendungsfälle hinausgehen. Denn schnell wurde klar: Entscheidend ist auch, wie KI organisatorisch verankert wird.
Das ist die Geschichte unseres AI Center of Excellence mit Chancen, Herausforderungen und den Learnings, die wir dabei gesammelt haben.

Warum ein AI Center of Excellence?

Am Anfang stand keine Technologieentscheidung, sondern Strategie. Im Rahmen unserer strategischen Arbeit für die AKQUINET Gruppe haben wir eine KI-Strategie entwickelt.  Schnell war klar:
Die Grundlagen – Governance, Infrastruktur, Datenschutz und gemeinsame Standards – sollte nicht jede Business Unit für sich neu erarbeiten. Gleichzeitig wollten wir bewusst kein großes Zentralteam schaffen, das an der Praxis vorbeiplant. Der entscheidende Gedanke war ein anderer: Die Kompetenzen, um KI-Anwendungsfälle umzusetzen, hatten wir längst im Haus. Wir mussten sie zusammenbringen. Das beantwortete nicht nur die KI-Frage, sondern zahlte zugleich auf ein weiteres strategisches Ziel ein: mehr fachübergreifende Zusammenarbeit über die Grenzen einzelner Gesellschaften und Bereiche hinweg.

Der Start: eine Expertenrunde aus dem ganzen Unternehmen

Um herauszufinden, welche Voraussetzungen wir wirklich brauchen, haben wir eine Expertenrunde aus dem gesamten Unternehmen zusammengebracht – Menschen mit ganz unterschiedlichen Fach- und Rollenhintergründen. Begleitet wurde sie von Prof. Dr. Pascal Laube, einem externen Professor und KI-Berater, der wissenschaftliche Perspektive und praktische Erfahrung einbrachte.
Gemeinsam haben wir definiert, woran wir arbeiten müssen, und die Themen in vier Streams mit konkreten Arbeitspaketen gebündelt:

• Governance & Infrastruktur: einen sicheren, regelkonformen und skalierbaren Rahmen für den KI-Einsatz schaffen, Leitplanken statt Verbote.
• Use Case Management: sicherstellen, dass KI konkreten, priorisierten Business-Mehrwert schafft statt isolierter Einzelinitiativen.
• Knowledge Management: einen gemeinsamen, KI-gestützten Zugang zu Wissen für alle Bereiche schaffen.
• Enablement: Menschen und Teams befähigen, KI anzuwenden und ihr Wissen weiterzutragen.

Von der Struktur zur praktischen Umsetzung

Aus diesem Aufbau sind in kurzer Zeit konkrete Lösungen und Formate entstanden. Drei Beispiele zeigen, wie unterschiedlich diese aussehen können.

Mit einem AI-Test-Tenant und einem Playground haben wir eine sichere Umgebung geschaffen, in der neue KI-Technologien, Agenten und Anwendungsfälle außerhalb der produktiven Systeme ausprobiert werden können. So können wir neue Ansätze testen, ohne den laufenden Betrieb zu gefährden. Rund um Community und Wissensaustausch haben sich Formate etabliert, die den Austausch über Gesellschaftsgrenzen hinweg fördern, vom Hub-×-Spokes-Program-Board über einen AI Hackathon bis zu Schulungsangeboten.

Wissen fließt dabei in beide Richtungen: vom Hub in die Bereiche und aus der Praxis zurück. Aus interner Kompetenz sind außerdem konkrete Anwendungen entstanden. Ein Beispiel ist der ERP-Kompass, der die Auswahl und Bewertung komplexer ERP-Anforderungen KI-gestützt beschleunigt.

Unsere Learnings

Kompetenzen bündeln statt neu aufbauen

Unser größter Hebel war nicht neue Technologie, sondern das Zusammenführen von Wissen, das längst vorhanden war. Wer die eigenen Fähigkeiten sichtbar macht und vernetzt, kommt schneller voran als über den Zukauf von immer Neuem.

Den Hub bewusst schlank halten

Ein schlanker Hub mit klarer Verantwortung ist für unseren Ansatz entscheidend. Nicht die Größe der Zentrale ist ausschlaggebend, sondern wie gut sie die Bereiche befähigt.

Die Spokes als Brücke in die Bereiche nutzen

Die größte Herausforderung war nicht technischer, sondern menschlicher Natur: die Sorge, durch KI den Arbeitsplatz zu verlieren, die Angst, nicht mehr hinterherzukommen, und schlicht Überforderung. Hier sind die Spokes wichtige Brückenbauer. Transparenz, echte Einbindung und spürbare Entlastung im Alltag schaffen Vertrauen und können dazu beitragen, Vorbehalte abzubauen.

Use Cases konsequent priorisieren

KI ist kein Selbstzweck. Wir setzen sie dort ein, wo sie Prozesse vereinfacht, Qualität erhöht oder neue Potenziale erschließt und lassen bewusst weg, was nur nett zu haben wäre.

Was wir aus unserem bisherigen Weg mitnehmen

Heute verfügen wir über eine etablierte KI-Organisation mit klaren Verantwortlichkeiten, funktionierenden Governance-Strukturen, einer technischen Basis und einer aktiven Community. Der Weg dorthin hat vor allem gezeigt, dass der Aufbau einer KI-Organisation nicht allein eine technologische Aufgabe ist. Es geht ebenso darum, vorhandene Kompetenzen zusammenzubringen, Verantwortlichkeiten sinnvoll zu verteilen, Wissen auszutauschen und die Menschen in den Bereichen einzubeziehen. Für uns hat sich dabei ein schlanker zentraler Hub in Verbindung mit dezentralen Spokes als passendes Modell erwiesen.

Die wichtigste Erkenntnis bleibt: KI ist kein Selbstzweck. Entscheidend ist, Strukturen zu schaffen, in denen sinnvolle Anwendungsfälle sicher entwickelt, priorisiert und in die Praxis gebracht werden können.

Die Erfahrungen aus dem Aufbau unseres eigenen AI Center of Excellence fließen heute auch in die Arbeit mit anderen Unternehmen ein. Wie sich die einzelnen Bausteine, von Strategie und Governance über Use Cases bis zum Enablement, auf andere Organisationen übertragen lassen, haben wir unter AI as a Service zusammengefasst.