Ist der KI-Hype noch ungebrochen oder sollte sich diesbezüglich bereits Ernüchterung einstellen? Man mag den Eindruck gewinnen, Letzteres träfe zu. Denn zwischen erster Experimentierphase bis effizientem Echteinsatz liegt ein oftmals weiter, eher beschwerlicher Weg. Markus Eisele, Developer Strategist bei Red Hat, zeigt auf, mit welchen Konzepten und Plattformen Unternehmen einen erfolgreichen KI-Einsatz erzielen.
Nicht wenige Unternehmen stehen derzeit vor der Herausforderung, KI-Modelle effizient und sicher in die Produktion zu transferieren. Zentrale Fragen lauten dabei: Wie kann dies aus Sicht der Software-Entwickler erfolgen und wie können die beiden Welten der Entwickler und Data Scientists verbunden werden? Das zentrale Bindeglied kann dabei eine Plattform sein, welche eine Professionalisierung von DevOps („Brückenbauern“) mittels Platform Engineering und Integration von MLOps (Machine Learning Operations) unterstützt.
Blickt man in die Vergangenheit, so hat die zunehmende DevOps-Nutzung dazu geführt, dass in vielen Unternehmen eine grosse Lösungsvielfalt entstanden ist. Das konkrete Ergebnis daraus bestand allerdings darin, dass wesentliche Standards nicht eingehalten und „best practices“ nicht umgesetzt wurden. U.a. mit der Bereitstellung von Referenzarchitekturen und Musterlösungen wurde dieser unheilvollen Entwicklung entgegengewirkt. Allerdings war dieses Vorgehen höchst starr und folglich mit starker Einschränkung der Entwicklerflexibilität verbunden.
Weshalb der aktuelle Trend in Richtung Platform Engineering geht – laut GARTNER („Top Tech Trends Unpacked“) ein zentrales Thema der nächsten Jahre. Beim Platform Engineering handelt es sich um einen strategischen Ansatz zur Bereitstellung grundlegender Infrastruktur und Tools sowie notwendiger Prozesse für Entwicklungsteams, um deren Effizienz zu steigern und die Anzahl wiederkehrender Aufgaben zu reduzieren. Dabei stehen die konkreten Bedürfnisse der Anwender im Mittelpunkt. Platform Engineers stellen Entwicklern:innen hierzu massgeschneiderte Produkte mit benötigten Funktionen zur Verfügung, beginnend mit umfangreichen Self-Service-Funktionen bis hin zu anwendungsfall-getriebenen Vorlagen. Damit wird sichergestellt, dass Software den organisatorischen Best Practices und Standards entspricht und diese dennoch keine Einschränkung für Entwicklungsteams darstellen.
Mithin eine wesentliche Komponente des Platform Engineering ist die „Interne Entwicklungsplattform“ (Internal Developer Platform, IDP), die den Entwicklern eine Sammlung von Tools und Technologien bietet, welche sie zum Erstellen, Testen und Bereitstellen von Software benötigen. Bestandteile sind dabei neben „Software Templates“ (Vorlagen) auch die notwendigen Integrationen mit verwendeten CI/CD-Werkzeugen und Ablaufumgebungen. All dies wird mitunter als sog. Plug-Ins eingebunden und individuell auf die Bedürfnisse der Teams zugeschnitten.
Nebst Professionalisierung von DevOps per Platform Engineering geht es im Kontext von KI dann zwangsläufig um die Thematik MLOps, gewissermassen die DevOps-Adaption für Machine Learning (ML). MLOps ähnelt zwar dem DevOps-Konzept, allerdings geht es dabei um das Deployment und Management sowie das Training von ML-Modellen. Das bedeutet, dass MLOps eine effiziente Entwicklung, Bereitstellung und Verwaltung von Machine-Learing-Modellen unterstützt.
Auch hierbei ist wiederum das Konzept Platform Engineering von Bedeutung, das die nahtlose Verbindung von DevOps und MLOps, bzw. von Entwicklern und Data Scientists ermöglicht. Letztere verantworten die Entwicklung und das Training der KI-Modelle und stellen kuratierte Versionen der Modelle etwa in einem Software-Katalog für die Produktion bereit. Ein Software-Entwickler muss dann nicht lange nach einem geeigneten Modell für einen spezifischen Anwendungsfall suchen, sondern greift auf einen vorbereiteten Katalog zu, dem er die Attribute der Modelle entnehmen kann. Mit der Auswahl in entsprechenden Software-Templates wird dann die Anbindung an den Applikations-Code bereitgestellt.
Eine signifikante Voraussetzung für einfache und rasche Produktivsetzung und Einbindung in neue und bestehende Anwendungen von Modellen ist mithin eine Plattform, die alle erforderlichen Aspekte abdeckt; also nicht nur die Software-Entwicklung, sondern ebenso die KI-Modell-Entwicklung, das KI-Modell-Training und die KI-Modell-Einbindung in die Applikationslandschaft. Es geht somit um eine Plattform, welche für DevOps, Platform Engineering und MLOps eine Basis bilden kann und unterschiedliche Prozesse vereinheitlicht.
Nicht vergessen werden darf dabei, dass es zwar ein relativ neues Thema ist, KI in grossen Mengen in die Produktion zu bringen. Es geht hier jedoch keineswegs nur um grosse Sprachmodelle, sondern vielmehr um prädikative oder analytische KI. Auch hier bestehen Herausforderungen, die letztlich nur mit einem Plattformansatz sinnvoll in den Griff zu bekommen sind.
