Back to frontpage

SAP-KI-Strategie

Welche Stärken und Schwächen birgt sie? Wie beurteilt die DSAG die Fokussierung der SAP-KI-Strategie auf die Automatisierung von Geschäftsprozessen, Verbesserung der Kundenerfahrung und Entwicklung neuer Produkte und Services?

Einleitung

SAP setzt auf Künstliche Intelligenz (KI) und investiert kräftig in diese Sparte. Doch wie beurteilt die DSAG die allgemeine Ausrichtung der SAP-KI-Strategie? Welche Stärken und Schwächen birgt sie? Wie beurteilt die DSAG die Fokussierung der SAP-KI-Strategie auf die Automatisierung von Geschäftsprozessen, Verbesserung der Kundenerfahrung und Entwicklung neuer Produkte und Services? Und: Was sollte SAP bei der Weiterentwicklung der KI-Strategie aus Anwendersicht berücksichtigen? Erste Antworten liefert die Deutschsprachige SAP-Anwendergruppe e.V. (DSAG) in der „DSAG-Einschätzung zur SAP-KI-Strategie“.

Wie beurteilt die DSAG die allgemeine Ausrichtung der SAP-KI-Strategie?

Die Einbindung von Künstlicher Intelligenz (KI) in bestehende Produkte zur Verbesserung ihrer Funktionalität ist sinnvoll und kann enorm hilfreich sein. KI wurde bereits vor dem Hype um Large Language Models (LLM) in vielfältiger Weise eingesetzt, z.B., um Prozesse zu automatisieren oder Cyber-Bedrohungen durch Machine- und Deep-Learning-Modelle zu verbessern. Die SAP-Ankündigung im Sommer 2023, künftige Innovationen wie KI nur noch via SAP-RISE-Premium-Angebot verfügbar zu machen, hat die Bestandskunden verunsichert, die früh der SAP-Produktstrategie gefolgt sind und auf SAP S/4HANA Private Cloud Edition bzw. On-Premises-Software gesetzt haben.

Im Rahmen der Geschäftsanwendungen hat SAP eine Reihe von Szenarien geliefert, die sich von SAP SuccessFactors, über SAP Sales Cloud, SAP Service Cloud, SAP Ariba, SAP Digital Manufacturing Cloud hin zu SAP Analytics Cloud erstrecken. In Summe können dank über 70 innovativer Anwendungsszenarien zeitaufwändige Aufgaben mit Hilfe von generativer KI schneller und einfacher erledigt werden. Darunter zählen neben einem der ersten Szenarien, wie der Generierung von Interviewfragen und Stellenbeschreibungen, auch Szenarien wie das Zusammenfassen und Fortführen von Kundenkonversationen, die Generierung von Produktbeschreibungen und -katalogen oder die visuelle Suche sowie Qualitätssicherung in der Produktion mit Hilfe von „Visual Inspection“. Außerdem ist seit November 2023 der Copilot „Joule“ in einer ersten Version in SAP SuccessFactors verfügbar. Der Assistent erlaubt neben dem Bearbeiten von klassischen Personalanfragen auch unternehmenseigene Dokumente, wie beispielsweise HR-Richtlinien, zu durchsuchen und Antworten im konkreten Kontext des Benutzers bereitzustellen. Im Februar 2024 wurde „Joule“ zudem für das „Early Adopter“ von SAP S/4HANA Public Cloud freigegeben und in den letzten Monaten in weitere Produkte wie SAP Customer Data Platform, SAP Business Technology Platform Cockpit, SAP Build, SAP Build Code und die SAP Integration Suite integriert. Für das zweite Halbjahr des Jahres 2024 ist u.a. die Integration in SAP Ariba und die SAP Analytics Cloud vorgesehen – sowie die Erweiterung der Sprachunterstützung auf Deutsch, Spanisch, Französisch und Portugiesisch.

Neben dem Bereitstellen von Machine-Learning-Szenarien und dem kontinuierlichen Erweitern der SAP-Produkte um Joule gab SAP im Rahmen der Entwicklerkonferenz SAP TechEd im November 2023 bekannt, die auf der SAP Business Technology Platform (BTP) existierenden Services SAP AI Core und AI Launchpad (bisheriger Fokus: Machine-Learning) um einen Generative AI Hub zu erweitern. Dieser erlaubt den sicheren Zugriff auf verschiedene proprietäre und offene generative KI-Modelle und ermöglicht eine tiefere Integration in die SAP-Anwendungen. Darüber hinaus steht innerhalb von SAP HANA Cloud nun eine Vector Engine zur Verfügung, die das Speichern und Verarbeiten sogenannter Embeddings ermöglicht. Der Document-Information-Extraction-Service wurde auf Basis generativer KI um Fähigkeiten erweitert, die das Einlesen und Verstehen jedweder Art von Geschäftsdokumenten möglich machen.

Der Generative AI-Hub hilft, verschiedene externe LLMs, wie beispielsweise OpenAI, anzusteuern und auf sichere Art und Weise mit den Geschäftsdaten aus den operativen SAP-Systemen zu integrieren. Darüber hinaus stellt SAP mit dem Generative AI-Hub weitere Funktionalitäten zur Verfügung, die das Speichern und Verwalten der Prompts im Kontext der Anwendung erlauben, Entwicklern Software Development Kits (SDKs) in den gängigen Entwicklungssprachen wie ABAP, Java, JavaScript und Python bereitstellen sowie einen Orchestration Service beinhalten, der zusätzliche Sicherheitsfeatures wie Datenmaskierung für personenbezogene Daten oder Filterung von ungewünschten Prompts und Antworten umfasst.

Das ist aus DSAG-Sicht ein wichtiger Schritt zurück in Richtung Realität. Stand heute bietet der Generative Hub Zugang zu verschiedenen Modellen an, die die neuesten Modelle der OpenAI Familie (z.B. GPT-4o, GPT-4o-mini, Embeddings-Modelle), die Google Gemini Modellreihe, die Modelle von Anthropic Claude sowie eine Reihe von Open-Source-Modellen von Meta Llama3.1 bis Mistral an. SAP arbeitet darüber hinaus an einem eigenen Foundation Model auf Basis tabellarischer Daten und plant, dieses zunächst über die SAP-Geschäftsanwendungen zu exponieren.

Wie sieht das kommerzielle Modell dahinter aus?

Entgegen den Ankündigungen aus dem Jahr 2023 und der Befürchtung, dass KI nur noch Kunden mit einem RISE-with-SAP oder GROW-with-SAP-Vertrag zur Nutzung verfügbar gemacht wird, hat SAP zum Ende des vergangenen Jahres eine darüber hinaus gehende kommerzielle Einordnung vorgenommen. Grundsätzlich gibt es KI-Funktionalitäten, die in der jeweiligen SAP-Lösung inbegriffen sind und Funktionen, für die eine Abrechnungseinheit (AI Units) genutzt wird. In Form von eingebetteter KI wird einigen Cloud-Lösungen ein Inklusivvolumen zugewiesen; SAP SuccessFactors war eine der ersten Lösungen, für die das umgesetzt wurde.

Dabei ist zu beachten, dass je nach Cloud-Produkt unterschiedliche Metriken verwendet werden. Das können beispielsweise „Messages“, „Pages“ oder „Transactions“ sein, für die ein fester Umrechnungsfaktor zu AI-Units gilt. Diese Definitionen hat SAP in einer öffentlich einsehbaren „AI Services List“ im SAP Trust Center zur Verfügung gestellt sowie im AI Unit Estimator, einem AI-Unit-Schätztool, das im Discovery Center verfügbar ist. Für die SAP-Kunden bedeutet dies, sich in regelmäßigen Abständen mit dieser Liste auseinanderzusetzen und die entsprechenden Experten zu befähigen, den Bedarf an AI-Units und ihren Derivaten in den jeweiligen Cloud-Services einschätzen zu können. Als zusätzliches Angebot im Discovery Center gibt es mittlerweile auch einen separaten Bereich zu den AI-Features, wo neben den kommerziellen Rahmenbedingungen auch der Business Benefit aus Sicht von SAP sowie Produktvideos abgerufen werden können.

Aktuell sehen die SAP-Unterlagen vor, dass ungenutzte Units am Ende eines Subskriptionsjahres verfallen. Aus Sicht der DSAG trägt diese Vorgehensweise weder zur Akzeptanz noch zur Transparenz bei, zumal viele Anwendungsfälle aktuell noch gar nicht bepreist sind. Es besteht ein Risiko, dass Unternehmen zu viele AI-Units kalkulieren und damit zu hohe Ausgaben erzeugen. Auf Rückfrage bestätigte SAP allerdings, dass im Falle eines zusätzlichen Bedarfs weitere AI-Units zu vereinbarten Konditionen nachgekauft werden können, so dass dort immerhin bei zu gering geplanten Kosten keine Listenpreisdiskussion entsteht.

Mit Vertragsbedingungen auseinandersetzen

Der Generative AI-Hub ist Teil des SAP-BTP-Services „AI Core Extended“ und wird nach sogenannten Capacity Units abgerechnet. Die entsprechende Menge kann ebenfalls über ein Kalkulationstool prognostiziert werden. Derzeit stehen aus vertraglicher Sicht lediglich die Vertragsmodelle „Cloud Platform Enterprise Agreement“ als auch „Pay-As-You-Go“ zur Verfügung, wobei letzteres per Definition ausschließlich nach Listenpreisen abgerechnet wird. Auch hier wird entsprechendes Fachwissen auf Seiten der Kunden notwendig sein, damit der Kalkulator mit den richtigen Angaben gefüllt wird. Der Generative AI-Hub ist unabhängig von den Regelungen zu den vorgenannten AI-Units und stellt vertraglich gesehen eine separate Lösung auf der SAP BTP dar.

Bevor SAP-Kunden überhaupt mit der Nutzung der SAP AI-Lösungen beginnen können, müssen sie sich zunächst mit den zugrundeliegenden Vertragsbedingungen auseinandersetzen und eine entsprechende Zusatzvereinbarung unterzeichnen. Hierbei geht es um die rechtlichen Aspekte, die SAP in dedizierten AI-Terms zusammengefasst hat. Das entsprechende Dokument steht ebenfalls im SAP Trust Center zur Verfügung und kann eingesehen werden.

Der tatsächliche Verbrauch der AI-Units kann in „SAP for Me“, dem zentralen Administrations-Dashboard für Kunden eingesehen werden, welches seit Anfang August in der ersten Version bereitsteht.

Screenshot von SAP-Nutzeroberfläche
Verbrauch der AI-Units in „SAP for Me“

Aufgrund des neuen Abrechnungs- und Kalkulationsmodells ist es wichtig, dass die SAP-Kunden nachvollziehen können, wo genau AI-Units und vor allem AI-Units verbraucht werden, um die Kostensituation im Blick zu behalten.

Welche Stärken und Schwächen sieht die DSAG in der SAP-KI-Strategie?

Um maßgeblich zur Steigerung der Wettbewerbsfähigkeit, Wirtschaftlichkeit und Unternehmensresilienz beitragen zu können, ist es wichtig, KI auch in bestehende Prozesse zu integrieren und die datengetriebenen Ansätze stetig weiterzuentwickeln.

Positiv zu werten ist aus DSAG-Sicht, dass SAP sich hier technologisch wieder stärker an der Realität ausrichtet. Denn: In Unternehmensarchitekturen halten LLM-Modelle nicht „SAP-only“ Einzug – vielmehr benötigen Unternehmen Lösungsangebote, die architektur- und anbieterübergreifend eingesetzt werden können.

SAP hat auf den KI-Hype zügig reagiert und eine Strategie dargelegt, die sich zunächst klar an Endanwendern und Endanwenderinnen der SAP-Geschäftsanwendungen und -prozesse orientiert. Gleichzeitig lässt die Strategie die technologischen Komplexitäten für den Kunden in den Hintergrund treten, mit denen sich die meisten Unternehmen nicht beschäftigen können oder wollen. Die aktuell gelieferten Funktionen im Rahmen dieser Strategie sind ohne Frage nützlich und sinnvoll; dass E-Mails per Klick „professioneller“ formuliert oder Zusammenfassungen von Texten unmittelbar erzeugt werden können, dürfte für viele User einfach praktisch sein. Es ist aber auch festzuhalten, dass für eine vollständige Automatisierung über Anwendungs- und Geschäftsbereichsgrenzen hinweg, wie beispielsweise bei Source-to-Pay oder Lead-to-Cash, noch einiges an Arbeit zu verrichten ist.

In Bezug auf die aktuell gelieferten Funktionen sei daher ein Vergleich mit einem konsequenten Ansatz einer solchen Strategie erlaubt, wie sie bspw. Apple auf seiner Entwicklerkonferenz WWDC im Juni eindeutig formuliert hat: „KI für den Rest von uns“ – die Nutzerinnen und Nutzer der Produkte. Denn auch für den SAP-User ist die Latenz neuer KI-Modelle oder die Performance von NVIDIA GPUs vollkommen uninteressant – es geht vielmehr darum, dass die realisierten Anwendungsfälle einfach, intuitiv und performant sind und sich in Hinblick auf Sicherheit, Datenschutz und Integration nahtlos in die bestehende Landschaft der Kunden integrieren lässt.

Harmonisierte Datenbasis ist der Schlüssel

Somit hat SAP hier sicherlich zunächst den richtigen Fokus gelegt, aber aus Sicht der DSAG auch noch einiges an Arbeit vor sich, wenn es um die Realisierung voll- oder hochautomatisierter, transaktionaler HR- und ERP-Prozesse mit Hilfe von KI und insbesondere generativer KI geht. Der Einsatz von Generativer KI in Gehaltsabrechnungs-, Finanzprozessen oder Kreditentscheidungen unterliegt weitaus vielfältigeren Anforderungen in Bezug auf die Reproduzierbarkeit und die vollständige Automatisierung. Hier liefert SAP zwar ebenfalls bereits nutzbare, z.T. seit längerer Zeit verfügbare Features, die im Wesentlichen auf Machine Learning basieren. Neue Szenarien bewegen sich aktuell eher jenseits der transaktionalen Prozesse. Beispiele dafür sind die (Teil-)Automatisierung individueller Schritte einer Transaktion, die Simulation von (Plan)Szenarien, das Interagieren im Bereich Analytics oder in der Beantwortung und Zusammenfassung komplexer und vielfältiger Informationen auf übliche Fragen im betrieblichen Alltag. Hierbei ist festzuhalten, dass als Grundlage eine einheitliche und harmonisierte Datenbasis und Datenmodelle der Schlüssel für anwendbare KI-Szenarien sind – hier besteht noch Potenzial im Rahmen der Integration der von SAP akquirierten Lösungen. Zudem bietet sich angesichts tausender SAP-Kundenunternehmen das Potenzial, dass externe Partnerunternehmen ihre KI-Anwendungen beispielsweise über die BTP zugänglich machen können.

Bestehen bleibt die DSAG-Forderung, dass SAP einheitliche Rahmenbedingungen und ein umfassendes Monitoring bei der Integration großer Sprachmodelle in SAP-Prozesse sicherstellen muss. Das gilt auch für transparente Lizenz- und Nutzungsbedingungen – insbesondere im Zusammenhang mit Partnerschaften von SAP mit anderen Unternehmen im KI-Kontext. Es braucht Klarheit über die indirekte Nutzung von Daten aus SAP-Systemen für KI-Anwendungen – auch und gerade in den Lizenzvereinbarungen. Aus Sicht der DSAG muss dieses Thema noch einmal gesondert diskutiert werden.

Aus Sicht der SAP ist die Abbildung der Funktionen über die „AI-Units“ vorhersagbarer als bei anderen Anbietern. Nichtsdestotrotz muss auf Kundenseite schon bei der Einführung von SAP Business AI eindeutig geklärt werden, welche Fachbereiche welches Know-How einbringen müssen, da es eine Gesamtmenge an „AI-Units“ sowie zusätzlich das Inklusiv-Volumen für die eingebetteten Funktionen geben wird. Das muss auf Kundenseite alles verwaltet und überwacht werden.

Welche Chancen und Risiken ergeben sich aus der SAP-KI-Strategie?

Im Bereich der klassischen SAP-Architekturen ist durch den Einsatz dieser spezialisierten Modelle eine substanzielle Beschleunigung von Code-Entwicklung zu erwarten. Zudem wird eine natürliche, sprachgesteuerte Nutzenden-Interaktion möglich, und die persönlichen Mitarbeitenden-Fähigkeiten lassen sich stärken. So können Anwendungen, z.B. Geschäftsprozesse bei SAP, in natürlicher Sprache beschrieben, gesteuert und ausgeführt werden – neben der begleitenden interaktiven Dokumentation und Nutzerunterstützung.

SAP erleichtert das Integrieren von generativer KI substanziell und sorgt auch für regelmäßige Aktualisierungen und Verbesserungen, was aufgrund der raschen technologischen Weiterentwicklungen einen hohen Mehrwert darstellt, insbesondere für Unternehmen, die keine tiefere KI-Expertise haben oder aufbauen können. Dabei evaluiert und entscheidet die SAP, welche KI-Modelle am besten für die optimale Service- und Leistungserbringung notwendig sind und stellt die Qualität mit ausführlichen Benchmarks hinsichtlich Performance, Sicherheit, Ethik, Bias, etc. sicher. Auch wenn sich die SAP das Recht vorbehält, Modelle auszutauschen, um beispielsweise existierende KI-Features zu verbessern oder hinsichtlich Performanz und Kosten zu optimieren, wird gleichzeitig jedoch sichergestellt, dass dies im Rahmen der regulatorischen Bedingungen passiert. Als Beispiel sei hier EU-Access angeführt: Sollte ein Kunde sich für eine Lösung der SAP entschieden haben, die EU-Access garantiert, so kommen nur Modelle zum Einsatz, bei denen diese Qualität entsprechend sichergestellt werden kann. Dies verhält sich analog zu allen weiteren Qualitäten wie bspw. GDPR, EU AI Act und vielem mehr.

Hierbei ist wichtig zu betonen, dass die SAP weiterhin maximale Transparenz walten lassen muss, wie die Unternehmensdaten für Verbesserungen und Training eingesetzt werden. Hierzu hat die SAP erklärt, dass Unternehmensdaten der Kunden nicht für das Trainieren oder Verbessern von Modellen der Drittanbieter benutzt werden, die sich außerhalb der Kontrolle von SAP befinden. In diesem Fall findet stattdessen lediglich eine transiente Datenprozessierung mit Hilfe von Prompt Engineering oder Retrieval Augmented Generation statt. Sollten gewisse KI-Funktionalitäten ein Training mit Kundendaten erfordern, so benutzt die SAP dann selbstgehostete Open-Source-Modelle, die durch Techniken wie beispielsweise Low Rank Adaptation (LoRA) weitertrainiert oder verfeinert worden sind. Dieser Kundendatennutzung durch SAP stimmen die Kunden jeweils durch Annahme der AI Terms & Conditions zu.

Wie beurteilt die DSAG die Fokussierung der SAP-KI-Strategie auf die folgenden Bereiche: Automatisierung von Geschäftsprozessen, Verbesserung der Kundenerfahrung und Entwicklung neuer Produkte und Services?

Dass sich SAP mit Künstlicher Intelligenz auseinandersetzt, ist nicht neu. Das zeigt ein Rückblick auf die Innovationsplattform SAP Leonardo. Diese sollte neben Machine-Learning auch Internet-of-Things und Blockchain als innovative Technologien bereitstellen. Viele der technischen und funktionellen Services werden nun im Produktportfolio aufgehen und nicht mehr als eigene Technologieplattform angeboten. Dabei ist jedoch anzumerken ist, dass SAP ihre eigenen Plattformservices auf SAP Business Technology Platform nutzt, um das Produktportfolio mit KI entsprechend aufzurüsten und für eine einheitliche Enterprise Architektur zu sorgen. Die so ausgebauten Plattformservices stehen Kunden dann gleichermaßen für Erweiterungszwecke sowie Eigenentwicklung mit tiefer Integration in die SAP-Systemlandschaft zur Verfügung.

Seitdem integriert SAP einzelne Lösungen in die jeweiligen Geschäftsprozesse und hat schon in SAP S/4HANA einige Funktionalitäten eingebettet, um die Automatisierung von Routineaufgaben zu unterstützen – unter anderem mit der Auslieferung vordefinierter Szenarien, die anhand historischer Daten des Anwendungsunternehmens trainiert werden müssen. Prominente Beispiele sind hier Genehmigungs-Workflows im Einkauf, das Anlegen von Bestellung oder das Ausziffern von Forderungen sowie die Zuordnung von Zahlungseingängen zu offenen Rechnungen.

Durch die Erweiterung um Generative KI rücken nun die Recherche, Dokumentation und Textgenerierung sowie das Coding und die Programmierung in den Fokus. In diesen Bereichen sollen die neuen Technologien zum Einsatz kommen. Als Geschäftsbereiche, in denen mit diesen Technologien große Herausforderungen gelöst werden können, sind z. B. die IT in der Entwicklung, Sales & Services sowie der IT-Basisbetrieb und die Administration denkbar. Aber natürlich auch die Bereiche Marketing, Finance, Human Resources und die Produktion.

Automatisierung von Geschäftsprozessen

Die Grundlagen für den Einsatz von Business AI werden aktuell durch SAP gelegt. Hier sind besonders die Verfügbarkeit von erforderlichen Datenmengen für die Optimierung der Algorithmen und einheitliche semantische Datenmodelle erforderlich. Aber es mangelt aus DSAG-Sicht ebenso noch an Good Practices und vor allem an Fachkräften in den Unternehmen.

Die Automatisierung von Geschäftsprozessen ist aus DSAG-Sicht ein wichtiger Schritt zur Steigerung der Effizienz und Produktivität. KI-basierte Lösungen können dabei helfen, sich wiederholende Aufgaben zu automatisieren und manuelle Fehler zu reduzieren. Dies kann Unternehmen erhebliche Kosteneinsparungen und Zeitvorteile bringen.

KI kann ebenso dazu beitragen, die Kundenerfahrung zu verbessern, indem sie personalisierte und maßgeschneiderte Angebote und Services ermöglicht. Beispielsweise können KI-basierte Chatbots Kundenanfragen rund um die Uhr beantworten oder KI-basierte Empfehlungssysteme Kunden bei der Suche nach Produkten und Services unterstützen. KI kann dazu beitragen, neue Produkte und Services zu entwickeln, die den Bedürfnissen der Kunden besser entsprechen. So können KI-basierte Analyse-Tools Unternehmen dabei helfen, neue Markttrends zu identifizieren und neue Produkte und Services zu entwickeln, die diese Trends erfüllen.

Erklärbarkeit als Herausforderung

Ein noch fehlender Aspekt ist allerdings die Nachvollziehbarkeit im Sinne der IDW-Prüfungsstandards. Diese fordern von den Anwendungsunternehmen, dass sie in der Lage sind, Entscheidungen eines KI-Systems nachvollziehbar darzulegen – insbesondere die Transparenz und Erklärbarkeit der genutzten Daten, KI-Algorithmen und KI-Modelle.

Die geforderte Transparenz umfasst dabei die Bereitstellung von Informationen, d.h. die Datensätze und Prozessschritte, die zu der Entscheidung geführt haben und deren nachvollziehbare Dokumentation. Dies schließt die verwendeten KI-Algorithmen bzw. KI-Modelle, laufende Änderungen, die vom Unternehmen an diesen vorgenommen werden, sowie korrigierende Eingriffe des Menschen im laufenden Betrieb des KI-Systems ein. Die besondere Herausforderung liegt hier in der Erklärbarkeit – also der Möglichkeit, die verwendeten Daten und Modelle eines KI-Systems sowie auch die darauf basierenden Entscheidungen für das Anwenderunternehmen verständlich zu machen.

Es wird auf den Erfolg der SAP-Business-AI-Strategie großen Einfluss haben, ob es SAP gelingt, diese Erklärbarkeit für jedes genutzte KI-Szenario in den Geschäftsprozessen bereitzustellen und nachvollziehbar zu machen. Das gilt auch für Dritte, insbesondere Wirtschaftsprüfer, denn die von der SAP-Software unterstützten ERP-Prozesse unterliegen im Rahmen der Unternehmensberichterstattung sämtlichen externen Prüfungsstandards.

Welche weiteren Bereiche sollten in die SAP-KI-Strategie aufgenommen werden?

Bei den bekannten LLM handelt es sich um offene Plattformen, bei deren Nutzung Unternehmen Gefahr laufen, sensible Unternehmensdaten öffentlich zu machen, oder dass die generierten Texte im Konflikt mit geltenden (Urheber-)Rechten stehen. Hier hat SAP zwar, wie weiter oben bereits beschrieben, erklärt, dass dies bei der Verwendung von Modellen Dritter (wie bspw. OpenAI, Anthropic, Gemini) ausgeschlossen wird, allerdings sollten diese Zusagen uneingeschränkt und langfristig garantiert werden. Aus Sicht der DSAG sollte SAP für ihr Business-AI-Modell schnellstmöglich Klarheit schaffen und eindeutig und juristisch belastbar ausschließen, dass dritte Anbieter SAP-Kunden-Prompts und Unternehmensdaten für das Training ihrer KI-Modelle verwenden und diese bspw. dauerhaft gespeichert werden. Zwar setzt SAP nicht direkt auf den öffentlichen Modellen auf, sondern nutzt eigene, abgeschirmte Instanzen dieser Modelle – wie beispielsweise über Microsoft Azure, Google Cloud Platform oder Amazon Web Services. Hierzu werden aktuell im SAP Trust Center Informationen bereitgestellt, welche Qualitäten und nicht-funktionalen Eigenschaften durch die eingegangenen Partnerschaften sichergestellt werden Eine hohe Verbindlichkeit bekäme dies durch eine externe Zertifizierung durch einen sachkundigen Dritten – wie es SAP auch im Rahmen der Anforderungen aus GDPR, EU-Access, ISO, SOC2, C5, oder NIST als Teil der SAP-Produktstandards sicherstellt. Hierzu hat SAP mitgeteilt, dass sie sich aktuell einer Selbstbewertung hinsichtlich des neuen Standards ISO42001 unterzieht. Dieser noch recht junge Standard wurde ins Leben gerufen, um das sog. KI Management System der Produktanbieter von KI-Funktionalitäten hinsichtlich Compliance, Governance und Qualität zu zertifizieren.

Sehr bewusst sollten sich die Kundenunternehmen jenseits der reinen Datenverarbeitung mit dem sogenannten „Product Development Schedule“ auseinandersetzen, der es ermöglicht, Geschäftsdaten für Trainingszwecke der SAP zur Verfügung zu stellen. Die somit SAP eingeräumten Nutzungsrechte werden außerordentlich strikt behandelt und mit höchsten Standards im Datenschutz für Trainingszwecke in dedizierter Infrastruktur anonymisiert und verschlüsselt gespeichert. Dieses Konzept wurde gemeinsam mit der Data Protection and Privacy (DPP)-Arbeitsgruppe der DSAG erarbeitet und explizit durch die DSAG begrüßt und überwacht. Allerdings verbleibt die Entscheidung der Fremdnutzung eigener Geschäfts- und ggf. Kundendaten eine zutiefst individuelle Entscheidung eines jeden einzelnen Unternehmens.

Bezüglich der Beschleunigung der Code-Entwicklung ist abzuwarten, wie SAP sicherstellen wird, dass durch die Algorithmen die Code-Qualität nicht sinkt. Aktuelle Studien zeigen, dass AI-basierte Code-Entwicklung besonders in Bezug auf das DRY-Prinzip (Don’t repeat yourself) Schwächen zeigt und somit zwar mehr schnell erzeugter, aber bereits vorhandener Code in ein Projekt einfließt. Das bläht den Code nicht nur unnötig auf, sondern erhöht dessen Pflegeaufwand und erschwert Reviewerinnen und Reviewern sowie nachfolgenden Nutzerinnen und Nutzern die Interpretation der Zeilen. Die technische Schuld erhöht sich, insbesondere weil Code insgesamt weitaus öfter gelesen als geschrieben wird. Auch fehlt es noch an Konzepten, die mit dem Security-Incident rund um Log4j deutlich wurden. Hier wurde eine Open-Source-Software-Bibliothek, die Entwicklerinnen und Entwicklern frei verwenden konnten, genutzt. Da vergleichbare Lösungen in der Praxis populär sind, wird deren Nutzung durch AI-basierte Code-Generierung noch verstärkt.

Was muss SAP bei der Weiterentwicklung der KI-Strategie aus Anwendersicht berücksichtigen?

Durch den Einsatz von SAP-Software als Lieferant von umfangreichen Geschäftsdaten sind wesentliche Fragen zu klären: Schon eine eher simple Anwendung von sprachgestützter KI in SAP-Systemen, mittels derer die Nutzer Fragen in natürlicher Sprache stellen könnten, wird aus technischer und aus kommerzieller Sicht komplex, wenn die Antworten nicht nur auf Daten aus SAP-Systemen beruhen – von der indirekten Nutzung ganz zu schweigen, sollten die Plattformen der KI-Anbieter mittels SAP-Schnittstelle Verarbeitungsaktivitäten in der SAP-Software aktivieren.

Die Ausrichtung von SAP ist derzeit darauf ausgelegt, eine Vielzahl nützlicher Szenarien in die jeweiligen Anwendungsbereiche einzuführen und es den Anwendern sehr einfach zu machen, diese direkt zu nutzen und die komplexe Technik in den Hintergrund zu stellen. Viele Unternehmen verstehen mehr und mehr, dass es deutlich mehr braucht, als nur ein Large Language Model zu benutzen, um eine einwandfreie Integration in die Unternehmenslandschaft zu ermöglichen. Somit werden aktuell die Grundlagen für eine holistische KI-Strategie durch SAP gelegt. Gleichzeitig ist es aber wichtig, dass die SAP hier nicht stehen bleibt und es – wie bereits angesprochen – schafft, über das Lösungsportfolio und die Geschäftsprozesse hinweg eine hohe Automatisierung zu realisieren. So ist es zum Beispiel sehr wichtig, wie die Entwicklung des eigenen Foundation-Modells durch SAP voranschreitet, das im Unterschied zu gängigen Sprachmodellen vor allem auf den Umgang mit Zahlen und Tabellen optimiert sein soll – etwa bei der Vorhersage von Umsätzen, Lieferantentreue und Bezahlverhalten.

Während der Einsatz von LLM zur sprachgesteuerten Interaktion mit IT-Systemen bald eher ein Standardfeature als ein wirkliches Differenzierungsmerkmal sein wird, besitzt der Einsatz eines Foundation-Modells zur Automatisierung und Optimierung von betriebswirtschaftlichen Prozessen und Abläufen erhebliches Potential. Dieses rechtfertigt auch einen preislichen Aufschlag, denn daraus bieten sich für die Anwendungsunternehmen direkte, bemessbare Einsparpotentiale. Hierbei kommt es aber darauf an, dass Halluzinationen – also die Generierung von falschen oder irreführenden Informationen – ausgeschlossen werden können. Denn dies ist ein für die auf SAP-Daten vorzunehmenden Geschäftsanalysen und die Prozessautomatisierung hochregulierter ERP-Prozesse ein klares Ausschlusskriterium.

Was soll SAP Joule bieten?

SAP selbst gibt an, dass Joule in SAP-Anwendungen – vom Personalwesen bis zum Finanzwesen, Lieferkettenmanagement, Einkauf und Kundenerlebnis – sowie in die BTP integriert wird. Mitarbeitende sollen einfach eine Frage stellen oder ein zu lösendes Problem per Sprachbefehl beschreiben und intelligente Antworten auf Grundlage der zahlreichen Geschäftsdaten aus dem ganzen SAP-Portfolio sowie aus Quellen von Drittanbietern bekommen, wobei der Geschäftskontext erhalten bleibt. Joule soll in der Lage sein, leistungsschwächere Regionen zu ermitteln oder eine Verknüpfung zu Datensätzen herzustellen, die auf ein Problem in der Lieferkette hinweisen. Es soll darüber hinaus möglich sein, sich automatisch mit dem Lieferkettensystem zu verbinden und Joule soll laufend neue Szenarien für alle SAP-Lösungen bereitstellen.

Wie beurteilt die DSAG das Angebot SAP Joule?

Zunächst einmal ist festzuhalten, dass Joule einem konsistenten und vollintegrierten Ansatz basierend auf der SAP BTP folgt. Es handelt sich bei Joule um einen zentralen Service (ähnlich zu SAP Master Data Integration, SAP Identity and Authentication Service, etc.) in der Unternehmens-IT-Landschaft, an den sich die verschiedenen SAP-Anwendungen andocken. Dabei setzt Joule grundsätzlich auf dem letzten Stand der Technik auf und erfordert als Grundlage, dass die essenziellen Services der „Suite Qualities“ (z.B. einheitliches Identitätsmanagement, einheitliches Stammdaten Management, zentraler Einstiegspunkt) von Kunden bereits umgesetzt worden sind. Insofern ist Joule ein weiterer Ankerpunkt im Rahmen des Ansatzes „Intelligent Enterprise“, mit dem die SAP die Integration der Anwendungen weiter vorantreibt. Dies führt dazu, dass es nicht ein Joule für SAP SuccessFactors oder SAP S/4HANA gibt, sondern einen zentralen Service, der eine Navigation und sogar Konversationen über die Anwendungen hinweg ermöglicht.

Dabei ist darauf hinzuweisen, dass Joule als „föderierter“ Service agiert, sprich auf den APIs, Berechtigungskonzepten und Domänenmodellen der Anwendungen aufsetzt, ohne diese nochmals nachzubilden oder zu replizieren. Während SAP nun Joule im Rahmen von SAP SuccessFactors (GA) und SAP S/4HANA Cloud, Public Edition (EA) anbietet und soeben auch das Anbinden von kundeneigenen Dokumenten, wie von Microsoft Sharepoint, freigegeben hat (auf Basis von SAP HANA Cloud Vector Engine), erwartet die DSAG auch die Integration in alle weiteren SAP-Produkte. Diese sowie das Einbinden weiterer externer Datenquellen von Dritten werden im Rahmen des Kalenderjahres 2024 erwartet.

Des Weiteren ist die Erweiterbarkeit von Joule durch kundeneigene Szenarien oder Partner aus Sicht der DSAG essenziell. SAP verweist hier aktuell auf die zweite Jahreshälfte des aktuellen Jahres. Darüber hinaus stellt sich die Frage, wie Unternehmen mit einem Potpourri unterschiedlicher Assistenten im Rahmen der heterogenen IT-Landschaften umgehen sollen. Hier schulden die Softwareanbieter noch einige Antworten.

Welche offenen Fragen gibt es noch?

SAP muss aus Sicht der DSAG unbedingt verhindern, dass ein Wildwuchs von Lösungen und Services unter dem Dach „Business AI“ entsteht und das Portfolio auf Lines of Businesses ausgerichtet ist und damit unübersichtlich wird. Beispielsweise wurde mit JustAsk zunächst eine eingebettete Funktionalität ausgeliefert, die natürlichsprachliche Anfragen in analytische Anfrage in SAP Analytics Cloud übersetzt. Auf dieser Basis wird nun erst im zweiten Schritt eine föderierte Integrationsarchitektur für Joule gebaut.

Positiv zu bewerten ist, dass auch diese Funktionalitäten mittlerweile unter Joule subsummiert wurden – für alle weiteren Produktentwicklungen wäre es aus Sicht der DSAG sehr zuträglich, von vornherein KI-Bausteine portfolioübergreifend zu entwickeln. Kunden benötigen für eine langfristige Adaptions- und Implementierungsstrategie einen einheitlichen Ansatz über das gesamte Portfolio hinweg. Dafür sind zudem eine einheitliche Integrationsstrategie und ein transparentes, verbrauchsorientiertes Lizenzmodell erforderlich.

Darüber hinaus hat SAP auf der Kundenkonferenz Sapphire im Rahmen der Business AI-Strategie diverse Kooperationen mit Partnern bekanntgegeben:

  • Accenture und SAP wollen Kunden bei der Transformation ihrer Geschäftsmodelle und Prozesse stärker durch die Generierung von Joule- und ABAP-Code und den Einsatz von Lösungen wie SAP Signavio und SAP LeanIX unterstützen
  • BCG kündigte ein neues Angebot mit SAP an, das Transformationsinitiativen mit Hilfe der Lösungen SAP Signavio und SAP LeanIX empfiehlt.
  • SAP will gemeinsam mit Apple noch tiefer integrieren und Joule nativ in allen mobilen Anwendungen, wie SAP Mobile Start, SAP SuccessFactors oder SAP Concur auf allen Geräten, einschließlich iPhone, iPad, Apple Watch und VisionPro verfügbar machen, sowie kleinere Sprachmodelle für noch höhere Sicherheit und Privatsphäre direkt auf dem Endgerät zur Verfügung stellen.
  • Amazon Web Services (AWS) und SAP kündigten eine Erweiterung ihrer Zusammenarbeit an, um SAP-Kunden die Integration von Amazon Bedrock und damit der Modelle Anthropic Claude 3 und Amazon Titan zu ermöglichen. Diese Modelle stehen mittlerweile über SAP BTP im Generative AI Hub zur Verfügung, um eingebettete KI-Funktionalität innerhalb des SAP-Portfolios sowie die Einbettung generativer KI in das gesamte Portfolio geschäftskritischer Anwendungen zu unterstützen.

Die DSAG begrüßt alle Initiativen, die die Anwendungsunternehmen bei der Implementierung und Modernisierung ihrer SAP-Architekturen unterstützt. Allerdings ist noch nicht ersichtlich, welchen Mehrwert die vorbenannten Initiativen stiften, denn SAP Lean IX optimiert seinen Funktionsumfang bereits proaktiv mit Fokus auf die Erweiterung der Datenmodelle und Fact Sheets, um die Einführung von KI-Technologien als Teil der Enterprise-Architektur zu unterstützen und wie bspw. durch den EU AI Act zu erfassen und zu dokumentieren.

Mit Blick auf die Entwicklung eines eigenen Foundation-Modells bestehen im Hinblick auf den Einsatz von Retrieval Augmented Generation (RAG) noch Fragen. Dies ist eine Technik zur Verarbeitung natürlicher Sprache (engl., Natural Language Processing, kurz NLP), die die Stärken von abfragebasierten und generativen Modellen der Künstlichen Intelligenz kombiniert.

So wie Joule heute schon auf einer RAG-basierten Architektur basiert, wird das neue Foundation-Modell voraussichtlich auf Basis einer Kombination der in SAP-Software allgegenwärtigen, abfragebasierten Techniken und generativen KI-Modellen entwickelt werden und so leicht unternehmensspezifisch zu trainieren sein. Durch die Integration von abfragebasierten und generativen künstlichen Intelligenzmodellen liefert RAG Antworten, die genauer und relevanter sind. Damit wäre RAG auch in der Lage, Informationen aus zahlreichen Quellen, wie beispielsweise heterogenen IT-Applikationsarchitekturen, zu synthetisieren und somit Antworten für besonders komplexe Abfragen, die die Integration von Informationen aus mehreren Quellen erfordern, zu generieren.

Auch erfordert das Training eines LLM zum Aufbau eines generativen KI-Modells eine enorme Datenmenge. RAG-Modelle können vorhandene und bereits abgerufene (SAP-)Wissensquellen nutzen, wodurch die Notwendigkeit reduziert wird, große Mengen an Trainingsdaten zu finden und aufzunehmen. Zudem erfordert der Einsatz zentraler KI-Modelle den Transfer nicht unerheblicher Datenmengen zwischen Endgeräten, lokalen Systemen und den Cloud-Plattformen. Das erzeugt einen enormen Energieverbrauch für das Training der Modelle und die Internetkonnektivität. Je weniger Daten zwischen externem Speicher und dem Endgerät transferiert werden, desto weniger effizient ist die Cloud, so dass RAGs als Teil einer dezentralen, unternehmensspezifischen Architektur den Energieverbrauch um ein Vielfaches reduzieren würde.