Ein typischer Anwendungsfall für diese Werkzeuge ist die Entwicklung eines internen Chatbots, der beispielsweise HR-Anfragen beantwortet. Solche Anfragen können sich auf die Anzahl verbleibender Ferientage oder die Anforderung eines Arbeitszeugnisses beziehen.

Ziel ist es, Mitarbeitende zu entlasten, Antwortzeiten zu verkürzen und Wissenszugriff zu vereinfachen. Die Grundlage zur Beantwortung solcher Fragen steckt häufig in firmeneigenen Dokumenten wie HR-Richtlinien, FAQs und Vertragsunterlagen.

Die Lösung: Das Zusammenspiel von SAP AI Core und SAP AI Launchpad

Für die Umsetzung eines solchen KI-Projekts werden beide Komponenten benötigt, die unterschiedliche Aufgaben erfüllen:

• SAP AI Core dient als technische Laufzeitumgebung für das KI-Modell.
• SAP AI Launchpad ist die zentrale Management- und Steuerungsoberfläche für den gesamten KI-Lebenszyklus.

1. SAP AI Core: Die technische Umsetzung

Die Entwicklung des Chatbots mit SAP AI Core umfasst folgende Schritte:

1. Modellentwicklung:
   Data Scientists entwickeln eine Retrieval-Augmented Generation (RAG)-Anwendung auf Basis von LLMs. Die Texte und HR-Dokumente werden vektorisiert, um kontextbasierte Antworten zu ermöglichen.
2. Containerisierung:
   Das Modell – inklusive Daten- und Vektorisierungslogik – wird in einem Docker-Container gebündelt. Damit sind alle Abhängigkeiten (z. B. Python-Bibliotheken, Embedding-Modelle) klar definiert und reproduzierbar.
3. Deployment & Skalierung:
   Über SAP AI Core wird der Container auf der BTP-Infrastruktur ausgerollt.
   Die Plattform stellt sicher, dass das Modell automatisch skaliert, z. B. wenn viele Mitarbeitende gleichzeitig den Chatbot nutzen.
4. Automatisierung & Monitoring:
   Mit Argo Workflows werden wiederkehrende Aufgaben (z. B. Retraining, Index-Updates bei neuen Dokumenten) automatisiert. Überwachungsfunktionen von AI Core erfassen Antwortzeiten, Fehlerraten und Modellqualität in Echtzeit.
5. Integration in Geschäftsprozesse:
   Das Modell wird als Webservice (API-Endpoint) bereitgestellt und lässt sich direkt in SAP-basierte Systeme wie SuccessFactors oder Workzone integrieren – für einen nahtlosen Zugriff durch Mitarbeitende.

2. SAP AI Launchpad: Die zentrale Steuerungsebene

Während AI Core die technische Ausführung sicherstellt, bietet das SAP AI Launchpad die notwendige Oberfläche für Management und Kontrolle.

Konkret bringt das Launchpad folgende Vorteile:

• Transparenz & Kontrolle:
  Über das Launchpad lässt sich der gesamte Lebenszyklus des Chatbots verwalten – von Modellen und Deployments bis zu Laufzeiten, Metriken und Versionen. Entscheidungsträger und Projektleiter behalten so den Überblick über Performance, Kosten und Nutzung.
• Einfache Überwachung:
  Performanceindikatoren wie Antwortzeiten, Tokenverbrauch oder Fehlerraten können direkt in der UI eingesehen werden – ohne tief in technische Logs einzusteigen.
• Low-Code / No-Code Prototyping:
  Fachbereiche (z. B. HR oder IT-Business-Partner) können über das Launchpad Prototypen anlegen, Prompts anpassen oder Dokumente für RAG-Szenarien ohne Programmierkenntnisse hochladen.
• Integration mit Generative AI Hub:
  Über die Modellbibliothek können verschiedene Foundation Models (z. B. GPT-5, Claude, Gemini) getestet werden. So kann evaluiert werden, welches Modell die besten Antworten für HR-spezifische Kontexte liefert.
• Orchestrierung & Workflow-Design:
  Im Bereich „Orchestration“ können komplexe Abläufe wie Anonymisierung sensibler Personaldaten oder Übersetzung per Klick konfiguriert, getestet und direkt im Chatbot-Workflow eingebunden werden.

Beispielhafte Kostenkalkulation

Um die Kostenstruktur zu veranschaulichen, wird folgendes Szenario für den HR-Chatbot angenommen: 1.000 Anfragen pro Monat.

Die Kosten für ein solches Projekt setzen sich aus zwei Hauptblöcken zusammen: den nutzungsabhängigen Kosten für SAP AI Core und dem Fixpreis für das SAP AI Launchpad.

1. Variable Kosten: SAP AI Core (Abrechnung in Capacity Units)

Die Kosten für den Betrieb auf SAP AI Core sind verbrauchsabhängig und werden in Capacity Units (CUs) gemessen. Sie setzen sich aus den folgenden drei Faktoren zusammen:

(Hinweis: Die Umrechnungswerte basieren auf SAP Note 3437766 und aktuellen AI Core-Kostensätzen im Discovery Center.)

2. Fixkosten: SAP AI Launchpad

Unabhängig von der tatsächlichen Nutzung des Chatbots fällt für das SAP AI Launchpad eine monatliche Pauschale an. Diese dient der Bereitstellung der zentralen Management- und Überwachungsoberfläche.

• Monatlicher Fixpreis:ca. 580 €

Zusammenfassung der Kosten

Die monatlichen Gesamtkosten für dieses KI-Projekt setzen sich somit aus den variablen, nutzungsbasierten Kosten für SAP AI Core (abgerechnet in CUs) und dem monatlichen Fixpreis für das SAP AI Launchpad zusammen.