Home AI Was macht ein (Business)-AI-Agent?

Was macht ein (Business)-AI-Agent?

Visual Frau und Roboter schauen sich an an einem Schreibtisch, der Roboter sitzt

Dieser Artikel beschreibt die Definition, den Nutzen und die Funktionsweise von AI-Agenten. Wir erklären die zentralen Bausteine eines AI-Agenten, seine technologische Umsetzung sowie Governance und Risikomanagement, die für den erfolgreichen Einsatz in Unternehmen entscheidend sind. AI-Agenten stellen einen Meilenstein der digitalen Transformation dar und werden weitreichende Auswirkungen auf alle Geschäftsprozesse haben. 

Stellen wir uns ein Gedankenexperiment vor: Wir haben einen AI-Agenten entwickelt und nennen ihn Yvonne – in Anlehnung daran, dass Yvonne zuvor mit ihrem Marketing-Team genau diese Aufgaben übernommen hat. Nun übernimmt dieser digitale Agent ihre Rolle. Schauen wir uns an, wie Yvonne arbeitet und welche Fähigkeiten sie hat. 

Yvonne ist unser neuer Marketing-Agent. Ihre Aufgabe ist es, den Umsatz von Produkts X in Europa innerhalb von drei Monaten um 10 % zu erhöhen. Yvonne ist fähig, dieses komplexe Ziel in eine Reihe von konkreten Schritten zu zerlegen und autonom zu handeln: 

  • Sie recherchiert die Zielgruppen in den wichtigsten europäischen Märkten. 
  • Sie analysiert die Konkurrenz, um die besten Strategien zu identifizieren. 
  • Sie entwickelt eine massgeschneiderte Marketingstrategie für jedes Land. 
  • Sie erstellt und veröffentlicht gezielte Werbeanzeigen auf den passendsten Kanälen. 
  • Sie überwacht kontinuierlich die Verkäufe und passt die Strategie bei Bedarf an. 

Für die Umsetzung greift Yvonne auf verschiedene Ressourcen zu: 

  • Sie greift auf Marktforschungsdatenbanken und die APIs von Werbeplattformen zu. 
  • Sie erfasst personalisierte Anzeigentexte und setzt Kampagnen in den entsprechenden Sprachen um. 
  • Sie startet die Kampagnen auf Plattformen wie Google Ads und Social Media. 

Ein zentraler Punkt von Yvonnes Fähigkeit ist ihre Autonomie. Sie beobachtet kontinuierlich die Klick- und Konversionsraten. Wenn eine Kampagne in der Schweiz nicht wie erwartet läuft, beendet sie diese selbstständig und startet eine optimierte Version. 

Yvonne ist ein AI-Agent. Noch vor wenigen Jahren war das reine Science-Fiction – heute ist es Realität. Unternehmen, die keine AI-Agenten einsetzen, riskieren bald erhebliche Wettbewerbsnachteile. 

1.1. Was sind AI-Agenten?

Eine AI kann menschliche Fähigkeiten wie logisches Denken, Problemlösung und Entscheidungsfindung nachahmen. AI-Agenten verbinden diese Fähigkeiten mit der Fähigkeit zum autonomen Handeln, um konkrete Ziele zu erreichen.  

Die Schlüsselmerkmale der AI-Agenten sind:  

  • Autonomie: Sie treffen Entscheidungen ohne kontinuierliche menschliche Eingriffe  
  • Zielorientierung: Zerlegung eines übergeordneten Zieles in kleinere Schritte  
  • Interaktion mit der Umgebung: Sie lernen aus ihren Erfahrungen, um zukünftige Aufgaben effizienter zu lösen. 

Die Methoden, um eine AI zu erzeugen, werden in zwei Klassen eingeteilt. 1. Es gibt die regelbasierte AI („Good Old-Fashioned AI“) und 2. der «connectionistische» Ansatz (maschinelles Lernen). 

In dem Ansatz der regelbasierte AI werden klare, von Menschen programmierte Wenn-Dann-Regeln und symbolischer Logik verwendet. Die AI zieht Schlussfolgerungen, indem sie diese Regeln anwendet. Sie eignet sich hervorragend für Probleme mit festen, bekannten Regeln, wie etwa in Expertensystemen oder zur Verarbeitung von strukturierten Daten. 

In dem Ansatz der «Connectionistische AI» kommt maschinelles Lernen, insbesondere neuronale Netze, zum Einsatz. Die AI lernt, Muster und Beziehungen in grossen Datenmengen selbstständig zu erkennen, anstatt explizite Regeln zu befolgen. Sie ist ideal für komplexe, unstrukturierte Probleme wie Spracherkennung, Bildanalyse oder die Generierung von Texten. Dabei werden lediglich Muster erkannt und Wahrscheinlichkeiten für einen nächsten Satzteil berechnet; eine connectionistische AI ahmt nach, sie «versteht» nicht.  

OpenAI ist ein prominentes Beispiel für den connectionistischen Ansatz. Ihre Modelle, wie GPT («Generative Pre-trained Transformer»), basieren auf Deep Learning, einer spezialisierten Form des maschinellen Lernens. Die AI lernt aus riesigen Mengen an Text- und Bilddaten, um komplexe Aufgaben wie das Verfassen von Texten oder das Generieren von Code zu erfüllen. Sie wurde nicht mit festen Regeln programmiert, sondern durch das Training mit Daten befähigt, Muster zu erkennen und kreativ zu arbeiten. 

2. Der technologische Kern: Wie AI-Agenten funktionieren

Die Funktion eines Agenten basiert auf der sogenannten «AgenticLoop». Der Agentic-Loop-Prozess besteht aus fünf Schritten: 

1. Wahrnehmung

Der Agent sammelt Informationen aus seiner Umgebung, beispielsweise von Webseiten oder Datenbanken.

2. Planung

Ein Sprachmodell (LLM) dient als Gehirn, um einen detaillierten Plan zu erstellen.

3. Werkzeugnutzung

Der Agent nutzt verschiedene Werkzeuge wie APIs, Webbrowser oder Datenbanken, um seine Fähigkeiten zu erweitern.

4. Ausführung

Die geplanten Schritte werden mithilfe dieser Werkzeuge umgesetzt.

5. Reflexion

Der Agent bewertet das Ergebnis und passt seinen Plan bei Bedarf an, um das Ziel zu erreichen.

AI-Agenten sind AI-Systeme, d.h. sie sind aus verschiedenen Komponenten zusammengesetzt («Compound Systems»). Die Kombination verschiedener Komponenten ermöglicht es einem Agenten, von der reinen Sprachverarbeitung zu einem autonomen, handelnden System zu werden. 

AI IDEATION WORKSHOP

Expertenwissen inklusive:
Unsere AI-Spezialisten begleiten Sie durch alle Schritte,
von Use Case Bewertung bis Roadmap.

2.1. Das Gehirn: Large Language Model (LLM)

Das Large Language Model (LLM) ist das kognitive Zentrum eines jeden modernen Agenten. Stellen Sie es sich als den Chefplaner und Problemlöser vor. Ein LLM bekommt eine komplexe Aufgabe, z. B. „Buche eine Reise nach Rom und finde die besten Restaurants“. Es ist in der Lage, diese Aufgabe in eine logische Abfolge von Aktionen zu zerlegen: Zuerst Hotelsuche, dann Flugsuche, anschliessend Restaurantrecherche. Es ist trainiert, komplexe Zusammenhänge zu verstehen und logische Schlussfolgerungen zu ziehen. Wenn ein Buchungsversuch scheitert, kann das LLM analysieren, warum und einen alternativen Plan vorschlagen. 

Techniken wie Chain-of-Thought (CoT) machen den Denkprozess des LLMs sichtbar. Anstatt nur die Endlösung zu liefern, zeigt es die einzelnen logischen Schritte auf. Tree of Thoughts (ToT) geht noch weiter, indem es mehrere mögliche Denkpfade parallel verfolgt und den besten auswählt, ähnlich einem Schachcomputer, der verschiedene Züge vorausberechnet. 

2.2 Die RAG-Methode: Insiderwissen für den AI-Agenten

Ein LLM wurde auf einer riesigen Datenmenge vortrainiert. Es ist in der Lage, Textbausteine verblüffend gut vorherzusagen, es verfügt aber (hoffentlich) über kein Insiderwissen zu ihren Geschäftsprozessen. Ein AI-Agent kann auf bestimmte vordefinierte Wissensspeicher zurückgreifen. Zunächst wird oft die RAG (Retrieval-Augmented Generation) Methode verwendet. RAG ist eine Methode, mit der sich das Wissen eines Agenten erweitern lässt, ohne das LLM neu trainieren zu müssen. Es ist, als würde man einem Studenten erlauben, bei einer Prüfung ein Lehrbuch zu verwenden.  

Der Prozess läuft wie folgt ab: Zunächst werden externe Dokumente (wie PDFs, interne Wiki-Seiten oder Geschäftsberichte) durch Embedding Models in Vektoren umgewandelt und in einer Vektordatenbank gespeichert. Ein Vektor ist eine Liste von Zahlen, die die Bedeutung des Textes darstellt. Semantisch ähnliche Texte (z. B. „Sonnenblume blüht“ und „Blume wächst in der Sonne“) liegen in einem Vektorraum sehr nah beieinander. 

Wenn eine Frage gestellt wird, sucht der Agent mithilfe von «Vector-Search» die relevantesten Dokumente. Das LLM bekommt dann die ursprüngliche Frage plus die gefundenen Dokumente, um eine präzise, faktenbasierte Antwort zu generieren. Zusätzlich zum bekannten Prompt bekommt das LLM noch weiteren Kontext. So lassen sich „Halluzinationen“ (erfundene Informationen) des LLMs stark reduzieren. 

Ein Agent kann zwar denken, aber um zu handeln, benötigt er Werkzeuge. Diese Werkzeuge sind die Schnittstelle zur Aussenwelt. Sie sind meist in Form von APIs verfügbar.  

Beispiele für Werkzeuge, die ein AI-Agent verwenden kann, sind: 

  • Browser-Tool: Der Agent kann das Web durchsuchen, um aktuelle Informationen zu finden.  
  • E-Mail-Tool: Der Agent kann E-Mails lesen oder versenden, um mit Menschen oder Systemen zu kommunizieren. 
  • Unternehmens-API: Der Agent kann auf interne Systeme zugreifen, um beispielsweise einen Kundenstatus abzufragen oder eine Bestellung zu bearbeiten. 
  • Code-Interpreter: Der Agent kann Code schreiben und ausführen, um komplexe Berechnungen durchzuführen oder Daten zu analysieren. 

2.4 Die fünf Reifestufen von AI-Agenten

AI-Agenten werden in verschiedene Reifestufen unterteilt. AI-Agenten unterscheiden sich darin, wie eigenständig sie Wissen zusammensuchen, wie autonom sie Entscheidungen treffen und wie effektiv sie lernen können.  

Reaktive AI-Agenten

Reaktive AI-Agenten

sind einfache, regelbasierte Agenten, die direkt auf ihre aktuelle Umgebung reagieren, ohne sich an vergangene Handlungen zu erinnern. Sie verfügen über keinen langfristigen Plan und nutzen einfache Wenn-Dann-Regeln («Condition-Action-Rules»), um eine Aktion auszulösen. Beispiel: Ein Staubsaugerroboter, der sich umdreht, sobald er eine Wand berührt.

Modell-basierte reaktive Agenten

Modell-basierte reaktive Agenten

haben ein Modell seiner Umwelt, das auf seiner Wahrnehmungshistorie basiert. Sie können den aktuellen Zustand der Welt auch dann einschätzen, wenn nicht alle Informationen direkt sichtbar sind und fundiertere Entscheidung treffen. Beispiel: Ein selbstfahrendes Auto, das die Geschwindigkeit an die Wetterbedingungen anpasst, auch wenn die Strasse momentan trocken ist.

Zielbasierter AI-Agenten

Zielbasierter AI-Agenten

planen eine Abfolge von Aktionen, um ein bestimmtes Ziel zu erreichen. Dabei berücksichtigen sie nicht nur den aktuellen Zustand, sondern auch, wie verschiedene Aktionen zu einem gewünschten Ziel führen können. Sie verwenden Such- und Planungsalgorithmen. Beispiel: Ein Schachprogramm, das seine Züge plant, um den Gegner schachmatt zu setzen.

Nutzenbasierte AI-Agenten

Nutzenbasierte AI-Agenten

haben mehrere mögliche Ziele und wählen die Aktion mit dem höchsten Nutzen. Sie streben nicht nur danach, das Ziel zu erreichen, sondern es bestmöglich zu erreichen. Sie erreichen dies durch fortgeschrittene «Reinforcement Learning» Techniken. Beispiel: Ein Navigationssystem, das nicht nur den schnellsten Weg findet, sondern auch einen, der Staus, Mautgebühren und den Treibstoffverbrauch optimiert.

Lernende AI-Agenten

Lernende AI-Agenten

können sich selbst verbessern. Sie lernen aus ihren Erfahrungen und passen ihre Regeln, ihr Modell oder ihre Nutzenfunktion entsprechend an. Sie haben mehrere Komponenten: einen Lernalgorithmus, ein Leistungselement (das die Aktionen auswählt), einen Kritiker (das Feedback gibt) und einen Problemgenerator (die neuen Erfahrungen schafft). Beispiel: Ein AI-System, das aus Tausenden von Spielen lernt, um seine Leistung zu verbessern.

3. Merkmale eines Business-AI-Agenten

Business-AI-Agenten unterscheiden sich grundlegend von allgemeinen AI-Agenten. Ihr Hauptzweck ist die Optimierung von Unternehmensprozessen und die Steigerung von Finanzkennzahlen. Dazu konzentrieren sie sich auf spezifische, geschäftsrelevante Aufgaben. 

Business-AI-Agenten werden nicht als eigenständige, isolierte Systeme entwickelt, sondern um spezifische Probleme innerhalb von Wertschöpfungsketten zu lösen. Beispiele hierfür sind die Automatisierung von Kundenanfragen, die Optimierung von Lieferketten oder die Personalisierung von Marketingkampagnen 

Im Gegensatz zu generischen AI-Modellen, die auf öffentlichen Daten trainiert werden, nutzen Business-AI-Agenten vorrangig firmeneigene Daten. Diese Daten stellen den eigentlichen Wettbewerbsvorteil dar, da sie spezifisches Wissen über Kunden, Produkte, Betriebsabläufe und Märkte enthalten. Durch die Verarbeitung dieser proprietären Informationen können die Agenten hochspezialisierte und kontextsensitive Entscheidungen treffen, die direkt auf die Geschäftsziele abzielen. Die Governance dieser Daten ist dabei entscheidend für Sicherheit, Schutz des geistigen Eigentums und Compliance. 

Für ihren erfolgreichen Einsatz müssen Business-AI-Agenten nahtlos in die bestehende IT-Landschaft integriert werden. Dies umfasst die Anbindung an Systeme wie CRM, ERP oder SCM. Durch diese Integration können die Agenten Daten in Echtzeit abrufen und Aktionen direkt in den relevanten Geschäftsanwendungen ausführen. Eine plattformübergreifende Architektur und standardisierte APIs sind hierfür entscheidende technische Voraussetzungen. Eine wichtige Rolle spielt die  MLOps-Strategie um eine reibungslose Bereitstellung, Überwachung und Wartung der Agenten zu gewährleisten. 

4. Die Erstellung und Nutzung von Business-AI-Agenten

Die Entwicklung einer Business AI-Agenten erfordert spezielle Überlegungen, da die AI direkt in Unternehmensprozesse eingreift. 

4.1 Die technische Umsetzung von Business-AI-Agenten

Neben dem Erreichen der funktionalen Ziele eines AI-Agenten sind Sicherheit, Zuverlässigkeit und Skalierbarkeit entscheidend.  

Proprietäre, d.h. geschäftseigene Daten sind der wichtigste Input für einen Business-AI-Agenten. Um diese erfolgreich, sicher und ausreichend skaliert nutzen zu können, benötigt ein Unternehmen eine moderne Datenplattform. Ein Business-AI-Agent benötigt erhebliche Rechenleistung, um komplexe Aufgaben auszuführen und grosse Datenmengen zu verarbeiten. Die Datenplattform muss horizontal skalierbar sein, um mit dem Wachstum des Unternehmens und der steigenden Anzahl der vom Agenten verarbeiteten Aufgaben Schritt halten zu können. Sie muss eine hohe Leistung bei der Datenverarbeitung sicherstellen, insbesondere bei der Nutzung von GPUs, um Echtzeitanforderungen zu erfüllen. Die Plattform muss als zentrale Datenquelle dienen. Eine Lakehouse-Architektur verbindet die Flexibilität eines Data Lakes für unstrukturierte Daten mit den Governance- und Managementfunktionen eines Data Warehouse. Dadurch kann der AI-Agenten, auf alle relevanten Unternehmensdaten – von strukturierten Tabellen bis zu unstrukturierten Texten und Bildern – von einem einzigen Ort aus zugreifen. 

Das Model Context Protocol (MCP) und LangChain spielen zusammen eine wichtige Rolle bei der Entwicklung von Agentic AI. Das MCP ist ein offener Standard, der es KI-Modellen ermöglicht, auf externe Werkzeuge und Datenquellen zuzugreifen. Man kann es sich wie einen „USB-C-Anschluss“ für AI vorstellen. Es standardisiert die Kommunikation, sodass Agenten die reale Welt über APIs abfragen, Daten aus Datenbanken abrufen oder spezifische Aktionen in anderen Systemen ausführen können, ohne für jede Verbindung eine separate, benutzerdefinierte Integration zu benötigen. Dies ist entscheidend, damit AI-Agenten über ihr internes Wissen hinaus agieren und dynamische, kontextbezogene Aufgaben erfüllen können. LangChain ist ein Entwicklungs-Framework, das Entwicklern die Werkzeuge an die Hand gibt, um die logischen Denkprozesse eines Agenten zu steuern. Es ist die „Software-Architektur“, die die verschiedenen Bausteine – wie Prompts, Modelle und Datenkonnektoren – miteinander verbindet. Mithilfe von LangChain können Entwickler komplexe Workflows definieren, in denen ein Agent schrittweise Anfragen bearbeitet, externe Werkzeuge nutzt und am Ende eine kohärente Antwort generiert. 

Während das Model Context Protocol (MCP) die technische Schnittstelle bereitstellt, um externe Daten und Werkzeuge zu nutzen, entscheidet LangChain, wann und wie diese Schnittstelle verwendet wird. LangChain strukturiert den Prozess, bei dem ein Agent auf externe Ressourcen zugreift, die vom MCP-Standard unterstützt werden. Kurz gesagt: MCP ermöglicht die Verbindung, während LangChain die Intelligenz und den Ablauf orchestriert, um diese Verbindung zu nutzen. 

Eine robuste Sicherheitsarchitektur basiert auf mit der rollenbasierten Zugriffskontrolle (RBAC). Daduch wird sichergestellt, dass jeder Agent nur auf die Daten und Systeme zugreifen kann, die er für seine spezifische Aufgabe unbedingt erforderlich sind. Dies wird durch sichere Authentifizierungsverfahren wie OAuth 2.0 oder robuste API-Schlüssel ergänzt, die die Identität des Agenten vor jeder Aktion verifizieren. Darüber hinaus müssen alle Daten, die der Agent verarbeitet, sowohl während der Übertragung als auch bei der Speicherung verschlüsselt werden. Für eine lückenlose Nachverfolgung und Überprüfung ist schliesslich die Auditierbarkeit jeder Aktion des Agenten in sicheren Logs erforderlich. 

Ein Business-Agent muss auch bei unerwarteten Fehlern in der IT-Landschaft stabil und funktionsfähig bleiben. Dies erfordert eine umfassende Fehlerbehandlung und Protokollierung im Code, um eine schnelle Analyse und Behebung zu ermöglichen. Bei vorübergehenden Fehlern sollte der Agent die Aktion mit einer exponentiellen Backoff-Strategie automatisch wiederholen, also automatisierte Wiederholungsversuche (sogenannte Retries) durchführen. Um wiederholte Aufrufe an ein fehlerhaftes System zu verhindern, kann das Circuit-Breaker-Muster implementiert werden. Ergänzt wird dies durch ein kontinuierliches Monitoring und Alerts, das die Verfügbarkeit und Performance des Agenten sowie seiner abhängigen Systeme überwacht, um das Betriebsteam bei kritischen Fehlern umgehend zu benachrichtigen. 

Zudem muss eine Business-Lösung in der Lage, mit dem Wachstum des Unternehmens skalierbar sein und eine steigende Anzahl von Aufgaben bewältigen können. Die technische Architektur sollte daher von vornherein auf Skalierbarkeit ausgelegt sein, beispielsweise durch eine Microservices-Architektur. Diese ermöglicht es, einzelne Komponenten unabhängig voneinander zu skalieren und zu warten. Durch Containerisierung und Orchestrierung mit Technologien wie Docker und Kubernetes wird die Bereitstellung und Skalierung der Komponenten automatisiert. Für bestimmte Agenten-Funktionen können auch Serverless-Architekturen genutzt werden, bei denen die Rechenressourcen automatisch nach Bedarf bereitgestellt werden. Grundsätzlich sollte die Architektur eine horizontale Skalierung ermöglichen, bei der die Leistung durch das Hinzufügen weiterer Instanzen gesteigert wird. 

Die Beachtung dieser technischen Voraussetzungen ist der Schlüssel, um Business-AI-Agenten nicht nur als innovative, sondern auch als sichere, zuverlässige und zukunftsfähige Unternehmenslösungen zu etablieren. 

4.2 Governance und Regulierung von Business-AI-Agenten

Die rasante Entwicklung von AI-Agenten und ihre Integration in Geschäftsprozesse werfen wichtige Fragen zu Sicherheit, Ethik und Kontrolle auf. Um die Vorteile dieser Technologie zu nutzen und gleichzeitig Risiken zu minimieren, ist die Implementierung einer robusten Governance und die Beachtung regulatorischer Rahmenbedingungen entscheidend. Parallel zur technologischen Realisierung von AI-Agenten müssen die technischen Möglichkeiten für eine effektive Governance geschaffen werden. 

Die Regulierung von AI-Systemen ist weltweit ein wachsendes Anliegen. Der EU AI Act ist ein prominentes Beispiel hierfür, da er einen risikobasierten Ansatz verfolgt. Systeme mit hohem Risiko, wie sie in kritischen Sektoren eingesetzt werden, unterliegen strengeren Vorschriften. Das Ziel besteht darin, ein Gleichgewicht zwischen Innovation und Sicherheit zu finden und gleichzeitig einheitliche Standards zu schaffen. 

Wenn eine autonome AI einen Fehler macht, der zu einem finanziellen Verlust oder einem Imageschaden führt, muss die Frage der Verantwortung klar definiert sein. Es muss festgelegt werden, ob die Entwickler, das Management oder der Betreiber für die Handlungen der AI haftbar gemacht werden können. Die Klärung dieser Fragen ist grundlegend für das Vertrauen und die Rechtssicherheit im Umgang mit AI-Systemen. 

AI-Agenten müssen so konzipiert sein, dass sie alle relevanten Gesetze und Vorschriften einhalten. Ein zentrales Beispiel hierfür ist die Datenschutz-Grundverordnung (DSGVO), die strenge Anforderungen an die Verarbeitung personenbezogener Daten stellt. 

Die Entscheidungen und Aktionen eines AI-Agenten müssen protokolliert werden können. Diese Auditierbarkeit ist für interne Kontrollen unerlässlich und dient zur Klärung der Verantwortlichkeit im Schadensfall. Dieses Konzept ist als „Explainable AI“ (XAI) bekannt und zielt darauf ab, die Transparenz und Erklärbarkeit der AI-Entscheidungen zu gewährleisten. Das ist für das Vertrauen von Nutzern und Stakeholdern unerlässlich. 

Technologische Voraussetzungen für AI-Governance

Für eine effektive AI-Governance ist eine solide technologische Infrastruktur erforderlich, die über die reine Modellentwicklung hinausgeht. 

Daten- und Metadaten-Management:
Eine klare, zentralisierte Datenplattform (z.B. ein Data Lakehouse) ist unerlässlich. Metadaten-Management-Systeme (Data Catalogs) ermöglichen die Nachverfolgung der Herkunft von Daten, ihrer Transformation und ihrer Nutzung durch AI-Agenten. Dies bildet die Grundlage für Auditierbarkeit und Reproduzierbarkeit.
Automatisierte Überwachung und Logging:
Kontinuierliche Überwachungssysteme (Monitoring) müssen in Echtzeit die Leistung, den Drift und die Fairness des AI-Agenten erfassen. Ausführliche Logging-Mechanismen protokollieren jede Aktion und Entscheidung sowie die dafür verwendeten Eingaben.
Modell-Registry und Versionskontrolle:
Jede Version eines AI-Modells muss eindeutig identifizierbar, speicherbar und bei Bedarf reproduzierbar sein. Eine zentrale Modell-Registry ermöglicht eine klare Versionsverwaltung und die Rückverfolgung von Modelländerungen.
CI/CD-Pipelines für ML (MLOps):
Der Einsatz von Continuous Integration und Continuous Deployment (CI/CD) in der ML-Entwicklung (MLOps) ermöglicht eine automatisierte, verantwortungsvolle und standardisierte Bereitstellung von AI-Modellen. Dadurch werden manuelle Fehler reduziert und Governance-Schritte in den Entwicklungsprozess integriert.
Automatisierte Bias- und Fairness-Tests:
Technologische Werkzeuge müssen in den Entwicklungsprozess integriert werden, um Modelle vor der Produktion automatisiert auf potenzielle Voreingenommenheit (Bias) und Fairness zu testen. Dies trägt zur Einhaltung ethischer Grundsätze bei.

4.3 Das Risikomanagement von Business-AI-Agenten

Die Einführung autonomer Business-AI-Agenten birgt spezifische Risiken, die proaktiv gemanagt werden müssen. Eine effektive Risikostrategie ist entscheidend, um die Sicherheit und Stabilität eines Unternehmens zu gewährleisten. 

Es bestehen erhebliche Sicherheitsrisiken. Ein autonomer Agent, der im Unternehmensnetzwerk agiert, kann ein Einfallstor für Cyberangriffe darstellen, wenn er nicht ausreichend gesichert ist. Angreifer könnten versuchen, die Kontrolle über den Agenten zu übernehmen, um auf sensible Daten zuzugreifen oder ihn für bösartige Zwecke zu missbrauchen. Um dies zu verhindern, müssen strenge Sicherheitsmechanismen wie Intrusion Detection Systeme (IDS) implementiert werden, die den Netzwerkverkehr auf verdächtige Aktivitäten überwachen. Auch regelmäßige Sicherheitsaudits zur Überprüfung von Schwachstellen, die Verschlüsselung von Daten und die Segmentierung des Netzwerks sind entscheidende Massnahmen. 

Für einen AI-Agenten sind Notfall- und Abbruchverfahren erforderlich. In kritischen Situationen muss stets die Möglichkeit bestehen, die Kontrolle über den Agenten zurückzugewinnen. Ein klarer Weg, die AI im Notfall manuell zu stoppen oder ihre Aktionen zu korrigieren, muss vorhanden sein. Ein sogenannter „Kill-Switch“  ist hier eine notwendige Sicherheitsmassnahme, die es autorisierten Personen ermöglicht, den Agenten bei unvorhergesehenem oder schädlichem Verhalten sofort zu deaktivieren. Notfallprotokolle müssen zudem klar definieren, wer zum Eingreifen befugt ist und welche Schritte im Falle einer Fehlfunktion einzuleiten sind. 

Schliesslich besteht das Risiko unbeabsichtigter Konsequenzen. Eine AI, die ausschliesslich auf die Steigerung einer einzelnen Metrik, beispielsweise des Umsatzes, optimiert ist, könnte unbeabsichtigte negative Auswirkungen auf andere Unternehmensbereiche haben. Eine rein gewinnmaximierende AI könnte beispielsweise die Kundenzufriedenheit ignorieren, aggressive Verkaufsstrategien anwenden oder sogar das Markenimage beschädigen. Um solche negativen Folgen zu vermeiden, sollte der Agent nicht nur auf eine, sondern auf mehrere Metriken trainiert werden, die die übergeordneten Geschäftsziele widerspiegeln. Ein Human-in-the-Loop„-Ansatz, bei dem menschliche Experten das Verhalten des Agenten regelmäßig überprüfen und korrigieren, ist ebenfalls unerlässlich. Zusätzlich müssen ethische und geschäftsbezogene Regeln direkt in den Code des Agenten eingebettet werden, um unerwünschte Aktionen von vornherein zu unterbinden. 

5. Agentic AI: Ein Paradigmenwechsel für Effizienz und Produktivität

Agentic AI stellt einen Paradigmenwechsel dar, der das Potenzial hat, die Effizienz und Produktivität von Unternehmen radikal zu steigern. Die Entwicklung einer Business-Agentic AI erfordert jedoch mehr als nur technische Expertise; sie verlangt einen umfassenden Ansatz, der Sicherheits-, ethische und Governance-Fragen von Anfang an berücksichtigt. Indem Unternehmen diese Herausforderungen proaktiv angehen, können sie die Vorteile autonomer AI-Systeme nutzen und gleichzeitig die Risiken minimieren.  

Wir begleiten Sie von der Konzeption bis zur Implementierung 

Die Entwicklung von Agentic AI-Systemen erfordert intelligentes Know-how und einen End-to-End-Ansatz. Die s-peers AG begleitet Sie von Konzeption bis zur erfolgreichen Implementierung. 

Bleiben Sie dran für weitere Wiki-Artikel zu den Themen Data, Analytics und AI! Und ja, sie werden alle von echten Nerds mit Leidenschaft geschrieben. 

 

AI IDEATION WORKSHOP

Expertenwissen inklusive:
Unsere AI-Spezialisten begleiten Sie durch alle Schritte,
von Use Case Bewertung bis Roadmap.

Mehr wissen?

Möchten Sie tiefer in das Thema Business-Agentic AI eintauchen? Wir freuen uns, persönlich mit Ihnen über Chancen, Risiken und Einsatzmöglichkeiten von AI-Agenten in Unternehmen zu sprechen.

Christiane Maria Kallfass ist Recruiting- und Marketing Specialist bei der s-peers AG
Christiane Grimm
Inside Sales

Published by:

Dr. Andreas Wagner

Customer Success Executive

autor:IN

Wie hat Ihnen der Artikel gefallen?

Wie hilfreich war dieser Beitrag?

Klicken Sie auf einen Stern, um zu bewerten!

Durchschnittliche Bewertung 4.8 / 5.
Anzahl Bewertungen: 36

Bislang keine Stimmen! Seien Sie die erste Person, die diesen Beitrag bewertet!

INFORMATIONEN

Weitere Informationen

Visual Databricks und BDC Wiki

Was ist Databricks? Was ist die BDC? Die ultimative Anleitung für die perfekte Kombination!

In der heutigen datengetriebenen Geschäftswelt ist die Fähigkeit, grosse Datenmengen effizient zu analysieren und zu nutzen, entscheidend für den...
Ein Update passend zur SAC Stories Überarbeitung

SAC Migration bis Q2 2026: Der Leitfaden zur Umstellung auf die Optimized Story Experience

Die Zeit für die Umstellung der SAP Analytics Cloud (SAC)...
Hände mit drei Sternen die für die Unterschiedlichen Technologien stehen. SAP Analytics Cloud, SAP Business Data Cloud, SAP Datasphere.

Feature Update zur SAP Business Data Cloud, Analytics Cloud und Datasphere

Dieser Wiki-Artikel fasst die wichtigsten Inhalte des Webinars zum Thema:...
Herr der Ringe Assoziation mit Verbindung auf SQL und dbt als Kämpfer.

SQL und dbt: Die Zukunft der modernen Datentransformation

Der Artikel beschreibt die Datenverarbeitung in Unternehmen. Dabei werden sowohl...
9.1 Unterschiede zwischen SAP Databricks und native Databricks

SAP Databricks vs. Native Databricks: Der detaillierte Vergleich für Ihr Unternehmen

In der heutigen datengetriebenen Geschäftswelt ist die Fähigkeit, grosse Datenmengen effizient zu analysieren und zu nutzen, entscheidend für den...
Wiki Was ist Artificial Intelligence (AI) (2)

Was ist ein Semantic Layer? Definition, Nutzen und Rolle in modernen Datenarchitekturen

Dieser Wiki-Artikel erklärt, was ein Semantic Layer ist und warum...

SAP Datasphere-Daten in Power BI: So gelingt der direkte Zugriff

Dieser Artikel ist Teil 1 einer zweiteiligen Blogserie zur Integration...