KI-Agenten – Die wichtigsten Multi-Agenten-Tools und Frameworks

AI-Agenten können zusammenarbeiten und selbstständig Aktionen ausführen. Dadurch kommen sie zu besseren Ergebnissen als normale generative AI-Lösungen. Wir zeigen die wichtigsten Tools und Frameworks zur KI-Agenten-Erstellung mit und ohne Coding. 

Teil 1: AI-Agent-Tools ohne Coding

Wer AI-Agenten einsetzen will ohne zu programmieren, hat bereits einige Tools zur Auswahl, von Open Source bis kommerziell. Hier können Agenten mit einfachen Web-Interfaces zusammengeklickt werden. Die Logik und das Verhalten definiert man, indem man die Agenten mit System-Prompts oder Low-Code-Editoren (mit Logik/Aktions-Bausteinen und Formelfeldern) mitteilt, was ihre Aufgaben sind und wie genau sie diese ausführen. Dazu gibt man den Agenten Fähigkeiten (meist "Actions" genannt), mit denen z.B. im Internet recherchiert werden kann oder Tools angesprochen werden können. In einem Playground kann man dem Agent-System dann eine Aufgabe geben und einsehen, wie die Agents untereinander die Lösung erarbeiten. Zu den wichtigsten Lösungen zählen:

 

AutoGen Studio

Das Open-Source-Tool AutoGen Studio wird von Microsoft kostenlos zur Verfügung gestellt. Man kann AI-Agenten ohne Code in einer Web-Oberfläche wirklich sehr einfach erstellen. Im Hintergrund wird das ausgereifte Agent-Framework AutoGen verwendet. Per Klick kann man erste Showcases ausprobieren, z.B. ein Agenten-Team, das aktuelle Aktienkurse im Web recherchiert und damit einen Chart erstellt. Agenten können sogar Code ausführen und somit Daten auswerten, Charts erstellen, komplexe Berechnungen ausführen und vieles mehr. Es können die wichtigsten LLMs angebunden werden, z.B. GPT (via OpenAI-API oder eigene Azure-Instanz), Claude und Google Gemini. Man kann den Agenten auch eigene Skills zur Verfügung stellen, die man per Python coded. Zur Installation braucht man eine Python-Umgebung und API-Keys der LLMs, die man nutzen möchten. Somit ist die Lösung nur mit etwas Tech-Skills für die Installation nutzbar, aber dafür ausgereift und kostenlos.

  • Website: https://autogen-studio.com/
  • Kosten: kostenlos (Open Source)
  • Verbreitung: sehr hoch ★★★
  • Besonderheiten: Einfach nutzbares UI, Installation mit Python

Relevance AI

Relevance AI hat bereits seit 2018 KI-Agenten-Systeme entwickelt. Die webbasierte Plattform bietet eine No-Code-Umgebung mit visuellem Interface, mit der selbst Nicht-Programmierer innerhalb von Minuten komplexe KI-Agenten erstellen können. Man kann Hierarchien von Agenten zusammenstellen. Ein integrierter Vectorstore macht schnelle Antwortzeiten möglich. Die Plattform setzt auf Datensicherheit und Datenchutz durch SOC 2 Zertifizierung und DSGVO-Konformität.

Microsoft Copilot

Microsofts Vision ist es, Unternehmen durch AI-Agenten in allen Prozessen zu unterstützen und somit AI als Teil des Unternehmens gewinnbringend für Automatisierungen nutzbar zu machen. Der Microsoft Copilot ist für viele Unternehmen die wichtigste AI-Lösung. Denn dieser ist integriert in Word, Powerpoint, Outlook, Teams, Excel, Sharepoint und in die Cloud-Lösung Azure. Copilot bietet hohe Sicherheitsstandards durch seine Integration in Microsofts Welt. Admins können den Copilot je User freigeben und Rechte granular steuern. Die Copilot-Agenten können einfach erstellt werden und mit den Unternehmens-Dokumenten verknüpft werden. So findet man per Teams-Chat schnell wichtige Dokumente und kann das Unternehmenswissen nutzen. Die weiteren Profi-Lösungen Copilot Studio und Power Automate ermöglichen sogar, komplexe Agenten zu erstellen, die mit allen Unternehmens-Anwendungen (z.B. Dynamics CRM, SAP, Salesforce) und anderen Copilots zusammenarbeiten.

  • Website: https://www.microsoft.com/microsoft-365/copilot
  • Kosten: ca. 30€/Monat pro Nutzer (Microsoft 365 Copilot) + Copilot Studio und Power Automate
  • Besonderheiten: Integriert in alle wichtigen Microsoft-Tools und technisches Unternehmens-Ökosystem (Sharepoint, Azure), höchste Sicherheitsstandards, Copilots können durch über 1.400 Konnektoren mit allen Tools interagieren.
  • Verbreitung: sehr hoch ★★★
  • Mehr erfahren: Keynote von Microsoft-Chef Satya Nadella auf der Ignite 2024 zu Microsofts AI-Vision

 

n8n

Das stark angesagte Workflow-Automation-Tool n8n mit den vielen Konnektoren und datenschutzfreundlicher, kostenloser On-Premise-Option darf in keiner Agenten-Tool-Liste fehlen. Hier gehts zum n8n-Tutorial.

Agentforce 2.0

Der CRM-Hersteller Salesforce bietet mit Agentforce ein eigenes Agenten-System an, das hilfreiche Agenten zur Unterstützung von Marketing, Vertrieb und Kundenservice und Zusammenarbeit ermöglicht. Im Marktplatz findet man vordefinierte Agenten, die man direkt nutzen kann. Agentforce-KI-Agenten können mit Tools aus dem Salesforce-Universum zusammenarbeiten, z.B. Salesforce CRM, Tableau, Slack und weitere.

 

Weitere AI-Agent-Tools

  • AutoGPT - Agents per Prompt erstellen, 20 Beispiel-Agents, einfaches UI
  • SuperAGI - Agent-Tool mit Spezialisierung auf Marketing und Sales
  • make.com - Automatisierungs-Tool mit zahlreichen Konnektoren und Agent-Fähigkeiten

 

Teil 2: AI-Agenten-Frameworks für Developer

Für Developer und AI-Spezialisten sind Programmier-Frameworks der beste Weg, um AI-Agenten in eigene Systeme zu integrieren oder neue Tools zu erstellen. Hier gibt es einige ausgereifte AI-Agent-Frameworks zur Auswahl. Zu den wichtigsten Lösungen zählen folgende Frameworks:

  • AutoGen & Magentic-One
  • LangChain
  • CrewAI
  • Semantic Kernel
  • Weitere

 

AutoGen & Magentic-One

AutoGen wird von Microsoft als Open Source Software entwickelt und ermöglicht es, Agenten-Systeme per Code zu erstellen. Es gibt Libraries für Python, C#/.NET-Framework, Java und Javascript. Zudem gibt es seit 11/2024 die Weiterentwicklung Magentic-One, die speziell für Multi-Agenten-Systeme ausgelegt ist und durch eine verbesserte, modulare Architektur mehr Struktur für die Anforderungen von komplexen Multiagenten-Systeme gibt.

 

LangChain & LangGraph

LangChain ist ein beliebtes Open-Source-Framework mit umfangreichen Komponenten für LLM-gestützte Anwendungen. Es unterstützt alle LLM-Anbieter und hat eine große, aktive Community. Mit LangGraph Platform (kommerziell) steht zudem eine für Live-Anforderungen skalierbare Plattform zur Verfügung (eigenes Hosting in EU/US-Cloud möglich). Im LangGraph Studio können Agenten-Abläufe visuell abgebildet werden.

CrewAI

CrewAI ist ein ausgereiftes und verbreitetes Framework für die Entwicklung und Einbindung von AI-Agenten in eigene Anwendung. Das Framework ist kostenlos nutzbar, die Enterprise-Version bietet ausgereifte Tools und Erweiterungen, z.B. Konnektoren zu 700 Anwendungen, ein No-Code UI-Studio sowie integrierte Trainings- und Test-Tools. Es gibt viele kostenlose Online-Videos zum Lernen.

  • Website: https://www.crewai.com/
  • Kosten: Free Version: kostenlos (Open Source), Enterprise-Version: Preis auf Anfrage
  • Verbreitung: sehr hoch ★★★
  • Besonderheiten: Hohe Verbreitung, Enterprise-Tools verfügbar
  • Mehr erfahren:

 

Semantic Kernel

Semantic Kernel ist ein Open-Source-SDK von Microsoft, das die Integration von LLMs wie OpenAI, Azure OpenAI und Hugging Face mit Programmiersprachen wie C#, Python und Java ermöglicht. Mit dem "Semantic Kernel Agent Framework" kann man Agenten-Fähigkeiten ergänzen. Man kann Plugins erstellen, die dem Agent ermöglichen Aktionen auszuführen, wie z.B. Emails versenden, Web-Recherche, CRM-Daten abrufen etc. Mit Planern kann ein LLM eigenständig Pläne zur Erreichung spezifischer Ziele erstellen und ausführen (z.B. erste Web-Recherche, dann Artikel-Outline, dann Absätze ausarbeiten). Semantic Kernel ist ein reifes Framework für den Einsatz im Unternehmen.

Semantic Kernel am Beispiel eines Textersteller-Agenten. Der Agent hat die Funktionen Brainstorm, Email-Erstellung und weitere. Mit dem Planer wird die richtige Funktion je nach Aufgabe automatisch ausgewählt.
Semantic Kernel am Beispiel eines Textersteller-Agenten. Der Agent hat die Funktionen Brainstorm, Email-Erstellung und weitere. Mit dem Planer wird die richtige Funktion je nach Aufgabe automatisch ausgewählt.

 

Weitere AI-Agent-Frameworks

  • OpenAI Swarm - OpenAIs OpenSource-Framework für Agenten, derzeit noch experimentell
  • llama-agents - Ein OpenSource Agents-Framework basierend auf dem populären LlamaIndex-Framework
  • smolagents - Ein schlankes Open-Source Agents-Framework von HuggingFace
  • Multi-Agent Orchestrator - Ein Open-Source Agents-Framework von AWS für TypeScript und Python

 

Was sind AI-Agenten?

Agentensysteme (auch: "Agentic AI" oder "Multi-Agenten-Systeme") gelten als nächste große AI-Welle und versprechen große KI-Fortschritte. Das Agent-Konzept bedeutet, dass KI-Agenten spezialisiert auf bestimmte Aufgaben sind. Zudem können sie Aufgaben eigenständig bzw. autonom planen, ausführen und koordinieren. Sie unterscheiden sich von traditionellen KI-Systemen dadurch, dass sie nicht nur einzelne Anweisungen ausführen, sondern komplexe Prozesse selbstständig ausführen.

Die Stärke solcher Agenten liegt in ihrer Fähigkeit, verschiedene Werkzeuge und Dienste zu kombinieren - von Web-Recherchen über Datenanalysen bis hin zur Generierung von Grafiken oder Berichten. Durch die Möglichkeit, mehrere Agenten in einem Team zu koordinieren, können sie noch komplexere Aufgaben bewältigen, die über die Fähigkeiten eines einzelnen Agenten hinausgehen. Entscheidend ist dabei, dass KI-Agenten nicht nur Informationen verarbeiten, sondern auch kontextbezogene Entscheidungen treffen und ihre Arbeitsweise dynamisch an gegebene Ziele anpassen.

Beispiele für AI-Agenten

  • Marktrecherche-Agent: Ein KI-Agent kann beispielsweise eine Marktrecherche durchführen, indem er Google/Bing-Suchen ausführt, die Ergebnisse sammelt, analysiert, Zwischenergebnisse bewertet und seine Strategie entsprechend anpasst. Er kann dazu mit anderen Agenten absprechen, die Teile der Aufgabe übernehmen, wie z.B. die Überprüfung der Recherche oder Aufbereitung als Word oder Website-Text.
  • Forschungs-Agent: Durchsucht systematisch wissenschaftliche Datenbanken, extrahiert relevante Forschungsergebnisse und erstellt kompakte Zusammenfassungen zu spezifischen Themengebieten. Ideal für Wissenschaftler und Rechercheteams.
  • Kundenservice-Agent: Analysiert Kundenanfragen ganzheitlich, greift auf Unternehmensdatenbanken zu und generiert kontextbezogene Lösungen. Er kann Fehler diagnostizieren, Reparaturanleitungen erstellen und Serviceprozesse vollständig abwickeln.
  • Finanz-Agent: Überwacht Aktienmärkte in Echtzeit, bewertet Unternehmensbilanzen und generiert datenbasierte Investitionsempfehlungen. Er kombiniert Informationen aus verschiedenen Quellen, um präzise Anlagestrategien zu entwickeln.

Häufig gestellte Fragen zu KI-Agenten

Was unterscheidet KI-Agenten von normalen KI-Chatbots?

Ein KI-Agent geht weit über die Funktionalität eines Chatbots hinaus. Während ein Chatbot typischerweise auf direkte Anfragen reagiert, kann ein KI-Agent selbstständig Aufgaben planen, verschiedene Werkzeuge kombinieren und komplexe Prozesse eigenständig durchführen. Er arbeitet proaktiv, trifft kontextbezogene Entscheidungen und passt seine Strategie dynamisch an, um ein definiertes Ziel zu erreichen. Ein Beispiel wäre ein Agent, der nicht nur Marktdaten zusammenträgt, sondern diese auch analysiert, interpretiert und einen strategischen Bericht generiert.

Welche Voraussetzungen braucht man, um KI-Agenten zu nutzen?

Die Nutzung von KI-Agenten variiert je nach Komplexität. Für No-Code-Plattformen wie AutoGen Studio oder Relevance AI benötigen Unternehmen primär: Grundlegende digitale Kenntnisse, Skills bei der Auswahl und Einrichtung eines Agent-Tools, API-Zugänge zu KI-Modellen (OpenAI, Google Gemini, Claude), klare definierte Aufgabenstellungen und vor allem Zeit bei der Umsetzung der KI-Use-Cases und Begleitung in den produktiven Betrieb. Für fortgeschrittene Implementierungen mit Entwickler-Frameworks wie CrewAI oder LangChain sind Python-Programmierkenntnisse und tiefere KI-Technologie-Verständnisse erforderlich.

Machen KI-Agenten auch Fehler?

Ja, KI-Agenten können durchaus Fehler produzieren. Sie basieren auf probabilistischen Modellen, die Wahrscheinlichkeiten nutzen, um Entscheidungen zu treffen. Professionelle Frameworks integrieren daher Mechanismen wie Mehrfach-Agenten-Validierung, Fehlerprüfung und schrittweise Verifizierung, um Fehlerwahrscheinlichkeiten zu minimieren. KI-Agenten könnten jedoch aufgrund ihrer fortschrittlicheren Fähigkeiten eine höhere Genauigkeit und Zuverlässigkeit bei komplexeren Aufgaben bieten. Valide Studien stehen derzeit noch aus.

Welche besonderen Sicherheitsrisiken gibt es bei KI-Agenten?

KI-Agenten bergen potenzielle Risiken, die systematisch adressiert werden müssen:

  • Unbeabsichtigte Datenlecks durch unbegrenzte Web-Recherchen oder Tool-Zugriff: Möglich wäre, dass ein Account durch zu viele Agenten-Logins gesperrt wird. Oder der Agent entscheidet sich dazu das Passwort zurückzusetzen und sperrt dadurch Nutzer aus.
  • Mögliche Fehler bei komplexen Entscheidungsprozessen
  • Risiken von Voreingenommenheit der zugrundeliegenden KI-Modelle (Diskriminierung)
  • Potenzieller Missbrauch durch unsachgemäße Konfiguration

Professionelle Lösungen wie Microsoft Copilot oder Salesforce Agentforce bieten integrierte Sicherheitsmechanismen wie granulare Zugriffsrechte, Datenfilter und Compliance-Kontrollen.

Für welche Branchen sind KI-Agenten besonders interessant?

KI-Agenten zeigen besonders in diesen Bereichen großes Potenzial:

  • Vertrieb und Marketing (automatisierte Kundenanalysen)
  • Kundenservice (24/7 Support mit kontextverständigen Lösungen)
  • Finanzwesen (Marktanalysen, Risikobewertungen)
  • Forschung und Entwicklung (Datenanalyse, Literaturrecherchen)
  • Logistik (Prozessoptimierung, Ressourcenplanung)

Wie teuer sind KI-Agenten für kleine und mittlere Unternehmen?

Die Kosten variieren stark:

  • Kostenlose Open-Source-Lösungen (AutoGen Studio)
  • No-Code-Plattformen ab 19€/Monat (Relevance AI)
  • Enterprise-Lösungen ab 30€ pro Nutzer (Microsoft Copilot)
  • Individuelle Entwicklungen mit Entwickler-Frameworks: variabler Aufwand

Kleine Unternehmen können mit kostenlosen Versionen beginnen und später skalieren.

Gute Quellen - Mehr über AI-Agent-Systeme lernen

  • DeepLearning.AI - Python-basierte Kurse zum direkten Ausprobieren von Agenten-Frameworks, z.B. zu OpenAI GPT, MemGPT, crewAI, Haystack, LangChain, AutoGen, LlamaIndex
  • Agents - Ein Google-Whitepaper mit Kurz-Tutorial für LangChain

Podcast über AI-Agenten-Lösungen

Im Dialog lernt es sich leichter und man bekommt gute Ideen. Hör darum unbedingt in unseren AI-Podcast rein!