Mit Flowise und Langflow kann man generative KI-Anwendungen per Drag & Drop erstellen, ohne dass man Developer-Skills braucht. Dies hilft beim schnellen Prototyping und einfachen Ausprobieren. Wir stellen die angesagten kostenlosen KI-Prototyping-Tools vor.
Aktualisierungen:
- Update 06/2024: Weitere Tools und Multiagenten-Tools ergänzt (crewAI, AutoGen, Stack AI)
Was sind Flowise und Langflow?
Flowise und Langflow sind kostenlose Low-Code-Tools, mit denen man generative KI-Anwendungen ("GenAI") einfach erstellen kann. Beide Tools lassen sich direkt im Browser nutzen. Sie bieten einen Drag & Drop-Editor, mit dem man sich die typischen Komponenten von GenAI-Anwendungen visuell zusammensteckt und direkt ausprobieren kann. So kann man z.B. in kurzer Zeit einen OpenAI-GPT-basierten Chatbot erstellen.
Was sind die Vorteile von Low-Code-Lösungen für das Prototyping?
Die Lösungen ermöglichen, in kürzester Zeit Prototypen von KI-Anwendungen zu erstellen. Dies ist besonders bei der Entwicklung generativer KI-Anwendungen hilfreich, da man hier meist mit verschiedenen Experten zusammenarbeitet und schnell Ergebnisse sehen möchte, um diese laufend zu bewerten und zu verbessern. Ein gutes Vorgehen bei der GenAI-Entwicklung ist meist iterativ und ergebnisorientiert. So können Developer, KI- und Sprach-Spezis sowie Fachanwender gemeinsam KI-Anwendungen entwickeln und optimieren. Zudem kann man mit Langflow/Flowise auch komplexere Abläufe kombinieren und dadurch nützliche Tools schaffen, z.B. ein Content-Generator, der Texte, Bilder, Tabellen und vieles mehr automatisch erstellt. Der Drag & Drop-Editor ist leicht nutzbar und gleichzeitig mächtig. Beide Tools setzen dafür den ausgereiften, visuellen OpenSource-Editor ReactFlow ein, und sehen deshalb ähnlich aus.
Der große Vorteil der Prototyping-Lösungen ist, dass diese viele nützliche Komponenten und Integrationen gleich mitbringen. Dazu zählen z.B. die Vektor-Datenbank-Integration, Crawler- und Google-Search-APIs, Text-Splitter, Document Loader für PDFs und Texte und vieles mehr. Dadurch kann man neuartige Use-Cases entwickeln und spart einiges an Zeit und Entwickler-Kapazitäten.
Unterschiede zwischen Flowise und Langflow
Flowise bietet die meisten Integrationen und viele Zusatz-Tools. Es eignet sich zum Erstellen beliebiger GenAI-Anwendungs-Prototypen. Flowise wird von namhaften Unternehmen eingesetzt: AWS, Alibaba, Hitachi, ByteDance, Microsoft, InsightSoftware, Google, Accenture und weitere.
Langflow bietet weniger Integrationen, da es speziell für das Prototyping von Langchain-Anwendungen ausgelegt ist. Langchain ist ein sehr beliebtes Framework zum coden von GenAI-Anwendungen. Langflow hat geschätzt eine höhere Verbreitung bei vielen Nutzern, da nahezu jeder LLM-Einsteiger die Online-Kurse von deeplearning.ai kennt, bei denen Langchain stark genutzt wird.
Fazit:
Wer vielfältige KI-Apps prototypen und ausprobieren möchte, wird mit Flowise glücklicher. Langflow bietet eher eine zusätzliche Unterstützung, wenn man ein LangChain-basiertes Projekt plant. Beide Low-Code-Anwendungen sind tatächlich ohne Coding nutzbar.
Sind Langflow und Flowise für Einsteiger nutzbar?
Auch wenn kein Coding erforderlich ist, braucht man dennoch ein gutes Grundverständnis, um GenAI-Anwendungen zu erstellen. Dazu zählt Wissen über die Begriffe wie "LLM", "Prompt Template" oder "Prompt Chain" sowie die Parameter der Modelle. Wer das Grundverständnis mitbringt, kann schnell schlaue Anwendungen prototypen, ausprobieren und eindrucksvoll seinen Kunden demonstrieren. Wer Wissen aufbauen will, kann aus vielen kostenlosen Online-Kursen zu LLM-Entwicklung wählen.
Hier die beiden Low/No-Code-Lösungen im Kurzüberblick.
Langflow
- Website: Offizieller Download auf dem Github-Space von "Logspace AI"
- Einsatzzweck: für das Erstellen von Langchain-basierten Anwendungen, Prototyping
- Typ: Low-Code / No-Code-Tool
- Technologie: Python-Server + Browser-Frontend
- Support: ★★★ große Community, einige Youtube-Videos vorhanden
- Dokumentation: ★★★ gute Dokumentation
- Integrationen: ★★ Eher wenige Integrationen (jedoch ausreichend für Langchain-Prototyping)
- Voraussetzungen: Für die genutzten Komponenten braucht man API-Keys (z.B. OpenAI API)
- Kosten: kostenlos
Flowise
- Website: flowiseai.com
- Einsatzzweck: für beliebige GenAI-Anwendungen, Prototyping
- Typ: Low-Code / No-Code-Tool
- Technologie: NodeJS-Server + Browser-Frontend
- Support: ★★★ starke Anwendergruppe namhafter Unternehmen, einige Youtube-Videos vorhanden
- Dokumentation: ★★★ gute Dokumentation
- Integrationen: ★★★ Sehr viele Integrationen
- Voraussetzungen: Für die genutzten Komponenten braucht man API-Keys (z.B. OpenAI API)
- Kosten: kostenlos
Flowise in Action: Eigene GenAI-Anwendungen per Drag & Drop erstellen
Ein einfacher Chat mit OpenAIs GPT-Modell ist leicht erstellt:
- Man zieht sich dafür aus dem Plus-Menü aus dem Submenü "LLM" ein ChatOpenAI-Objekt heraus
- stellt dort das gewünschte GPT-Modell ein (z.B. gpt-4)
- und gibt seinen API-Key an, den man hier erstellen kann: https://platform.openai.com/api-keys
- Dazu ergänzen wir ein Chat Prompt Template, in dem man dem Bot per System Message seine Grundanweisungen gibt (z.B. hier: Antworte in kurzen Bullet-Point-Sätzen)
- Die LLM-Chain verbindet das LLM mit dem Prompt-Template. Dafür zieht man einfach Verbindungen, wie gezeigt.
- Nun speichert man (wichtig!)
- Man startet den Chat (Icon rechts unten) und kann mit seinem neuen GPT-4-Bot reden
Auch komplexere Anwendungen mit mehreren der vielen unterstützen AI-Modelle sind möglich. So kann man die Ergebnisqualität schnell vergleichen. Hier z.B. der Vergleich zwischen OpenAIs GPT-Modell, dem auf Azure gehosteten GPT-Modell und Google Vertex AI (z.B. mit dem Modell Google Gemini)
Mit Flowise lassen sich auch ReAct-basierte Agenten bauen. Wenn der Nutzer seine Anfrage stellt wählt dieses Modul je nach Bedarf das passende Tool selbst aus, um eine passende, faktengestützte Antwort zu generieren. Man kann z.B. mit dem Tool "Serper" die Google-Suche anzapfen (statt nur Bing, wie bei ChatGPT). Mit dem "Calculator" lassen sich Berechnungen ausführen und vieles mehr. So erstellt man mächtige Agenten.
Beispiel: Heraussuchen der Top3-Food-Delivery Services in Berlin aus der Google-Suche und extrahieren der jeweiligen aktuellen Angebote (z.B. "2 für 1"-Deal)
Integrationen: Flowise bietet zahlreiche Integrationen.
Marketplace: Flowise hat sogar einen kostenlosen Marketplace, in dem man schnell die gängigsten KI-Use-Cases per Klick nutzen kann. Mit dabei: Bildgenerierung, Chatte mit einem PDF und vieles mehr. So kommt man schnell an den Start.
Installation - So installierst du Flowise
Für die Installation von Flowise braucht man leicht fortgeschrittene Anwender-Skills wie z.B. eine Konsole aufrufen und Befehle ausführen, doch mit etwas Einarbeitung gelingt dies auch Einsteigern. Als Developer oder erfahrener Anwender ist dies in 5 Minuten erledigt. So gehts:
Schritt 1: NodeJS installieren
NodeJS ist ein Server, auf dem man mit dem enthaltenen Paketmanger "npm" eigene Anwendungen installiert und per Browser aufrufen kann.
- Installation: Den Installer herunterladen und den Schritten folgen
- Download (Mac/Win/Linux)
Schritt 2: Flowise installieren
Flowise wird auf dem lokalen Computer über ein Terminal mit dem im vorigen Schritt bereitgestellten NodeJS-Paketmanager installiert (Mac/Windows)
- Terminal öffnen:
- Windows: Windows-Taste + R drücken. Dort "cmd.exe" eingeben.
- MacOS: Command-Taste + Leertaste drücken. Dort "terminal" eingeben.
- Flowise installieren:
- npm install -g flowise
- Hinweis: Bei MacOS braucht ihr oft Admin-Rechte. Bei Problemen (siehe Screenshot) hilft das voranstellen von "sudo"
- sudo npm install -g flowise
Schritt 3: Flowise aufrufen
Nach der Installation ruft man Flowise über das Terminal auf:
- Flowise starten:
- npx flowise start
- Hinweis: Bei MacOS hilft auch hier wieder ein vorangestelltes "sudo"
- Flowise im Browser öffnen:
- Im Browser folgende URL eingeben: http://127.0.0.1:3000/
Bonus: Weitere Tools und Multiagenten-Workflows
So richtig mächtig werden die Prototyping-Frameworks, wenn diese Features wie Multiagenten-Workflows unterstützen. Das bedeutet, dass man mehrere Agenten erstellt, die jeweils für eigene Aufgaben spezialisiert sind und sich miteinander abstimmen können (z.B. Entwicklung eines gesamten Spiels, indem man Agenten für Story, Coding, Testing, Game-Designer etc. erstellt). So entstehen bessere Ergebnisse als wenn ein Agent alle Aufgaben erledigen muss.
Weitere Tools bringen wiederum andere Features, Integrationen, Enterprise-Einbindung etc. mit und können damit nützlicher für Unternehmens-Anwendungen sein. Hier eine Übersicht der derzeit aktuellen Tools (Stand: 06/2024).
Weitere LowCode-Tools zur Erstellung von GenAI-Anwendungen:
- Relevance AI: Hoher Funktionsumfang, kann kostenlos umfangreich genutzt werden - Zur Website
- Stack AI: Kann auch Multi-Agenten-Anwendungen erstellen - Zur Website
Weitere Code-basierte Tools zur Erstellung von GenAI-Anwendungen:
- crewAI: Verbreitete Lösung für Einzel- und Multiagenten-Anwendungen - Zur Website
- Microsoft AutoGen Studio: Ein Frontend für Microsoft AutoGen - Zur Website
- LangGraph: OpenSource-Tool basierend auf LangChain - Zur Website
Mehr zu Langflow und Flowise erfahren
Mit Flowise oder Langflow stehen alle Möglichkeiten bereit, generative AI-Systeme selbst zu erstellen. Hier gibt es einfache Videos, die die Tools in Action zeigen und dabei die Basics vermitteln, diese für eigene Projekte einzusetzen.
- Flowise: Youtube-Tutorial
- Langflow: Youtube-Tutorial
Artikel:
- Guter Artikel (Sabrina Ramonov): Generative AI Agents - Everything You Need to Know (Part 2) Build Generative AI Agents with Low-Code
Ralf Schukay liebt Analytics, Python & alles mit Daten. In seiner Freizeit spielt er Synthesizer (Nord, Novation), joggt und fährt Gravel Bike. Er arbeitet als Teamlead Analytics & Conversion mit einem fitten und netten Team in der Berliner Digitalagentur >MAI mediaworx<