Microsoft Foundry – Die neue KI-Plattform in Azure

Aus Azure AI Foundry wird jetzt Microsoft Foundry. Microsoft stellt sich somit größer auf, denn die Foundry kann auch AI-Modelle ausserhalb von Azure verwalten und Azure-Modelle können in allen Umgebungen genutzt werden.

TL;DR

  • Auf der Ignite 2025 stellte Microsoft die neue Microsoft Foundry vor. Diese erweitert die bisherige Azure AI Foundry um neue übergreifende Funktionen für die AI-Erstellung und Steuerung.
  • Kernfunktionen: Neues User Interface, Multi-Agent Orchestration mit Workflow-Editor, erweiterte Integrationen (Microsoft 365, Copilot, Drittanbieter-Modelle), Observability und Governance, Verwaltung von Agents ausserhalb von Azure
  • Hauptnutzen: Schnelle Entwicklung von KI-Systemen, leichte Integration in die Microsoft-Welt und einfache Einhaltung von Compliance- und Sicherheitsanforderungen.

Microsoft Foundry ist eine Rundum-Plattform für agentische KI im Unternehmen

Microsoft Foundry bündelt alle wesentlichen Komponenten für die Entwicklung, Verwaltung und den Betrieb agentischer und generativer KI-Anwendungen auf einer Plattform. Unternehmen können KI-Agents und Modelle übergreifend steuern, inklusive Zugriff auf Azure AI Search und weitere Datenquellen. Das erleichtert die schnelle Umsetzung intelligenter Automatisierungslösungen und die Orchestrierung komplexer Workflows im Enterprise-Umfeld.

Dies sind die wesentlichen Funktionen von Microsoft Foundry:

  • LLM-Bereitstellung: Hosting, Management und Skalierung von Large Language Models (LLMs) für sichere, unternehmensgerechte Nutzung. Z.B. Claude, OpenAI GPT, Mistral, Grok und viele weitere Modelle von HuggingFace (über 11.000 KI-Modelle). Nicht vorhanden: Google Gemini
  • Multi-Agent-Orchestrierung: Erstellung von Workflows mit Zusammenspiel mehrerer Agenten („Multi-Agent-Workflows“). Mit visuellem Workflow-Editor und mit SDKs für C# und Python.
  • Unternehmenswissen integrieren: Nutzung von Azure AI Search (Vektordatenbank) für kontextbasierte, zuverlässige Antworten aus Unternehmensdaten.
  • Sicherheits und Governance: Mit der Identitätsverwaltung mit Microsoft Entra können feine RBAC-Rechte für alle Rollen im AI-Erstellungsprozess (z.B. „AI Manager“) vergeben werden. So kann im Großunternehmen fein gesteuert werden, wer Zugriff hat.
  • SDKs und APIs: Einheitliche Entwicklung mit Unterstützung für Python, C#, JavaScript/TypeScript und Java.
  • Modellmanagement: Zentrales Modell-Hosting, Feinabstimmung, automatisierte Modelloptimierung und Echtzeit-Modellrouting zur Leistungs- und Kostenoptimierung.

Die Plattform bietet fortschrittliche Multi-Agent Orchestration. Unterschiedliche spezialisierte KI-Agents arbeiten kollaborativ, um Aufgaben zu übernehmen und Prozesse zu automatisieren. Die zentrale Ressourcen- und Modellverwaltung ermöglicht es, verschiedene KI-Modelle (wie OpenAI, Meta, Mistral) flexibel zu kombinieren und mit Unternehmensdaten sowie Microsoft 365-Diensten zu verknüpfen.

Installation und Einrichtung

Man kann die Microsoft Foundry in Azure entweder per Wizard oder Schritt für Schritt anlegen. Dazu legt man eine Ressourcengruppe fest, legt ein AI-Foundry-Projekt an, legt die Azure-Region fest (z.B. West Germany, East US, Schweden). Man kann eine bestehende Azure Monitor Instanz und Azure Key Vault verbinden oder neu anlegen.

Weg 1: Wizard

Am schnellsten gehts mit dem Wizard. In nur 3 Klicks hat man seine Foundry in der gewünschten Azure-Region in einer neuen Ressourcengruppe erstellt.

Weg 2: Manuelle Installation

Festlegen von Subscription, Ressource Group und Region

Hauptseite und Bereiche der Microsoft Foundry

Von der Startseite aus kann man alle Bereiche für die AI-Erstellung erreichen:

  • Discover: LLM-Modelle entdecken und vergleichen
  • Build: Agent-Workflows erstellen, Finetuning und vieles mehr
  • Operate: KI-Agenten monitoren, Sicherheit & Governance festlegen

Der integrierte Docs-Bereich hält zudem alle wichtigen Informationen zum AI-Development, Code-Beispiele und vieles mehr bereit.

Discover: KI-Modelle finden und vergleichen

Der Discover-Bereich hilft enorm dabei, unter der Vielzahl der aktuellen KI-Modelle das richtige für den Use-Case zu finden. Man kann die Modelle z.B. nach Aufgabe filtern (z.B. Bildanalyse, Textgenerierung) oder nach Fähigkeiten vergleichen (z.B. Finetuning möglich?). Es sind alle wichtigen Modelle verfügbar, da neben den Standard-KIs auch tausende KI-Modelle von HuggingFace verfügbar sind.

Discover: Tools finden und anbinden

Tools sind Integrationsmöglichkeiten, die die Agenten selbstständig aufrufen können. Hier finden sich alle gängigen Datenbanken und Datenplattformen (z.B. Azure Cosmos DB, Snowflake, Amazon Redshift, Google BigQuery). Auch der Aufruf von MCP-Servern zur einfachen Tool-Anbindung wird direkt unterstützt. Auch viele Tools wie Github oder Jira lassen sich direkt anbinden. So kann der AI-Agent einfach mit allen Systemen direkt verbunden werden.

Discover: KI-Modelle vergleichen

Praktisch ist das Model Leaderboard, denn hier kann man öffentliche Benchmarks zu den Modellen sehen und vergleichen. So spart man sich einige Recherche-Arbeit. Es kann man Quality, Safety, Throughput und Cost verglichen werden.

Vergleich: Claude Sonnet vs. GPT 4.1 vs. Llama 3.3 (70B)

 

Solution Templates: Fertige Lösungs-Templates

Einige Lösungen erstellen per Klick alle notwendigen Ressourcen in Azure für Standard-Use-Cases von Unternehmen. Beispiele: AI-Chat, Bild/Text-Analyse, Meeting-Vorbereitung und weitere. Dies kann einen schnellen ersten Start ermöglichen.

 

Build: Agent-Workflows mit Workflow-Editor erstellen

Der mächtige Workflow-Editor ermöglicht, ganze Abläufe zu skripten, bei dem auch mehrere AI-Agents Teilaufgaben übernehmen. Der Build‑Bereich ermöglicht es dir außerdem, eigene Wissensdatenbanken zu verbinden, ein Modell fein abzustimmen, Schutzmechanismen (z. B. für Inhaltssicherheit) einzurichten, um unerwünschte KI‑Antworten zu vermeiden, und vieles mehr.

 

Operate: Vereinfachte Governance, Sicherheit und Compliance

Essenzielle Enterprise-Anforderungen wie Monitoring, Transparenz und Governance werden durch einheitliche Richtlinien, rollenbasierte Zugriffe sowie zentrales Modell- und Ressourcen-Tracking adressiert. Die Plattform unterstützt Datensouveränität, Auditierbarkeit und Compliance mit internationalen Standards und bereitet damit den Boden für sichere KI-Nutzung im Geschäftsbetrieb.

 

Die neuen IQ-Lösungen:

Eng verzahnt mit der Foundry sind auch die neuen Lösungen Foundry IQ, Fabric IQ und Work IQ. Die neuen IQ-Lösungen bei Microsoft Foundry bilden eine einheitliche, semantische Wissensschicht für KI-Agenten.

  • Foundry IQ: Ein zentral verwaltetes Wissenssystem, das KI-Agenten sicher und effizient Zugriff auf verteilte, indexierte und föderierte Unternehmenswissenquellen ermöglicht. Es automatisiert und optimiert die Retrieval-Augmented Generation (RAG) für multimodale Daten und sorgt für bessere Kontexttreue und Genauigkeit durch agentenbasiertes Retrieval und integrierte Sicherheits- und Governance-Features.
  • Fabric IQ: Eine semantische Ebene, die Daten in Unternehmenskontext setzt, um sowohl Agenten als auch Menschen das Verständnis und die Interaktion mit Geschäftsdaten zu erleichtern. Sie ermöglicht die Verknüpfung von Rohdaten mit Echtzeit-Geschäftslogik und fördert damit eine schnellere Wertschöpfung.
  • Work IQ: Liefert organisationsspezifische Signale (E-Mails, Chats, Dateien, Arbeitsgewohnheiten) und ermöglicht es KI-Agenten wie Microsoft 365 Copilot, durch kontextsensitive Gedächtnisfunktionen kontinuierlich dazuzulernen und Aufgaben besser zu verstehen.

Mehr erfahren:

https://cloudwars.com/ai/microsoft-debuts-work-iq-fabric-iq-and-foundry-iq-a-unified-intelligence-layer-for-the-ai-powered-enterprise/

FAQ: Häufige Fragen rund um Microsoft Foundry

  • Wer kann Microsoft Foundry nutzen?
    Unternehmen mit Bedarf an skalierbaren, sicheren KI-Lösungen in den Bereichen Automatisierung, Workflow-Optimierung und Decision Support. Verfügbar in allen geläufigen Azure-Regionen wie Germany, Schweden, US, Asien und weitere.
  • Was ist der Unterschied zwischen Microsoft Foundry und Azure Machine Learning?
    Foundry deckt den gesamten Lebenszyklus von agentenbasierten Applikationen ab, während Azure Machine Learning auf Modelltraining und Entwicklung beschränkt ist.
  • Lassen sich auch Nicht-Microsoft-Modelle integrieren?
    Ja, die Plattform unterstützt Multi-Provider, darunter OpenAI, Meta, Mistral und weitere.
  • Wie unterstützt Foundry Compliance und Governance?
    Durch zentrale Richtlinien, rollenbasiertes Zugriffsmanagement und Audit-Funktionen auf Enterprise-Niveau.

Mehr erfahren