LiteLLM erklärt: Das Open-Source AI-Gateway für alle LLMs

LiteLLM im Überblick (Quelle: litellm.ai)

LiteLLM ist das Open-Source AI-Gateway, mit dem du über 100 LLMs – OpenAI, Claude, Gemini, Bedrock und Co. – über eine einzige, OpenAI-kompatible API ansprichst. Statt für jeden Anbieter eigenen Code zu schreiben, bekommst du Cost-Tracking, Load-Balancing, Fallbacks und Guardrails aus einer Hand.

Weiterlesen

Finetuning von OpenAIs GPT-Modell – Vorteile und Coding-Anleitung

Finetuning von OpenAI GPT Modell

Finetuning ermöglicht, dass ein Sprachmodell eigene Daten dazuzulernt. Dies verbessert die Antwortqualität enorm. Hier zeigen wir, wie man OpenAIs GPT-Modell (3.5 Turbo oder GPT-4o) mit Finetuning deutlich verbessert. Dies geht via OpenAI-API oder Microsoft Azure. Highlight: Das komplette Jupyter-Notebook haben wir euch verlinkt.

Weiterlesen