Lokale KI · Offene Modelle
Intelligenz,
in deiner Hand.
Offene Gewichte. Lokale Inferenz.
Ablehnungen in den Gewichten anpassen, ohne Prompt-Injection.
Vom Gedanken zur Antwort.
01
02
03
Mehr als eine Intelligenz.
Gewichtsanpassung · Reverse-Analyse · Autorisierte Sicherheitsforschung
Offizielle Modelle ↗
Drittanbieter-Varianten offener Gewichte mit angepasstem Ablehnungsverhalten, ohne Prompt Injection. Logos kennzeichnen Basismodelle, keine offiziellen Versionen oder Empfehlungen. Fähigkeiten hängen von Bereitstellung und Tests ab.
Modelle für lokale Bereitstellung. Verfügbarkeit je nach Gewichten, Lizenz und Hardware.
Deine vertrauten Agents.
Nutze lokale Modelle in vertrauten Tools über die API deines bereitgestellten Modells.
- 01
Modell bereitstellen
Starte Inferenz und ein Gateway mit passendem API-Format für deinen Agent.
- 02
Drei Werte vorbereiten
Der Betreiber stellt Base URL, API-Schlüssel und Modell-ID bereit.
- 03
Agent verbinden
Eigenen Anbieter hinzufügen, Protokoll und Modell wählen; Chat, Streaming und Tools testen.
API-Verbindung+
Codex
model_provider mit base_url, env_key und Modell konfigurieren. Gateway muss Responses unterstützen (wire_api = "responses").
Dokumentation ↗Claude Code
ANTHROPIC_BASE_URL auf ein Messages-Gateway setzen; Schlüssel und Modellzuordnung konfigurieren. Drittmodelle separat prüfen.
Dokumentation ↗Pi
In models.json baseUrl, apiKey, api und id setzen. openai-completions oder openai-responses auswählen.
Dokumentation ↗OpenCode
options.baseURL, Zugangsdaten und models konfigurieren. openai-compatible für Chat Completions, openai für Responses.
Dokumentation ↗DeepSeek Harness
Eigene Modelle gemäß Client-Version konfigurieren; Protokoll, Anmeldung und Tool-Aufrufe prüfen.
Dokumentation ↗Chat-Completions-Beispiel · Bildmodelle nutzen den Bild-Endpunkt
POST YOUR_GATEWAY_URL/v1/chat/completions
{ "model": "deepseek-v4.1-flash-1017", "messages": […] }Responses, Chat Completions und Anthropic Messages benötigen passende Gateways. Kompatibilität muss getestet werden. Diese Seite bietet keine Online-Inferenz.
Offene Fähigkeiten. Klare Verantwortung.
+
Kinder schützen
Keine sexuelle Ausbeutung von Kindern, Misshandlung, Anbahnung oder zugehörige Inhalte.
Autorisierung respektieren
Keine böswilligen Angriffe, unbefugten Zugriffe, Datendiebstähle, Betrug oder Belästigung. Forschung erfordert Erlaubnis.
Öffentliche Sicherheit schützen
Keine Drogenherstellung, kein Drogenhandel, keine Gewalttaten, kein Terrorismus oder gefährdende Unterstützung.
Anwendbares Recht beachten
Beachte die anwendbaren Gesetze der betreffenden Länder und Regionen, Modelllizenzen und Bedingungen Dritter.