Ausgangsproblem
Mehrere lokale Dienste und Worker müssen in der richtigen Reihenfolge starten, geprüft werden und sauber wieder stoppen.
Local AI · Reliability
Local AI Runtime
Ein kontrollierter Startpunkt für LM Studio, Gateway und die lokalen Worker.
Produktiv dokumentiert
Local-firstWorker-Pull
Lösung
Ein gemeinsamer Runtime-Layer startet nur localhost-gebundene Dienste, prüft Health und Bindings und überwacht den Stack.
Ergebnis
Ein reproduzierbarer Start, zentrale Statusprüfung, begrenzte Logs und ein sauberer Stopp der verwalteten Prozesse.
Funktionsumfang
Robust gebaut. Einfach erklärt.
Öffentlich stehen nur die Prinzipien. Zugangsdaten, interne Konfiguration und Nutzdaten bleiben privat.
- 01One-Click Start
Modell, Gateway und Worker werden in definierter Reihenfolge gestartet.
- 02Health-Checks
Ports, Prozesszustand und öffentliche Health-Routen werden geprüft.
- 03Self-Heal
Der Supervisor kann ausgefallene verwaltete Prozesse kontrolliert neu starten.
- 04Safe Bindings
Unsichere öffentliche Bindings auf Modell- und Gateway-Ports werden blockiert.
Datenfluss
Ausgehend abholen. Kontrolliert zurückgeben.
Der lokale Rechner wird nicht zum öffentlichen Server.
01Browser / APIsendet einen geschützten Job
02IONOS Queuehält Job und Status geschützt
03Lokaler Workerholt ausschließlich ausgehend ab
04Gateway + GPT-OSSverarbeitet nur auf 127.0.0.1
05Ergebniswird kontrolliert zurückgeschrieben