External Client
Sendet Text, PDF oder Chat-Job an die öffentliche REST API.
Async Local AI API
Produktive KI-Jobs über eine sichere REST API.
Die Neumann AI API Bridge nimmt externe Requests entgegen, verarbeitet sie lokal über das LM Studio Gateway und liefert Ergebnisse über eine robuste Job-API zurück.
Es gibt keinen eingehenden Internetzugriff auf Julians Rechner. Der lokale Worker pollt Jobs nach außen, verarbeitet sie lokal und schreibt Ergebnisse zurück.
Architektur
Worker Pull statt öffentlichem LM Studio
IONOS Job API
Prüft API-Key, Scopes, Rate Limits und speichert den Job.
Local Worker
Pollt ausgehend, lädt Payloads und spricht nur lokale Dienste an.
Local Gateway
Verarbeitet über LM Studio auf 127.0.0.1.
Result API
Externe Clients lesen Status und Ergebnis asynchron ab.
Security
Produktiv nutzbar, lokal abgesichert
API-Key + Scopes
Client-Keys werden serverseitig gehasht geprüft. Endpunkte verlangen passende Scopes.
Async Job Queue
POST-Anfragen liefern sofort eine Job-ID. KI-Verarbeitung läuft entkoppelt.
Worker Pull
Der Windows-Worker verbindet sich aktiv nach außen. Kein Port-Forwarding.
Kein öffentliches LM Studio
LM Studio und Gateway bleiben auf 127.0.0.1.
Rate Limits
Limits greifen pro API-Key und Job-Typ, PDF-Jobs restriktiver.
Storage geschützt
Uploads, Payloads, Logs und Config liegen hinter Apache-Zugriffsschutz.
Beispiel
Text-Job anlegen
curl
curl -X POST "https://julian-neumann.org/ai-api/v1/summarize.php" \
-H "X-API-Key: YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"input":{"type":"text","text":"Kunde Müller bestellt 12 Kartons Artikel A."},"options":{"language":"de","style":"structured"}}'