Ask anything
Load a model under “Modellwechsel” first.
Model state
Idle
Loading
Reading
Thinking
Error
–
No model loaded
Log
Recent requests
| Time | Status | Prompt | Reused | Output | Prefill t/s | Decode t/s | VRAM hit rate | Duration |
|---|---|---|---|---|---|---|---|---|
| No requests yet | ||||||||
Conversation cache
No model loaded.
Loading…
Access for other programs (API)
Damit können andere Programme (Open WebUI, eigene Skripte, Apps mit „OpenAI-kompatibel“) das gerade geladene Modell benutzen. Die Konsole reicht ihre Anfragen an das Modell durch.
Who may connect?
„Nur dieser PC“: Alles, auch diese Seite, ist nur von diesem Rechner aus erreichbar; Anfragen von anderen Geräten werden abgewiesen. „Heimnetz“: Auch Handy, Laptop usw. im selben WLAN/LAN kommen auf diese Seite und die API. Die Seite selbst hat keinen Passwortschutz, nur die API kann einen Schlüssel verlangen.
Enable APIAus: Die Adresse unten antwortet mit „ausgeschaltet“. An: Programme können Fragen an das geladene Modell schicken.
Require API keyAn (empfohlen): Programme müssen den Schlüssel mitschicken (Authorization: Bearer …). Aus: jeder, der die Adresse erreicht, darf das Modell benutzen. Bei „Nur dieser PC“ ist das unkritisch.
API key
Du kannst einen eigenen Schlüssel eintragen oder einen zufälligen erzeugen lassen. Nach „Übernehmen“ gilt er sofort; ein neuer Schlüssel macht den alten ungültig.
Addresses