Nemotron Unified Wyoming

Deutscher Speech-to-Text-Server für Home Assistant und Unraid auf linux/amd64 mit CPU/AVX2. Rust verarbeitet Wyoming-TCP, Sitzungen und Audiolimits. Die sichere sherpa-onnx-Anbindung lädt NVIDIA Nemotron Labs Unified ASR 0.6B als geprüften L37-Export mit INT8-Encoder über ONNX Runtime. Die Inferenz und Wyoming-Verarbeitung bleiben in Rust/native; ein kleiner Python-Entrypoint prüft und initialisiert die Modelle vor dem Serverstart.

Entwicklungsstand, kein offizieller v1.0.0-Release. Repository: https://github.com/marco-taylor/nemotron-unified-wyoming. Das Image ghcr.io/marco-taylor/nemotron-unified-wyoming:latest und der feste Modell-Release sind öffentlich ohne Anmeldung abrufbar. Die öffentliche Historie ist bereinigt; Veröffentlichungsstatus, Digests, Tests und CA-Übernahme: docs/PHASE12_PUBLICATION.md. Die Cargo-Paketversion 1.0.0 bezeichnet noch keinen veröffentlichten Release.

Funktionen und Grenzen

Der Server lädt das Modell einmal und verarbeitet wiederholte Wyoming-Anfragen. Unterstützt werden describe/info, transcribe, audio-start, audio-chunk, audio-stop, finale transcript-Antworten und gerahmte Fehler. Audio: PCM-S16LE, 16 kHz, Mono. Begrenzte Verbindungen, Framegröße, Audiodauer und Zeitlimits schützen den Dienst. Native Inferenz wird serialisiert. Healthcheck prüft den laufenden Wyoming-Dienst; SIGTERM/SIGINT beenden ihn geordnet.

Nicht implementiert: internes Endpointing/VAD, Wyoming-Teiltranskripte, alternative L37-Kontexte, GPU-Provider, Resampling, automatische Sprachwahl, Hotwords, mDNS sowie Wyoming-TLS/Authentifizierung. Home Assistant muss das Sprachende mit audio-stop melden. INFERENCE_CHUNK_MS ändert die Audiozuführung, nicht den Modellkontext oder die algorithmische Latenz von 1,12 Sekunden. Nur im vertrauenswürdigen LAN verwenden.

Modelle bereitstellen

Das Image und das Git-Repository enthalten keine Modellgewichte. Ein zusammengehöriger L37-Runtime-Satz benötigt unter dem Host-Modellverzeichnis:

• models/L37-runtime/encoder.int8.onnx
• models/L37-runtime/decoder.onnx
• models/L37-runtime/joiner.onnx
• models/L37-runtime/tokens.txt

Diese Pfade sind Beispiele relativ zum Checkout. Für vorhandene vollständige Modelle kann der Hostpfad weiterhin read-only nach /models gemountet werden. Für die automatische Downloadinitialisierung wird ein persistenter RW-Mount benötigt, der für PUID/PGID beschreibbar ist; der STT-Prozess erhält danach einen Dateisystem-Schreibschutz durch seccomp. Den eigenen Hostpfad nach /models mounten; Lizenz und Herkunft bei den Gewichten aufbewahren. Vorhandene Gewichte weiterverwenden. Beschaffung, SHA256-Werte und reproduzierbarer Export: docs/MODELS.md. Der Container prüft vor jedem Serverstart die festen SHA256-Werte. Gültige Modelle bleiben unverändert und benötigen kein Netzwerk. Fehlende oder beschädigte Dateien werden automatisch aus dem festen Modell-Release models-l37-v1.0.0 geladen und vor der atomaren Übernahme geprüft. Der erste Start benötigt Internetzugang zu GitHub und dessen HTTPS-Asset-Weiterleitungen; bis zum vollständig geladenen Modell ist der Healthcheck noch nicht bereit. Normale Fehler entfernen eigene temporäre Downloads; verwaiste eigene .part-*-Dateien werden beim nächsten Start unter Sperre bereinigt. Unbekannte Dateien, Links und beschädigte Originalsicherungen bleiben erhalten. Kein automatischer ONNX-Export. Der geprüfte Runtime-Satz umfasst 726.885.887 Byte ohne Lizenzdateien.

Docker installieren

Voraussetzungen: Linux amd64, AVX2, Docker, ein persistentes für PUID/PGID beschreibbares Modellverzeichnis und ungefähr 4 GiB RAM für den Container. Build und Export benötigen mehr Ressourcen.

Der reguläre Installationskanal ist ghcr.io/marco-taylor/nemotron-unified-wyoming:latest; dev wird als Alias desselben geprüften Builds veröffentlicht. Aktueller Pull-/Digest-/CA-Status: docs/PHASE12_PUBLICATION.md. Das bisherige Image bleibt für bestehende Installationen verfügbar; kein automatischer Containerwechsel.

docker pull ghcr.io/marco-taylor/nemotron-unified-wyoming:latest

Alte Pull-/Digest-Nachweise in docs/LATEST.md sind ausdrücklich historische Belege; die neue Veröffentlichung steht in docs/PHASE12_PUBLICATION.md. Für reproduzierbare Installationen den veröffentlichten sha-COMMIT-Tag oder Digest verwenden. Lokal bauen und Modellvorprüfung ausführen:

docker build --platform linux/amd64 -t nemotron-unified-wyoming:local-check .
docker run --rm --network none --read-only \
  -v /ABSOLUTER/MODELLPFAD:/models:ro \
  nemotron-unified-wyoming:local-check check-model

Der Build führt Release-Kompilierung, Formatprüfung, Rust-/Protokolltests und Clippy mit -D warnings aus. check-model prüft Dateien/Metadaten; vollständiges Graphladen und Inferenz erfordern einen Serverstart.

Compose: ./.env.example nach ./.env kopieren, ein neues persistentes Verzeichnis für PUID/PGID mit Schreibrechten vorbereiten und MODEL_DIR auf diesen absoluten Hostpfad setzen, freien HOST_PORT und PUBLISH_ADDRESS prüfen. IMAGE=ghcr.io/marco-taylor/nemotron-unified-wyoming:latest für reguläre Installation und optionalen lokalen Build verwenden.

cp .env.example .env
docker compose config
docker compose pull
docker compose up -d --no-build

./docker-compose.yml enthält nur diesen Dienst. Bestehende Dienste werden durch die Anleitung nicht automatisch migriert. Für einen bewusst lokalen Build stattdessen docker compose build ausführen.

Unraid und Home Assistant

Unraid-Anleitung: docs/UNRAID.md. Die vereinfachte Vorlage config/unraid-template.xml zeigt drei Grundeinstellungen: Hostport 10310 → Containerport 10300/TCP, das persistente L37-Modellverzeichnis mit Schreibzugriff zur Initialisierung und THREADS=2. Sieben weitere Variablen stehen unter „Mehr Einstellungen anzeigen“. Alle 19 Variablen bleiben technisch unterstützt; elf technische Einstellungen verwenden ihre bisherigen Defaults und lassen sich bei Bedarf manuell ergänzen. Vor einem bewussten Vorlagenwechsel bestehende Benutzervorlagen und Sonderwerte sichern. Eine veröffentlichte Vorlage bedeutet noch keine bestätigte CA-Aufnahme; tatsächlicher Status und Migration: docs/PHASE12_PUBLICATION.md und docs/MIGRATION.md.

In Home Assistant: Einstellungen → Geräte & Dienste → Integration hinzufügen → Wyoming Protocol; LAN-IP des Unraid-Hosts und den veröffentlichten Hostport eintragen. In einer deutschen Assist-Testpipeline den STT-Dienst nemotron-unified-l37-int8 auswählen. Details und Abnahme: docs/HOME_ASSISTANT.md. Bestehende Pipelines bleiben manuell verwaltet.

Alle 19 wirksamen Variablen

Vollständige Wertebereiche, Defaults und Wirkung: docs/PHASE5_2.md und docs/CONFIGURATION.md; maschinenlesbar in config/variables.json. 17 Variablen verarbeitet Rust, 2 der Container-Entrypoint.

PUID/PGID wechseln vor Modellzugriff auf die konfigurierte Identität. Der Bootstrap benötigt ausschließlich SETUID/SETGID; der Server läuft ohne effektive Capabilities mit NoNewPrivs. Kein automatisches chown/chmod an Modellen. Alternativ mit passenden --user 99:100 und Variablen vollständig ohne Bootstrap-Capabilities starten. Fehlerhafte Werte werden mit Variablennamen abgewiesen. Optionale Modell-Einzelpfade dürfen leer sein.

IMAGE, HOST_PORT und PUBLISH_ADDRESS sind Compose-Hilfswerte. Compose verwendet MODEL_DIR als Host-Mountquelle und setzt im Container /models. SHERPA_ONNX_LIB_DIR und LD_LIBRARY_PATH sind technische Imagewerte, keine zusätzlichen Nutzer-Tuningoptionen.

Icons

Die XML-Vorlage und das Image-Label net.unraid.docker.icon verwenden ausschließlich Low-Q. Beide PNGs haben transparente Pixel und wurden unverändert kopiert. Low-Q erfüllt die Performancevorgaben ohne weitere Komprimierung. Die neuen Quelldateien icons/nemotron-stt-hq.png und icons/nemotron-stt-lowq.png bleiben lokal unverändert erhalten. Die neuen Grafiken zeigen kein erkennbares NVIDIA-Augenlogo oder NVIDIA-Wortlogo und keine ®-/™-Symbole. Die alten Bilder sind aus der öffentlichen Historie ausgeschlossen; die ursprüngliche Historie ist ausschließlich lokal gesichert. Öffentliche Raw-Links und Migration gespeicherter Unraid-Icon-URLs: docs/UNRAID.md. Beide Raw-Icons sind öffentlich erreichbar und wurden per SHA256 geprüft.

Entwicklung, Tests und Lizenzen

Bedienung: serve (Standard), healthcheck, check-model, --help, --version; Benchmarkdiagnose über benchmark. CLI-Overrides: --model DIR, --threads 1|2|4, --bind HOST:PORT. Auch überschriebene Umgebungswerte müssen gültig sein.

Aktuelle Tests: docs/PHASE12_PUBLICATION.md und docs/TESTS.md. Historische Belege: docs/PHASE5_1.md, docs/PHASE5_2.md und docs/PHASE6.md. CI-/GHCR-Ablauf: docs/RELEASE.md. Die kurze echte deutsche Referenzaufnahme prüft die technische Kette; allgemeine Befehlsqualität, Assist-/Satellite-Abnahme und Langzeitlast bleiben offen.

Eigener Code: ./LICENSE (MIT). sherpa-onnx: Apache-2.0; ONNX Runtime: MIT; NVIDIA-Modell: getrennt OpenMDW-1.1. Abhängigkeiten und Herkunft: ./THIRD_PARTY_NOTICES.md. Kein offizielles NVIDIA-Projekt und keine behauptete Unterstützung durch NVIDIA.