Lokale KI-Modelle mit Self-Managed nutzen
Richte Ollama, LM Studio oder MLX für lokale Dateianalysen in NameQuick 3 ein. Erfahre, was auf Mac und Windows funktioniert und welche Offline-Grenzen gelten.
Self-Managed funktioniert mit deinem eigenen API-Schlüssel (BYOK) oder mit einem lokalen Modell. Diese Anleitung behandelt das lokale Modell: Du lässt Dateien in NameQuick 3 mit einem KI-Modell auf deinem eigenen Computer benennen. Die Dateianalyse bleibt dabei auf deinem Gerät, statt an einen Cloud-Anbieter zu gehen.
Gut zu wissen
Lokale Modelle liefern einfachere Namensvorschläge als Cloud-Modelle. Prüfe deshalb jeden Vorschlag, bevor du ihn anwendest. Wie schnell die Verarbeitung läuft, hängt von deinem Computer ab.
Welche Engine kannst du verwenden?#
| Engine | Mac | Windows | Einrichtung |
|---|---|---|---|
| Ollama | Ja | Ja | Engine separat auf deinem Computer installieren |
| LM Studio | Ja | Ja | Engine separat installieren, lokalen Server einschalten |
| MLX | Apple Silicon, macOS 14 oder neuer | Nein | Integriert: NameQuick verwaltet die Engine selbst, ohne separate Server-App, und startet sie, wenn sie benötigt wird |
Auf einem Intel-Mac erklärt NameQuick, dass die eingebaute Engine Apple Silicon benötigt, und verweist auf Ollama, LM Studio oder einen Cloud-Anbieter. Unter Windows gibt es in dieser Version keine eingebaute Engine.
Lokale Engine einrichten#
Öffne EinstellungenKI und wähle in der Gruppe für dein Gerät eine Engine.
Die Gruppe heißt zum Beispiel Auf MacBook Pro, mit dem Hinweis privat · funktioniert offline · kein API-Schlüssel. Wähle Ollama, LM Studio oder, auf einem unterstützten Mac, MLX.
Wähle Ollama oder LM Studio. Erlaube den Netzwerkzugriff, wenn du dazu aufgefordert wirst.
NameQuick prüft den Zustand automatisch und zeigt dir, was noch fehlt. Für diesen Ablauf brauchst du weder Terminal-Befehle noch eine manuell eingetragene Serveradresse.
Engine nicht installiert
Öffne über Ollama laden ↗ beziehungsweise LM Studio laden ↗ die Website der Engine. Installiere sie und kehre anschließend zu NameQuick zurück.
„Ollama läuft nicht“ oder „LM Studio läuft nicht“
Du kannst die Engine direkt aus NameQuick starten. Mit Engine automatisch starten erlaubst du NameQuick, sie künftig zu starten, wenn eine Umbenennung sie braucht.
„Der Server von LM Studio ist aus“
Öffne LM Studio, gehe zum Tab Developer und schalte den lokalen Server ein.
„Ollama antwortet nicht — der Port ist womöglich blockiert“
Der lokale Port kann blockiert sein. Das gilt entsprechend für LM Studio. Erlaube unter Windows den Netzwerkzugriff, wenn du dazu aufgefordert wirst. Antwortet die Engine weiterhin nicht, klicke auf Engine neu starten. Weitere Hilfe findest du unter Probleme beheben.
Ein passendes Modell auswählen#
Im Bereich für die Modelle auf deinem Gerät, beispielsweise Modelle auf MacBook Pro, findest du Empfohlen und Deine Modelle. Letzteres enthält bereits installierte Modelle, etwa solche, die du zuvor mit Ollama geladen hast. Reichen die Ressourcen nicht aus, nennt NameQuick den Bedarf des Modells und die Ausstattung deines Geräts. Wähle anhand der Hinweise, statt einfach das größte Modell zu laden.
| Hinweis in der App | Bedeutung |
|---|---|
| Läuft gut auf MacBook Pro | Das Modell passt gut zur verfügbaren Ausstattung. |
| Knapp auf MacBook Pro | Das Modell passt gerade noch. |
| Nur Text — Scans brauchen ein Modell, das Bilder liest | Reines Textmodell. |
| Liest Scans & Fotos | Nötig für gescannte Dokumente und Fotos. |
Klicke bei einem Modell auf Laden. NameQuick fragt vor dem Download nach einer Bestätigung mit der angegebenen Größe, beispielsweise 4 GB laden?. Während des Downloads siehst du die bereits übertragene und die gesamte Datenmenge.
NameQuick prüft den freien Speicherplatz und lädt immer nur ein Modell gleichzeitig. Unterbrochene Downloads lassen sich mit Fortsetzen wieder aufnehmen; es bleibt dabei kein halb installiertes Modell zurück. Mit Entfernen löschst du ein installiertes Modell und gibst Speicherplatz frei. Wähle anschließend das Modell aus, das du verwenden möchtest.
Welche Dateien lokal funktionieren#
| Datei | Was lokal gelesen wird |
|---|---|
| Text-PDF | Auszüge bis zu 15 Seiten, bei einem kleinen Kontextfenster des Modells weniger. NameQuick berücksichtigt also nicht automatisch das gesamte Dokument. |
| Gescanntes PDF, Foto | Als Seitenbilder, bei PDFs bis zu drei Seiten. Braucht ein Modell, das Bilder lesen kann. |
| Audio, Video | Lokal nicht unterstützt |
Mehr zu den Dateitypen findest du unter Unterstützte Formate.
Deinen ersten Test vorbereiten#
Engine, Modell und Verarbeitungsmodus wählen
Wähle zuerst die lokale Engine und dein Modell. Lege auch den Verarbeitungsmodus für Dateien fest, bevor du Dateien hinzufügst.
Auf Prüfen stellen
EinstellungenUmbenennenStelle Vorschläge für hinzugefügte Dateien anwenden auf Prüfen.
Kopien hinzufügen und prüfen
Füge erst danach einige lokale Dateikopien hinzu. Prüfe jeden vorgeschlagenen Namen anhand des tatsächlichen Inhalts und wende ihn nur an, wenn er stimmt.
Beginne mit wenigen Dateien, damit du Qualität und Geschwindigkeit auf deinem Computer einschätzen kannst. Den Ablauf zum Hinzufügen, Prüfen und Anwenden findest du im Schnellstart.
Datenschutz, Offline-Nutzung und Kosten#
Bei einer eingerichteten lokalen Engine bleibt die Dateianalyse auf deinem Computer. Der Hinweis Alles bleibt auf MacBook Pro. bezieht sich auf diese Verarbeitung, nicht auf sämtliche Netzwerkaktivitäten von NameQuick.
Für die lokale Verarbeitung fallen keine Cloud-KI-Gebühren pro Anfrage an. Hardware, Strom, Speicherplatz und die NameQuick-Lizenz bleiben jedoch Teil der Kosten. Informationen zur Lizenz findest du unter Lizenz und Credits.
Achtung
Die Installation von Engines, Modelldownloads sowie Lizenz- und Updateprüfungen verwenden das Internet. NameQuick prüft deine Self-Managed-Lizenz regelmäßig online. Nach einer erfolgreichen Lizenzprüfung kannst du NameQuick bis zu sieben Tage offline verwenden. Danach musst du für die erneute Prüfung wieder eine Internetverbindung herstellen.
Eine benutzerdefinierte Serveradresse ist ein separater, cloudähnlicher Verbindungsweg, auch wenn sie auf localhost zeigt. NameQuick behandelt diese Verbindung nicht als lokale Engine. Die hier beschriebenen Zusagen für lokale Engines gelten dafür nicht automatisch. Verwendest du Self-Managed mit einem Cloud-API-Schlüssel, gehen die Inhalte an den gewählten Anbieter. Einzelheiten findest du unter Datenschutz.