Aktualisiert
Einen lokalen LLM-Agenten ohne Konto und ohne API-Schlüssel einrichten
Öffnen Sie in Antenna Agenten → Lokale Modelle, laden Sie das Modell herunter, das Antenna für Ihren Computer empfiehlt, und klicken Sie auf Agent erstellen. Das Modell läuft mit llama.cpp auf Ihrem eigenen Rechner, ohne Konto, ohne API-Schlüssel und nach dem Download ohne Internet, in einer Sandbox, die weder ins Netzwerk kommt noch Ihre Dateien lesen kann. Der Agent bekommt einen eigenen Chat, und in einem Team kann er leichte Rollen übernehmen wie Triage, Zusammenfassungen und Dokumentation. Experimentell.
Welches Modell für welchen Computer
Antenna schaut sich Arbeitsspeicher und freien Plattenplatz an und empfiehlt eines der Qwen3.5-Modelle:
| Computer | Empfohlen | Auf der Platte | Speicher im geladenen Zustand |
|---|---|---|---|
| 8 GB Arbeitsspeicher | Qwen3.5 2B | 1,3 GB | etwa 2 GB |
| 16 GB, Intel oder AMD, oder ein Mac mit M1 | Qwen3.5 4B | 2,7 GB | etwa 4,7 GB |
| Mac mit M2 oder neuer und 16 GB oder mehr | Qwen3.5 9B | 5,7 GB | unter 9 GB |
Weitere Modelle stehen ebenfalls in der Liste, jeweils markiert mit Passt zu diesem Computer, Langsam auf diesem Computer oder Nicht für diesen Computer. So laden Sie nie ein Modell herunter, das nicht läuft.
Einrichten
- Öffnen Sie Agenten → Lokale Modelle und klicken Sie neben dem empfohlenen Modell auf Herunterladen. Es kommt in einer festen Version von Hugging Face; das Schließen des Fensters stoppt den Download nicht, und ein unterbrochener Download wird fortgesetzt.
- Antenna prüft die Datei gegen die Größe und den SHA-256-Wert, die diese Version mitbringt, bevor es sie überhaupt lädt. Eine Datei, die nicht passt, wird gelöscht.
- Klicken Sie auf Agent erstellen und geben Sie ihm einen Namen. Sein Chat erscheint unter Chats im Abschnitt Auf diesem Computer.
- Schreiben Sie ihm. Die erste Antwort dauert ein paar Sekunden, während das Modell lädt.
Im Terminal: antenna local install qwen3.5-2b --wait (oder --from-file für eine Kopie, die Sie schon haben), dann antenna local add helper --model qwen3.5-2b und antenna local say helper "hello".
Zwei Sandboxes
Das Modell läuft in seiner eigenen Sandbox: Es liest nur seine Modelldatei und kann sich nirgendwohin verbinden, weder ins Internet noch zu Antenna noch zu anderen Programmen. Das eigentliche Programm des Agenten läuft in einer zweiten Sandbox, die nur das Modell erreicht. Das Gespräch wird in Antennas verschlüsselter Datenbank gespeichert. Ein lokaler Agent hat in dieser Version keine Verbindungen und keine Tools, kann also niemandem etwas senden, und Antenna bittet Sie nie, einen Befehl aus seinen Antworten einzufügen.
Den Arbeitsspeicher verwaltet Antenna für Sie
Mehrere Agenten können sich ein Modell teilen, und Modelle unterschiedlicher Größe können nebeneinander laufen. Belegt ein anderes Modell den Speicher, den eine Antwort braucht, wartet die Antwort („Wartet auf Arbeitsspeicher…“), statt den Computer ins Swappen zu treiben, und ein Modell, das 30 Minuten niemand genutzt hat, wird entladen.
Lokale Modelle im Team
Wenn Sie ein Team aus Agenten anlegen, kann ein lokales Modell Helfer für die Rollen sein, zu denen seine Größe passt: kleine Modelle für Triage und Zusammenfassungen, größere auch für Dokumentation, Entwürfe und Übersetzungen. Mit Nur lokal läuft das ganze Team, der Leiter eingeschlossen, ohne jedes Cloud-Modell. Code schreiben lokale Modelle im Team noch nicht.
Fragen
Nutzt es die GPU?
Auf dem Mac soll das Modell die GPU über Metal nutzen. Unter Linux läuft es auf der CPU, mit Builds für deren eigene Befehlssätze.
Können meine anderen Agenten mit dem lokalen Modell reden?
Noch nicht. In dieser Version spricht ein lokaler Agent mit Ihnen in seinem Chat und, wenn er in einem Team arbeitet, mit dem Leiter des Teams.
Verlässt irgendetwas meinen Computer?
Nur der Download des Modells, von Hugging Face. Danach läuft das Modell offline, und seine Sandbox hat überhaupt kein Netzwerk.