Güncellendi
Hesap ve API anahtarı olmadan yerel bir LLM ajanı kurun
Antenna’da Ajanlar → Yerel modeller ekranını açın, bilgisayarınız için önerilen modeli indirin ve Ajan oluştur düğmesine basın. Model kendi makinenizde llama.cpp ile çalışır: hesap yok, API anahtarı yok, indirildikten sonra internet de gerekmez; ağa erişemeyen ve dosyalarınızı okuyamayan bir sandbox içinde çalışır. Ajanın kendi sohbeti olur; bir ekipte ön eleme, özet ve dokümantasyon gibi hafif rolleri üstlenebilir. Deneysel.
Hangi bilgisayara hangi model
Antenna belleğinize ve boş alanınıza bakar ve Qwen3.5 modellerinden birini önerir:
| Bilgisayar | Önerilen | Diskte | Yüklüyken bellek |
|---|---|---|---|
| 8 GB bellek | Qwen3.5 2B | 1,3 GB | yaklaşık 2 GB |
| 16 GB, Intel ya da AMD veya M1 Mac | Qwen3.5 4B | 2,7 GB | yaklaşık 4,7 GB |
| 16 GB ya da daha fazla belleğe sahip M2 veya daha yeni Mac | Qwen3.5 9B | 5,7 GB | 9 GB’tan az |
Diğer modeller de listelenir ve her biri Bu bilgisayara uygun, Bu bilgisayarda yavaş ya da Bu bilgisayar için değil olarak işaretlenir; böylece çalışmayacak bir modeli asla indirmezsiniz.
Kurulum
- Ajanlar → Yerel modeller ekranını açın ve önerilen modelin yanındaki İndir düğmesine basın. Model, sabit bir sürümüyle Hugging Face’ten gelir; pencereyi kapatmak indirmeyi durdurmaz, yarıda kalan indirme de kaldığı yerden devam eder.
- Antenna, dosyayı yüklemeden önce bu sürümün taşıdığı boyut ve SHA-256 değerleriyle karşılaştırır. Eşleşmeyen dosya silinir.
- Ajan oluştur düğmesine basın ve ajana bir ad verin. Sohbeti, Sohbetler içinde Bu bilgisayarda altında belirir.
- Ona yazın. Model yüklenirken ilk yanıt birkaç saniye bekler.
Terminalden: antenna local install qwen3.5-2b --wait (elinizde zaten bir kopyası varsa --from-file), ardından antenna local add helper --model qwen3.5-2b ve antenna local say helper "hello".
İki sandbox
Model kendi sandbox’ında çalışır: yalnızca model dosyasını okur ve hiçbir yere bağlanamaz; ne internete, ne Antenna’ya, ne de başka programlara. Ajanın kendi programı ise yalnızca modele erişebilen ikinci bir sandbox’ta çalışır. Konuşma, Antenna’nın şifreli veritabanında saklanır. Bu sürümde yerel bir ajanın bağlantısı ve aracı yoktur; bu yüzden kimseye hiçbir şey gönderemez ve Antenna sizden asla onun yanıtlarındaki bir komutu yapıştırmanızı istemez.
Bellek yönetimi sizin yerinize
Birden fazla ajan tek bir modeli paylaşabilir, farklı boyutlardaki modeller de yan yana çalışabilir. Bir yanıtın ihtiyaç duyduğu belleği başka bir model tutuyorsa yanıt, bilgisayarı swap’a düşürmek yerine bekler (“Bellek bekleniyor…”); 30 dakika boyunca kimsenin kullanmadığı bir model de bellekten çıkarılır.
Ekipte yerel modeller
Bir ajan ekibi oluşturduğunuzda yerel bir model, boyutunun uygun olduğu rollerde çalışan olabilir: küçük modeller ön eleme ve özetler için, büyükleri ayrıca dokümantasyon, taslak ve çeviri için. Yalnızca yerel ile lider dahil tüm ekip hiçbir bulut modeli olmadan çalışır. Yerel modeller ekip içinde henüz kod yazmıyor.
Sorular
GPU kullanıyor mu?
Mac’te model, Metal üzerinden GPU’yu kullanacak şekilde tasarlanmıştır. Linux’ta işlemcinin kendi komut setlerine göre derlenmiş sürümlerle CPU üzerinde çalışır.
Diğer ajanlarım yerel modelle konuşabilir mi?
Henüz değil. Bu sürümde yerel bir ajan kendi sohbetinde sizinle, bir ekipte çalışırken de ekibinizin lideriyle konuşur.
Bilgisayarımdan dışarı bir şey çıkıyor mu?
Yalnızca Hugging Face’ten model indirmesi. Sonrasında model çevrimdışı çalışır ve sandbox’ının hiç ağ erişimi yoktur.