Antenna
HI
डाउनलोड

अपडेट किया गया

बिना अकाउंट और बिना API key के local LLM agent सेट करें

Antenna में Agents → लोकल models खोलें, आपके कंप्यूटर के लिए सुझाया गया model डाउनलोड करें, और Agent बनाएँ दबाएँ। Model आपकी अपनी मशीन पर llama.cpp से चलता है, डाउनलोड होने के बाद बिना अकाउंट, बिना API key और बिना इंटरनेट के, एक ऐसे sandbox के अंदर जो न network तक पहुँच सकता है, न आपकी फ़ाइलें पढ़ सकता है। Agent को अपनी चैट मिलती है, और team में वह triage, summaries और docs जैसे हल्के role ले सकता है। Experimental।

कौन-सा model, किस कंप्यूटर के लिए

Antenna आपकी memory और ख़ाली जगह देखकर Qwen3.5 models में से एक सुझाता है:

कंप्यूटरसुझाया गयाडिस्क परलोड होने पर memory
8 GB memoryQwen3.5 2B1.3 GBलगभग 2 GB
16 GB, Intel या AMD, या M1 MacQwen3.5 4B2.7 GBलगभग 4.7 GB
16 GB या ज़्यादा वाला M2 या नया MacQwen3.5 9B5.7 GB9 GB से कम

दूसरे models भी लिस्ट में होते हैं, हर एक पर इस कंप्यूटर पर चलेगा, इस कंप्यूटर पर धीमा या इस कंप्यूटर के लिए नहीं लिखा होता है, ताकि आप कभी ऐसा model डाउनलोड न करें जो चलेगा ही नहीं।

सेट करें

  1. Agents → लोकल models खोलें और सुझाए गए model के आगे डाउनलोड करें दबाएँ। यह Hugging Face से एक तय वर्ज़न में आता है; विंडो बंद करने से डाउनलोड नहीं रुकता, और बीच में रुका डाउनलोड वहीं से फिर शुरू होता है।
  2. लोड करने से पहले Antenna फ़ाइल को इस release में दर्ज साइज़ और SHA-256 से मिलाता है। जो फ़ाइल मेल न खाए, वह डिलीट कर दी जाती है।
  3. Agent बनाएँ दबाएँ और उसे एक नाम दें। उसकी चैट Chats में इस कंप्यूटर पर के नीचे दिखती है।
  4. उसे लिखें। पहला जवाब model लोड होने तक कुछ सेकंड रुकता है।

Terminal से: antenna local install qwen3.5-2b --wait (या आपके पास पहले से मौजूद कॉपी के लिए --from-file), फिर antenna local add helper --model qwen3.5-2b और antenna local say helper "hello"।

दो sandboxes

Model अपने sandbox में चलता है: वह सिर्फ़ अपनी model फ़ाइल पढ़ता है और कहीं कनेक्ट नहीं कर सकता, न इंटरनेट से, न Antenna से, न दूसरे प्रोग्रामों से। Agent का अपना प्रोग्राम एक दूसरे sandbox में चलता है जो सिर्फ़ model तक पहुँच सकता है। बातचीत Antenna के encrypted database में रखी जाती है। इस वर्ज़न में local agent के पास न लिंक हैं न tools, इसलिए वह किसी को कुछ नहीं भेज सकता, और Antenna कभी आपसे उसके जवाबों से कोई कमांड पेस्ट करने को नहीं कहता।

Memory की फ़िक्र Antenna करता है

कई agents एक model शेयर कर सकते हैं, और अलग-अलग साइज़ के models साथ-साथ चल सकते हैं। जब जवाब के लिए ज़रूरी memory किसी दूसरे model ने घेर रखी हो, तो जवाब इंतज़ार करता है (“memory का इंतज़ार…”), कंप्यूटर को swap में धकेलने के बजाय, और जिस model को 30 मिनट तक किसी ने इस्तेमाल न किया हो, उसे unload कर दिया जाता है।

Team में local models

जब आप agents की team बनाते हैं, तो local model उन roles के लिए worker बन सकता है जो उसके साइज़ के हिसाब से ठीक हों: छोटे models triage और summaries के लिए, बड़े models docs, drafts और अनुवाद के लिए भी। सिर्फ़ लोकल के साथ पूरी team, lead समेत, बिना किसी cloud model के चलती है। Team में local models अभी कोड नहीं लिखते।

सवाल-जवाब

क्या यह GPU इस्तेमाल करता है?

Mac पर model, Metal के ज़रिए GPU इस्तेमाल करने के लिए बना है। Linux पर यह CPU पर चलता है, CPU के अपने instruction sets के लिए बने builds के साथ।

क्या मेरे दूसरे agents local model से बात कर सकते हैं?

अभी नहीं। इस वर्ज़न में local agent अपनी चैट में आपसे बात करता है, और team में काम करते समय team के lead से।

क्या मेरे कंप्यूटर से कुछ बाहर जाता है?

सिर्फ़ model का डाउनलोड, Hugging Face से। उसके बाद model offline चलता है, और उसके sandbox में network है ही नहीं।

मिलती-जुलती गाइड