Оновлено
Як налаштувати агента на локальній LLM без акаунта й API-ключа
В Antenna відкрийте Агенти → Локальні моделі, завантажте модель, яку Antenna радить для вашого комп’ютера, і натисніть Створити агента. Модель працює на вашій власній машині через llama.cpp — без акаунта, без API-ключа й, після завантаження, без інтернету — у пісочниці, яка не має доступу до мережі й не може читати ваші файли. Агент отримує власний чат, а в команді може брати легкі ролі, як-от сортування задач, підсумки й документацію. Експериментальна функція.
Яка модель для якого комп’ютера
Antenna дивиться на обсяг вашої пам’яті й вільного місця та радить одну з моделей Qwen3.5:
| Комп’ютер | Рекомендовано | На диску | Пам’ять після завантаження |
|---|---|---|---|
| 8 ГБ пам’яті | Qwen3.5 2B | 1,3 ГБ | близько 2 ГБ |
| 16 ГБ, Intel чи AMD, або Mac на M1 | Qwen3.5 4B | 2,7 ГБ | близько 4,7 ГБ |
| Mac на M2 чи новішому з 16 ГБ і більше | Qwen3.5 9B | 5,7 ГБ | менше ніж 9 ГБ |
Інші моделі теж є в списку, і кожна позначена як Підходить цьому комп’ютеру, Повільна на цьому комп’ютері чи Не для цього комп’ютера, тож ви ніколи не завантажите модель, яка не запуститься.
Налаштування
- Відкрийте Агенти → Локальні моделі і натисніть Завантажити навпроти рекомендованої моделі. Вона завантажується з Hugging Face у фіксованій версії; закриття вікна завантаження не зупиняє, а перерване завантаження продовжиться.
- Ще до першого завантаження моделі в пам’ять Antenna звіряє файл із розміром і SHA-256, вказаними в цьому релізі. Файл, що не збігається, видаляється.
- Натисніть Створити агента і дайте агентові ім’я. Його чат з’явиться в розділі На цьому комп’ютері у чатах.
- Напишіть йому. Першої відповіді доведеться почекати кілька секунд, поки модель завантажується.
У терміналі: antenna local install qwen3.5-2b --wait (або --from-file для копії, яка у вас уже є), потім antenna local add helper --model qwen3.5-2b і antenna local say helper "hello".
Дві пісочниці
Модель працює у власній пісочниці: вона читає лише свій файл моделі й ні до чого не може підключитися — ні до інтернету, ні до Antenna, ні до інших програм. Власна програма агента працює в другій пісочниці, з якої доступна лише модель. Розмова зберігається в зашифрованій базі даних Antenna. У цій версії локальний агент не має ні з’єднань, ні інструментів, тож нікому нічого не може надіслати, а Antenna ніколи не просить вас вставити команду з його відповідей.
Пам’ятю керують за вас
Кілька агентів можуть використовувати одну модель, а моделі різного розміру можуть працювати поруч. Коли пам’ять, потрібну для відповіді, займає інша модель, відповідь чекає («Очікування пам’яті…»), а не змушує комп’ютер вдаватися до свопу, а модель, якою ніхто не користувався 30 хвилин, вивантажується.
Локальні моделі в команді
Коли ви створюєте команду агентів, локальна модель може бути виконавцем у ролях, які відповідають її розміру: малі моделі — для сортування задач і підсумків, більші — ще й для документації, чернеток і перекладу. Якщо ввімкнено Лише локально, уся команда, разом із головним агентом, працює без жодної хмарної моделі. Код у команді локальні моделі поки що не пишуть.
Запитання
Чи використовується GPU?
На Mac модель має використовувати GPU через Metal. На Linux вона працює на CPU, зі збірками під набори інструкцій саме вашого процесора.
Чи можуть інші мої агенти спілкуватися з локальною моделлю?
Поки що ні. У цій версії локальний агент спілкується з вами у своєму чаті, а коли працює в команді — з головним агентом команди.
Чи щось залишає мій комп’ютер?
Лише завантаження моделі з Hugging Face. Після цього модель працює офлайн, а її пісочниця взагалі не має мережі.