Antenna
KO
다운로드

업데이트

계정도 API 키도 없이 로컬 LLM 에이전트 설정하기

Antenna에서 에이전트 → 로컬 모델을 열고, 내 컴퓨터에 맞춰 추천하는 모델을 내려받은 뒤 에이전트 만들기를 누르세요. 모델은 llama.cpp로 내 컴퓨터에서 돌고, 한 번 내려받은 뒤에는 계정도, API 키도, 인터넷도 필요 없어요. 네트워크에 닿을 수도, 내 파일을 읽을 수도 없는 샌드박스 안에서 실행돼요. 에이전트에는 전용 채팅이 생기고, 팀 안에서는 분류, 요약, 문서 작업 같은 가벼운 역할을 맡을 수 있어요. 실험적 기능이에요.

어떤 컴퓨터에 어떤 모델이 맞을까요

Antenna는 메모리와 남은 디스크 공간을 보고 Qwen3.5 모델 중 하나를 추천해요:

컴퓨터추천 모델디스크 용량로드 시 메모리
메모리 8GBQwen3.5 2B1.3 GB약 2GB
16GB의 Intel 또는 AMD, 또는 M1 MacQwen3.5 4B2.7 GB약 4.7GB
16GB 이상의 M2 이후 MacQwen3.5 9B5.7 GB9GB 미만

다른 모델도 목록에 나오고, 각각 이 컴퓨터에 맞음, 이 컴퓨터에서는 느림, 이 컴퓨터에 맞지 않음으로 표시돼서 돌아가지 않을 모델을 내려받을 일이 없어요.

설정하기

  1. 에이전트 → 로컬 모델을 열고 추천 모델 옆의 다운로드를 누르세요. 고정된 버전으로 Hugging Face에서 내려받아요. 창을 닫아도 다운로드는 멈추지 않고, 중간에 끊겨도 이어서 받아요.
  2. Antenna는 파일을 로드하기 전에, 이번 릴리스에 들어 있는 크기와 SHA-256으로 파일을 확인해요. 일치하지 않는 파일은 삭제해요.
  3. 에이전트 만들기를 누르고 이름을 붙이세요. 에이전트의 채팅이 ‘채팅’의 이 컴퓨터 아래에 나타나요.
  4. 메시지를 보내 보세요. 첫 답변은 모델을 로드하느라 몇 초 기다려야 해요.

터미널에서는 antenna local install qwen3.5-2b --wait(이미 가진 사본이 있다면 --from-file)을 실행한 다음, antenna local add helper --model qwen3.5-2b와 antenna local say helper "hello"를 실행하세요.

샌드박스 두 겹

모델은 자기만의 샌드박스에서 돌아요. 자기 모델 파일만 읽을 수 있고, 인터넷이든 Antenna든 다른 프로그램이든 어디에도 연결할 수 없어요. 에이전트 프로그램은 모델에만 닿을 수 있는 두 번째 샌드박스에서 돌아요. 대화 내용은 Antenna의 암호화된 데이터베이스에 보관돼요. 이번 버전의 로컬 에이전트에는 연결도, 도구도 없어서 누구에게도 아무것도 보낼 수 없고, Antenna는 에이전트의 답변에 나온 명령을 붙여 넣으라고 절대 요구하지 않아요.

메모리는 알아서 관리해요

여러 에이전트가 모델 하나를 함께 쓸 수 있고, 크기가 다른 모델들을 나란히 돌릴 수도 있어요. 답변에 필요한 메모리를 다른 모델이 차지하고 있으면, 컴퓨터가 스왑에 빠지게 하는 대신 답변이 기다려요(“메모리를 기다리는 중…”). 30분 동안 아무도 쓰지 않은 모델은 메모리에서 내려요.

팀에서 쓰는 로컬 모델

에이전트 팀을 만들 때 로컬 모델을 크기에 맞는 역할의 워커로 쓸 수 있어요. 작은 모델은 분류와 요약에, 큰 모델은 문서, 초안, 번역에도 쓸 수 있어요. 로컬만을 켜면 리드를 포함한 팀 전체가 클라우드 모델 없이 돌아요. 팀에서 로컬 모델이 코드를 작성하는 기능은 아직 없어요.

자주 묻는 질문

GPU를 쓰나요?

Mac에서는 Metal을 통해 GPU를 쓰도록 되어 있어요. Linux에서는 CPU의 명령어 세트에 맞춘 빌드로 CPU에서 돌아요.

내 다른 에이전트가 로컬 모델과 대화할 수 있나요?

아직은 아니에요. 이번 버전에서 로컬 에이전트는 자기 채팅에서 나와 대화하고, 팀에서 일할 때는 팀 리드와 대화해요.

내 컴퓨터 밖으로 나가는 게 있나요?

Hugging Face에서 모델을 내려받는 것뿐이에요. 그다음에는 모델이 오프라인으로 돌고, 샌드박스에는 네트워크가 전혀 없어요.

관련 가이드