更新日
アカウントも API キーも不要なローカル LLM エージェントを作る
Antenna で エージェント → ローカルモデル を開き、あなたのコンピューター向けにおすすめされたモデルをダウンロードして エージェントを作成 を押します。モデルは llama.cpp であなた自身のマシン上で動き、アカウントも API キーも要らず、ダウンロードが済めばインターネットも不要です。動くのはネットワークにつながらず、あなたのファイルも読めないサンドボックスの中です。エージェントには専用のチャットがあり、チームではトリアージ、要約、ドキュメント作成といった軽めの役割を担えます。実験的機能です。
どのコンピューターにどのモデルか
Antenna はメモリと空き容量を見て、Qwen3.5 のモデルから 1 つをおすすめします:
| コンピューター | おすすめ | ディスク上のサイズ | 読み込み時のメモリ |
|---|---|---|---|
| メモリ 8 GB | Qwen3.5 2B | 1.3 GB | 約 2 GB |
| 16 GB の Intel または AMD、あるいは M1 Mac | Qwen3.5 4B | 2.7 GB | 約 4.7 GB |
| 16 GB 以上の M2 以降の Mac | Qwen3.5 9B | 5.7 GB | 9 GB 未満 |
ほかのモデルも一覧に表示され、それぞれに このコンピューターに適合、このコンピューターでは低速、このコンピューターには不向きの印が付くので、動かないモデルをダウンロードしてしまうことはありません。
セットアップ
- エージェント → ローカルモデル を開き、おすすめのモデルの横の ダウンロード を押します。モデルは固定バージョンで Hugging Face から取得されます。ウィンドウを閉じてもダウンロードは止まらず、中断されても再開します。
- Antenna は、ファイルを読み込む前に、このリリースに記録されたサイズと SHA-256 でファイルを照合します。一致しないファイルは削除されます。
- エージェントを作成 を押して名前を付けます。そのチャットが「チャット」の このコンピューター上 の下に現れます。
- メッセージを送ります。最初の回答は、モデルの読み込みのために数秒待ちます。
ターミナルからなら:antenna local install qwen3.5-2b --wait(手元にあるコピーを使う場合は --from-file)、続いて antenna local add helper --model qwen3.5-2b と antenna local say helper "hello" です。
2 つのサンドボックス
モデルは専用のサンドボックスで動きます。読めるのは自分のモデルファイルだけで、インターネットにも、Antenna にも、ほかのプログラムにも接続できません。エージェント自体のプログラムは、モデルにしか届かない 2 つ目のサンドボックスで動きます。会話は Antenna の暗号化されたデータベースに保存されます。このバージョンのローカルエージェントにはリンクもツールもないので、誰にも何も送れません。また、Antenna がその回答に含まれるコマンドを貼り付けるよう求めることもありません。
メモリの管理はおまかせ
複数のエージェントで 1 つのモデルを共有でき、サイズの異なるモデルを並べて動かすこともできます。返答に必要なメモリを別のモデルが使っているときは、コンピューターをスワップさせる代わりに返答が待機し(「メモリーが空くのを待っています…」)、30 分間誰も使わなかったモデルはメモリから解放されます。
チームでのローカルモデル
エージェントのチームを作るとき、ローカルモデルをそのサイズに合った役割のワーカーにできます。小さいモデルはトリアージや要約に、大きいモデルはドキュメント、下書き、翻訳にも使えます。ローカルのみ を選ぶと、リーダーを含むチーム全体がクラウドのモデルを一切使わずに動きます。チームでローカルモデルにコードを書かせることは、まだできません。
よくある質問
GPU を使いますか?
Mac では、モデルは Metal 経由で GPU を使う設計です。Linux では CPU で動き、その CPU の命令セットに合わせたビルドが使われます。
ほかのエージェントからローカルモデルと会話できますか?
まだできません。このバージョンのローカルエージェントが会話するのは、チャットでのあなたと、チームで働いているときのリーダーだけです。
コンピューターの外に何かが出ていきますか?
Hugging Face からのモデルのダウンロードだけです。その後モデルはオフラインで動き、そのサンドボックスにはネットワークが一切ありません。