Needle 2は、ツール利用やデバイス操作、構造化抽出を目的としたエージェント向けLLMです。モデルサイズは14MBの単一バイナリで、動作には28MBのRAMを必要とします。パラメータ数は45Mで、2bit圧縮が適用されています。
動作速度は非常に高速です。Raspberry Pi 5で500tokens/sec、Meta Quest 3SやApple Vision Proでは400〜1,500tokens/secに達します。200ドル未満の低価格スマートフォンでも300〜700tokens/secで動作するとしています [Hacker News]。
性能面では、LFM2.5 230MやApple Foundation Modelなどの小規模モデルとベンチマークで競合するとしています。Needle 2はこれらより5倍から70倍小型です。ベースとなっているのは、同社が論文 arXiv:2607.18363 で発表したSimple Attention Networksです。
電力効率も重視されています。1トークンあたりの演算量は、既存の最小クラスのLLMより7倍から85倍少なくなっています。世界的なIoTデバイスの普及に合わせ、NPUのない安価なハードウェアでの動作を想定しています。
また、構造化抽出機能が拡張されました。スキーマをツールとして渡すことで、テキスト分類や要約などの構造化出力を得られます。Pythonパッケージ github.com/cactus-compute/needle を使用すれば、数分から数時間でファインチューニングが可能です [Hacker News]。
出典: Show HN: Needle2: 14MB agentic LLM for phones, wearables, smart home and robots（HN 537pt・185コメント）（HN Search (backfill)、2026-08-11）