Magnitudeは、ユーザーの正確なハードウェアに基づいてモデルのパフォーマンスを最適化するように設計された、オープンソースの推論エンジンをリリースしました。デバイス上でカーネルを直接コンパイルおよびチューニングすることで、このエンジンはオープンモデルをllama.cppよりも最大2倍高速に実行することを目指しています。
このエンジンは、Apple Silicon、NVIDIA、AMDのGPU、およびCPUを含むさまざまなハードウェアに対応しています。Magnitude CLIを含むデスクトップアプリケーションとして配布されるため、別途インストールする必要はありません。
Magnitudeは、Pi、OpenCode、Hermes、OpenClaw、Codex、Claude Code、Oh My Pi、Clineといった既存のいくつかのエージェントに対して、ワンクリックでの接続機能を備えています。また、OpenAI互換APIを通じてあらゆるエージェントをサポートします。セキュリティとプライバシーに配慮し、このエンジンはプロンプト、ファイル、およびモデルをローカルマシン上に保持するように設計されており、モデルのダウンロード後はインターネット接続を必要としません。
出典
- Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agents （Hacker News Frontpage, 2026-09-30）
- Magnitude