日本語

製品発表Janus

Janus:Vulkanを介してGGUFモデルを実行するための単一Goバイナリ

この記事は翻訳です。 原文を読む

Janusは、Vulkan APIを介してCPUまたはGPUを使用してローカルハードウェア上で.ggufモデルを実行するために設計された単一のGoバイナリです。このツールはOpenAI互換のAPIを公開し、組み込みのWeb UIを含んでいるため、Python、Docker、Ollamaを必要としません(ただし、希望に応じてOllamaをバックエンドとして使用することも可能です)。

このアプリケーションは、ランナーとルーターの両方の機能を持っています。すべてのプロセスをローカルに維持したまま、モデルの推論、リクエストのルーティング、ツールの実行を処理します。ユーザーは、コマンドライン、スクリプト、またはCursorやClineのようなサードパーティ製のクライアントをJanusのエンドポイントに向けることで、モデルと対話できます。

Janusはポータビリティを重視して設計されており、バイナリとモデルファイル(通常は2〜8 GB)のみを必要とします。シンプルなチャットインターフェースからAPIを介した自動化タスクまで、さまざまなワークフローをサポートしています。OCR機能が必要なユーザー向けに、Tesseractを統合することも可能です。

出典

  1. Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia (Hacker News Frontpage, 2026-10-01)