Tonerico

サイドバーまたは上部のセレクトからモデルを選び、起動 を押してください。

エンドポイントが /v1 に表示されたら、OpenAI 互換クライアントから接続できます。

• POST /v1/chat/completions に JSON を投げる
• GET /v1/models でモデル一覧

メタデータDBからの読み取り専用一覧。クリックで上部セレクトに選択反映します。

• 履歴はありません

HuggingFace の GGUF モデルを Modal Volume に直接ダウンロードします。

ログ抜粋

ログはありません

メタデータDBからの読み取り専用一覧（最新50件）。

• 履歴はありません

メタデータDBからの読み取り専用一覧。起動時に記録された Backend / Storage の状態です。

モデルのコンテキストサイズ (c) や GPU レイヤー (n-gpu-layers) などを直接編集できます。