ガイド¶
各ガイドは、1つの作業を最初から最後まで、実際のモデルを想定して説明します。OpenTernaryを初めて使う場合は、先にはじめての実行を試してください。小さなモデルで全ステップを確認できます。
基本の流れ¶
| 手順 | ガイド | コマンド |
|---|---|---|
| 1 | 調査と計画: モデルを用意し、量子化できる部分を確認する | inspect・plan |
| 2 | 量子化: 三値のsnapshotを作る | quantize |
| 3 | 校正: 品質の回復を試みる | calibrate |
| 4 | 評価と比較: 測定して判定する | benchmark・quality・compare |
| 5 | 書き出し: packed化・復元・GGUF | export |
さらに進んだ使い方¶
| ガイド | 用途 |
|---|---|
| Diffusionモデル | Diffusersのpipelineのcomponentを量子化し、画像で評価する |
| 制約付き探索 | 時間・VRAM・ディスクの予算内で、複数の設定を試す |
| 成果物の管理 | 成果物の検査、一覧、安全な削除 |
| 自動化とスクリプト | --json・進捗イベント・終了コード・CI |
| トラブルシューティング | よくあるエラーとその意味 |