WindowsでSageAttention、TeaCache、Tritonをインストールする - 完全ガイド

SageAttentionとTeaCacheがAI生成に2〜4倍の高速化を提供すると聞いたことがありますが、すべてのガイドはLinuxを前提としています。Windowsインストールは可能ですが、一般的なガイドがスキップする特定の手順が必要です。これらの最適化をWindowsシステムで実行できるようにしましょう。

簡潔な回答: WindowsにSageAttention、TeaCache、Tritonをインストールするには、C++ワークロード付きのVisual Studio Build Tools、CUDA Toolkit 12.1以上、および特定のPython設定が必要です。Windows互換のホイールからTritonをインストールし、次にGPUアーキテクチャに対してSageAttentionとTeaCacheをコンパイルします。プロセスには30〜60分かかりますが、完了すると大幅な生成高速化が得られます。

TritonはもともとWindows用に設計されていなかったため、WindowsインストールはLinuxよりも複雑です。コミュニティの努力によりWindowsサポートが可能になりましたが、一般的な手順ではなく特定の手順に従う必要があります。

どのような前提条件が必要か？

インストールを開始する前にこれらを集めてください。

Visual Studio Build Tools

Microsoft Visual Studio Build Toolsは、TritonおよびCUDAカーネルのコンパイルに必要なC++コンパイラを提供します。

Visual Studioのダウンロードページから Build Toolsをダウンロードしてください。完全なVisual Studio IDEは必要なく、Build Toolsだけで十分です。

インストール中に「C++によるデスクトップ開発」ワークロードを選択してください。これにより、必要なコンパイラ、リンカー、Windows SDKがインストールされます。

インストールは数ギガバイトで、接続速度とディスク速度に応じて10〜20分かかります。

インストール後、コマンドラインからコンパイラにアクセスできる必要があります。インストーラーは通常PATHに追加しますが、新しいターミナルでclコマンドで確認してください。

CUDA Toolkit 12.1以上

PyTorchはCUDAランタイムをバンドルしていますが、コンパイルに必要な完全なツールキットは含まれていません。CUDA Toolkitを別途インストールしてください。

NVIDIAの開発者サイトからダウンロードしてください。最新のPyTorch要件に合わせてバージョン12.1以降を選択してください。

インストール中、すでに現在のドライバーがある場合はドライバーコンポーネントの選択を解除できます。ツールキット、ライブラリ、およびドキュメントをインストールしてください。

インストーラーはCUDAをPATHに追加します。nvcc --versionコマンドで確認してください。

Python環境

Python 3.10または3.11を使用してください。Tritonには特定のPythonバージョン要件があり、3.12以上では動作しない可能性があります。

仮想環境はこのインストールを他のPythonプロジェクトから分離します。ComfyUIまたはAI作業専用に作成してください。

python -m pip install --upgrade pipでpipが更新されていることを確認してください。

Git

SageAttentionとTeaCacheのリポジトリをクローンするためにGitが必要です。

git-scm.comからダウンロードし、デフォルトオプションでインストールしてください。これによりgitがPATHに追加されます。

WindowsにTritonをインストールする方法

Tritonは他の最適化が依存する基盤です。

Windowsホイールの検索

公式TritonリリースにはWindowsホイールが含まれていません。コミュニティビルドバージョンが必要です。

「triton windows wheel」を検索して現在のビルドを見つけてください。GitHubのtriton-windowsリポジトリやさまざまなDiscordコミュニティがビルドを共有しています。

ホイールをPythonバージョンに合わせてください。Python 3.10用のホイールはPython 3.11では動作しません。

インストールプロセス

Pythonバージョンに適したホイールファイルをダウンロードしてください。

ローカルファイルパスを使用してpipでインストールしてください。例えば、pip install path/to/triton-2.1.0-cp310-cp310-win_amd64.whl。

pipが依存関係について文句を言う場合は、最初にそれらをインストールして再試行してください。

Pythonでtritonをインポートしてインストールをテストしてください。エラーが表示されなければ、基本的なインストールは成功しています。

インポートエラーのトラブルシューティング

DLLロード失敗は依存関係の欠落を示しています。多くの場合、これはVisual C++再頒布可能パッケージです。

Microsoftから最新のVisual C++再頒布可能パッケージをインストールしてください。不明な場合はx64とx86の両方のバージョンをインストールしてください。

エラーが続く場合は、CUDA Toolkitが正しくインストールされ、nvccがアクセス可能であることを確認してください。

機能の確認

インポート以外に、TritonがGPU用のカーネルをコンパイルできることを確認してください。

ドキュメントから簡単なTritonカーネル例を実行してください。エラーなく実行され、正しい結果が返されれば、Tritonは正常に動作しています。

この段階でのコンパイルエラーは、CUDA Toolkitまたはコンパイラ設定の問題を示しています。

SageAttentionをインストールする方法

SageAttentionは最適化されたアテンションカーネルを提供します。

リポジトリのクローン

gitを使用してGitHubリポジトリからSageAttentionをクローンしてください。

クローンしたフォルダに移動してください。セットアップファイルとソースコードが表示されます。

環境設定

ビルド前に、GPUアーキテクチャ用の環境変数を設定してください。

TORCH_CUDA_ARCH_LISTをGPUのコンピュート能力に設定してください。RTX 4090の場合は「8.9」。RTX 3090の場合は「8.6」です。

異なるGPU用のカーネルが必要な場合は複数のアーキテクチャを指定できますが、ビルド時間が増加します。

ビルドとインストール

セットアップスクリプトを実行してSageAttentionをコンパイルおよびインストールしてください。

リポジトリディレクトリからpip install .を使用してください。これにより、設定されたツールチェーンを使用してコンパイルがトリガーされます。

コンパイルには数分かかります。進行状況メッセージにビルド中の内容が表示されます。

コンパイルが失敗した場合、エラーメッセージは通常何が欠落しているかを示します。一般的な問題は、PATHにコンパイラがない、またはCUDAアーキテクチャ指定が間違っていることです。

SageAttentionの確認

Pythonでsageattentionをインポートしてインストールを確認してください。

SageAttentionを使用して簡単なアテンション操作を実行してください。最初の実行はJITコンパイルのため遅い場合がありますが、その後の呼び出しは速いはずです。

TeaCacheをインストールする方法

TeaCacheにはSageAttentionと同様のセットアップが必要です。

クローンとセットアップ

GitHubリポジトリからTeaCacheをクローンしてください。

構造はSageAttentionと同様で、ビルド用のセットアップファイルがあります。

ComfyUI統合

ComfyUIユーザーの場合、TeaCacheはしばしばカスタムノードとしてパッケージ化されています。

Managerまたは手動でComfyUI-TeaCacheノードパックをインストールしてください。ノードパックはComfyUIのサンプリングシステムとの統合を処理します。

インストール後、ノードはComfyUIに表示され、TeaCache設定へのアクセスを提供します。

設定オプション

TeaCacheパラメータはキャッシュ動作を制御します。デフォルトはほとんどのユースケースでうまく機能します。

キャッシュしきい値は、再利用のためにタイムステップがどれだけ類似している必要があるかを制御します。値が低いほど積極的です。

キャッシュ間隔は定期的に新しい計算を強制します。値が高いほどより多くのキャッシュを使用します。

デフォルトから始めて、結果に基づいて調整してください。

どのComfyUI設定が必要か？

ComfyUIでこれらの最適化を機能させるには、特定のセットアップが必要です。

SageAttentionの有効化

一部のComfyUI実装ではSageAttentionを明示的に有効にする必要があります。

ComfyUIのドキュメントまたは設定でアテンションモード選択を確認してください。利用可能な場合はSageAttentionを選択してください。

明示的な設定がない場合、検出されるとSageAttentionが自動的にアクティブになる可能性があります。

TeaCacheノードの追加

TeaCacheノードは他のサンプリングノードと同様にワークフローに統合されます。

TeaCacheノードをモデルローダーとサンプラーの間に配置してください。キャッシュでサンプリングプロセスをラップします。

通常のサンプリングセットアップと同じ入力をすべて接続してください。

最適化のテスト

最適化ありとなしでテスト生成を実行して、高速化を確認してください。

同一の設定で同じプロンプトの時間を計測してください。最適化が有効になっていれば、大幅な削減が見られるはずです。

高速化がない場合、最適化がロードされていない可能性があります。コンソールでエラーを確認してください。

統合問題のトラブルシューティング

生成中のエラーはしばしばコンパイルの問題を示しています。

キャッシュされたコンパイルファイルをクリアして再生成してください。古いキャッシュは問題を引き起こします。

GPUアーキテクチャ設定が実際のGPUと一致していることを確認してください。間違ったアーキテクチャはカーネルが実行できないことを意味します。

インストールの複雑さなしでこれらの最適化を望むユーザーのために、Apatero.comは最適化された生成インフラストラクチャを提供します。Windowsコンパイルの課題を管理することなく速度の利点を得ることができます。

一般的なWindows固有の問題は何か？

これらの問題はWindowsインストール特有のものです。

長いパスエラー

Windowsパス長制限はインストール失敗を引き起こす可能性があります。

Windows設定またはレジストリで長いパスサポートを有効にしてください。これにより260文字の制限が削除されます。

または、より短いパスにインストールしてください。C:\Users\Username\Documents\Projects\ComfyUI\ではなくC:\ai\。

アンチウイルスの干渉

セキュリティソフトウェアがコンパイルをブロックしたり、ビルドされたファイルにフラグを立てたりすることがあります。

Python環境とComfyUIフォルダをアンチウイルスの除外に追加してください。

ビルド中にファイルが消える場合、アンチウイルスがそれらを削除している可能性があります。隔離を確認してください。

権限の問題

保護されたディレクトリでのビルドには管理者アクセスが必要です。

インストールコマンドのために管理者としてターミナルを実行してください。

または、ドキュメントや専用フォルダなどのユーザー書き込み可能な場所にインストールしてください。

複数のPythonインストール

複数のPythonバージョンは間違ったものが使用される原因になります。

python --versionでターミナルが使用しているPythonを確認してください。

必要に応じてvenv Pythonへのフルパスを使用してください。

開発者モード

一部のコンパイル機能にはWindowsの開発者モードを有効にする必要があります。

設定 > 更新とセキュリティ > 開発者向けで有効にしてください。

これにより、Windowsがデフォルトで制限している特定の開発機能がアンロックされます。

よくある質問

Visual Studioが必要ですか、それともBuild Toolsだけですか？

Build Toolsだけで十分です。完全なVisual Studio IDEにはBuild Toolsが含まれていますが、この目的には必要ない多くの機能も含まれています。

どのCUDA Toolkitバージョンを使用すべきですか？

PyTorchのCUDAバージョンに合わせてください。CUDA 12.1でPyTorchをインストールした場合は、CUDA Toolkit 12.1を使用してください。バージョンの不一致は微妙な問題を引き起こします。

これらの最適化をAMD GPUで使用できますか？

いいえ、SageAttentionとTritonはNVIDIA GPUが必要です。AMDにはROCmを通じた異なる最適化アプローチがあります。

最初のTritonコンパイルになぜそんなに時間がかかるのですか？

Tritonは最初の使用時に特定のGPU用にカーネルをJITコンパイルします。その後の実行はキャッシュされたコンパイルを使用し、高速です。

Windows DefenderがインストールされたファイルをますDiscordか？

偽ってコンパイルされたファイルを疑わしいとフラグを立てた場合、そうなる可能性があります。これを防ぐためにインストールディレクトリを除外に追加してください。

GPUがどのコンピュート能力を持っているかをどうやって知りますか？

GPUモデルと「コンピュート能力」を検索してください。NVIDIAはドキュメントにこれをリストしています。RTX 40シリーズは8.9、RTX 30シリーズは8.6です。

プリビルトホイールを使用してBuild Toolsなしでインストールできますか？

Tritonの場合、互換性のあるホイールを見つければ可能です。SageAttentionは通常、最適なパフォーマンスのためにソースからのコンパイルが必要です。

CUDAをインストールした後、ターミナルがnvccを認識しないのはなぜですか？

インストーラーがPATHを更新しなかったか、新しいターミナルを開いていない可能性があります。必要に応じてCUDAのbinフォルダを手動でPATHに追加してください。

GPUドライバー更新後に再インストールする必要がありますか？

通常はいいえ。ドライバー更新はコンパイルされたカーネルに影響しません。ただし、メジャードライバーバージョンでは時々再コンパイルが必要になります。

WindowsとLinuxでどのくらいの高速化が期待できますか？

一度インストールすればパフォーマンスは一般的に同様です。GPU計算に対するWindowsのオーバーヘッドは最小限です。

結論

WindowsでのSageAttention、TeaCache、Tritonのインストールには、特定の前提条件と慎重な設定が必要です。Visual Studio Build Tools、CUDA Toolkit、および適切な環境変数が不可欠です。

プロセスには30〜60分かかりますが、持続的な利点が得られます。一度インストールすれば、これらの最適化は自動的に動作し、継続的な努力なしで生成を加速します。

手順を正確に従い、発生した特定のエラーをトラブルシューティングしてください。ほとんどの失敗は特定されれば簡単な修正があります。

これらの最適化による2〜4倍の高速化はワークフローを大幅に改善し、インストールの努力に値します。

Windowsコンパイルの課題を避けたいユーザーのために、Apatero.comはローカルセットアップなしで最適化された生成へのアクセスを提供します。プロフェッショナルに設定されたインフラストラクチャを通じて速度の利点を得ることができます。

忍耐と細部への注意があれば、WindowsユーザーはLinuxユーザーと同じ最適化の利点を達成できます。