Windows에서 SageAttention, TeaCache, Triton 설치하기 - 완전 가이드

SageAttention과 TeaCache가 AI 생성에 2-4배 속도 향상을 제공한다고 들었지만 모든 가이드는 Linux를 가정합니다. Windows 설치는 가능하지만 일반 가이드가 생략하는 특정 단계가 필요합니다. 이러한 최적화를 Windows 시스템에서 실행해 보겠습니다.

빠른 답변: Windows에 SageAttention, TeaCache, Triton을 설치하려면 C++ 워크로드가 포함된 Visual Studio Build Tools, CUDA Toolkit 12.1 이상 및 특정 Python 구성이 필요합니다. Windows 호환 휠에서 Triton을 설치한 다음 GPU 아키텍처에 대해 SageAttention과 TeaCache를 컴파일합니다. 프로세스는 30-60분이 걸리지만 완료되면 상당한 생성 속도 향상을 제공합니다.

Triton이 원래 Windows용으로 설계되지 않았기 때문에 Windows 설치는 Linux보다 더 복잡합니다. 커뮤니티 노력으로 Windows 지원이 가능해졌지만 일반적인 지침 대신 특정 단계를 따라야 합니다.

어떤 필수 조건이 필요한가요?

설치를 시작하기 전에 이것들을 모으세요.

Visual Studio Build Tools

Microsoft Visual Studio Build Tools는 Triton 및 CUDA 커널 컴파일에 필요한 C++ 컴파일러를 제공합니다.

Visual Studio 다운로드 페이지에서 Build Tools를 다운로드하세요. 전체 Visual Studio IDE가 아닌 Build Tools만 필요합니다.

설치 중에 "C++를 사용한 데스크톱 개발" 워크로드를 선택하세요. 이것은 필요한 컴파일러, 링커 및 Windows SDK를 설치합니다.

설치는 수 기가바이트이며 연결 및 디스크 속도에 따라 10-20분이 소요됩니다.

설치 후 명령줄에서 컴파일러에 액세스할 수 있어야 합니다. 설치 프로그램은 일반적으로 PATH에 추가하지만 새 터미널에서 cl 명령으로 확인하세요.

CUDA Toolkit 12.1 이상

PyTorch는 CUDA 런타임을 번들하지만 컴파일에 필요한 전체 툴킷은 포함하지 않습니다. CUDA Toolkit을 별도로 설치하세요.

NVIDIA 개발자 사이트에서 다운로드하세요. 최신 PyTorch 요구 사항에 맞게 버전 12.1 이상을 선택하세요.

설치 중에 이미 현재 드라이버가 있으면 드라이버 구성 요소 선택을 해제할 수 있습니다. 툴킷, 라이브러리 및 문서를 설치하세요.

설치 프로그램은 CUDA를 PATH에 추가합니다. nvcc --version 명령으로 확인하세요.

Python 환경

Python 3.10 또는 3.11을 사용하세요. Triton에는 특정 Python 버전 요구 사항이 있으며 3.12 이상에서는 작동하지 않을 수 있습니다.

가상 환경은 이 설치를 다른 Python 프로젝트와 분리합니다. ComfyUI 또는 AI 작업을 위해 특별히 하나를 만드세요.

python -m pip install --upgrade pip로 pip가 업데이트되었는지 확인하세요.

Git

SageAttention 및 TeaCache 저장소를 복제하려면 Git이 필요합니다.

git-scm.com에서 다운로드하고 기본 옵션으로 설치하세요. 이것은 git을 PATH에 추가합니다.

Windows에 Triton을 어떻게 설치하나요?

Triton은 다른 최적화가 의존하는 기반입니다.

Windows 휠 찾기

공식 Triton 릴리스에는 Windows 휠이 포함되어 있지 않습니다. 커뮤니티에서 빌드한 버전이 필요합니다.

"triton windows wheel"을 검색하여 현재 빌드를 찾으세요. GitHub의 triton-windows 저장소와 다양한 Discord 커뮤니티가 빌드를 공유합니다.

휠을 Python 버전에 맞추세요. Python 3.10용 휠은 Python 3.11에서 작동하지 않습니다.

설치 프로세스

Python 버전에 적합한 휠 파일을 다운로드하세요.

로컬 파일 경로를 사용하여 pip로 설치하세요. 예를 들어 pip install path/to/triton-2.1.0-cp310-cp310-win_amd64.whl.

pip가 종속성에 대해 불평하면 먼저 설치하고 다시 시도하세요.

Python에서 triton을 가져와 설치를 테스트하세요. 오류가 나타나지 않으면 기본 설치가 성공한 것입니다.

가져오기 오류 문제 해결

DLL 로드 실패는 누락된 종속성을 나타냅니다. 종종 이것은 Visual C++ Redistributable입니다.

Microsoft에서 최신 Visual C++ Redistributable을 설치하세요. 확실하지 않으면 x64와 x86 버전 모두 설치하세요.

오류가 지속되면 CUDA Toolkit이 올바르게 설치되었고 nvcc에 액세스할 수 있는지 확인하세요.

기능 확인

가져오기 외에도 Triton이 GPU용 커널을 컴파일할 수 있는지 확인하세요.

문서에서 간단한 Triton 커널 예제를 실행하세요. 오류 없이 실행되고 올바른 결과를 반환하면 Triton이 제대로 작동합니다.

이 단계의 컴파일 오류는 CUDA Toolkit 또는 컴파일러 구성 문제를 나타냅니다.

SageAttention을 어떻게 설치하나요?

SageAttention은 최적화된 어텐션 커널을 제공합니다.

저장소 복제

git을 사용하여 GitHub 저장소에서 SageAttention을 복제하세요.

복제된 폴더로 이동하세요. 설정 파일과 소스 코드가 보입니다.

환경 구성

빌드하기 전에 GPU 아키텍처에 대한 환경 변수를 설정하세요.

TORCH_CUDA_ARCH_LIST를 GPU의 컴퓨팅 기능으로 설정하세요. RTX 4090의 경우 "8.9"입니다. RTX 3090의 경우 "8.6"입니다.

다른 GPU용 커널을 원하면 여러 아키텍처를 지정할 수 있지만 빌드 시간이 증가합니다.

빌드 및 설치

설정 스크립트를 실행하여 SageAttention을 컴파일하고 설치하세요.

저장소 디렉토리에서 pip install .을 사용하세요. 이것은 구성된 툴체인을 사용하여 컴파일을 트리거합니다.

컴파일에는 몇 분이 걸립니다. 진행 메시지는 빌드되는 내용을 보여줍니다.

컴파일이 실패하면 오류 메시지는 일반적으로 누락된 것을 나타냅니다. 일반적인 문제는 PATH에 누락된 컴파일러 또는 잘못된 CUDA 아키텍처 사양입니다.

SageAttention 확인

Python에서 sageattention을 가져와 설치를 확인하세요.

SageAttention을 사용하여 간단한 어텐션 작업을 실행하세요. JIT 컴파일하므로 첫 번째 실행은 느릴 수 있지만 이후 호출은 빨라야 합니다.

TeaCache를 어떻게 설치하나요?

TeaCache는 SageAttention과 유사한 설정이 필요합니다.

복제 및 설정

GitHub 저장소에서 TeaCache를 복제하세요.

구조는 빌드용 설정 파일이 있는 SageAttention과 유사합니다.

ComfyUI 통합

ComfyUI 사용자의 경우 TeaCache는 종종 사용자 정의 노드로 패키지됩니다.

Manager 또는 수동으로 ComfyUI-TeaCache 노드 팩을 설치하세요. 노드 팩은 ComfyUI의 샘플링 시스템과의 통합을 처리합니다.

설치 후 노드가 ComfyUI에 나타나고 TeaCache 구성에 대한 액세스를 제공합니다.

구성 옵션

TeaCache 매개변수는 캐싱 동작을 제어합니다. 기본값은 대부분의 사용 사례에서 잘 작동합니다.

캐시 임계값은 재사용을 위해 타임스텝이 얼마나 유사해야 하는지 제어합니다. 낮은 값이 더 공격적입니다.

캐시 간격은 주기적으로 새로운 계산을 강제합니다. 높은 값은 더 많은 캐시를 사용합니다.

기본값으로 시작하고 결과에 따라 조정하세요.

어떤 ComfyUI 구성이 필요한가요?

ComfyUI에서 이러한 최적화를 작동시키려면 특정 설정이 필요합니다.

SageAttention 활성화

일부 ComfyUI 구현에서는 SageAttention을 명시적으로 활성화해야 합니다.

어텐션 모드 선택을 위해 ComfyUI의 문서 또는 설정을 확인하세요. 사용 가능하면 SageAttention을 선택하세요.

명시적인 설정이 없으면 감지될 때 SageAttention이 자동으로 활성화될 수 있습니다.

TeaCache 노드 추가

TeaCache 노드는 다른 샘플링 노드처럼 워크플로에 통합됩니다.

모델 로더와 샘플러 사이에 TeaCache 노드를 배치하세요. 캐싱으로 샘플링 프로세스를 래핑합니다.

일반 샘플링 설정과 동일한 모든 입력을 연결하세요.

최적화 테스트

최적화를 사용하거나 사용하지 않고 테스트 생성을 실행하여 속도 향상을 확인하세요.

동일한 설정으로 동일한 프롬프트의 시간을 측정하세요. 최적화가 활성화되면 상당한 감소가 있어야 합니다.

속도 향상이 없으면 최적화가 로드되지 않을 수 있습니다. 콘솔에서 오류를 확인하세요.

통합 문제 해결

생성 중 오류는 종종 컴파일 문제를 나타냅니다.

캐시된 컴파일 파일을 지우고 다시 생성하세요. 오래된 캐시가 문제를 일으킵니다.

GPU 아키텍처 설정이 실제 GPU와 일치하는지 확인하세요. 잘못된 아키텍처는 커널을 실행할 수 없음을 의미합니다.

설치 복잡성 없이 이러한 최적화를 원하는 사용자를 위해 Apatero.com은 최적화된 생성 인프라를 제공합니다. Windows 컴파일 문제를 관리하지 않고 속도 이점을 얻을 수 있습니다.

일반적인 Windows 관련 문제는 무엇인가요?

이러한 문제는 Windows 설치에서 특별히 나타납니다.

긴 경로 오류

Windows 경로 길이 제한은 설치 실패를 일으킬 수 있습니다.

Windows 설정 또는 레지스트리에서 긴 경로 지원을 활성화하세요. 이것은 260자 제한을 제거합니다.

또는 더 짧은 경로에 설치하세요. C:\Users\Username\Documents\Projects\ComfyUI\ 대신 C:\ai\.

바이러스 백신 간섭

보안 소프트웨어가 때때로 컴파일을 차단하거나 빌드된 파일에 플래그를 지정합니다.

Python 환경과 ComfyUI 폴더를 바이러스 백신 제외에 추가하세요.

빌드 중에 파일이 사라지면 바이러스 백신이 삭제하고 있을 수 있습니다. 격리를 확인하세요.

권한 문제

보호된 디렉토리에서 빌드하려면 관리자 액세스가 필요합니다.

설치 명령을 위해 터미널을 관리자로 실행하세요.

또는 문서나 전용 폴더와 같이 사용자가 쓸 수 있는 위치에 설치하세요.

여러 Python 설치

여러 Python 버전은 잘못된 것이 사용되게 할 수 있습니다.

python --version으로 터미널이 사용하는 Python을 확인하세요.

필요한 경우 venv Python에 대한 전체 경로를 사용하세요.

개발자 모드

일부 컴파일 기능에는 Windows 개발자 모드가 활성화되어 있어야 합니다.

설정 > 업데이트 및 보안 > 개발자용에서 활성화하세요.

이것은 Windows가 기본적으로 제한하는 특정 개발 기능의 잠금을 해제합니다.

자주 묻는 질문

Visual Studio가 필요한가요 아니면 Build Tools만 필요한가요?

Build Tools만으로 충분합니다. 전체 Visual Studio IDE에는 Build Tools가 포함되어 있지만 이 목적에 필요하지 않은 많은 기능도 포함되어 있습니다.

어떤 CUDA Toolkit 버전을 사용해야 하나요?

PyTorch의 CUDA 버전과 일치시키세요. CUDA 12.1로 PyTorch를 설치했다면 CUDA Toolkit 12.1을 사용하세요. 버전 불일치는 미묘한 문제를 일으킵니다.

이러한 최적화를 AMD GPU에서 사용할 수 있나요?

아니요, SageAttention과 Triton은 NVIDIA GPU가 필요합니다. AMD는 ROCm을 통해 다른 최적화 접근 방식을 가지고 있습니다.

왜 Triton 컴파일이 처음에 그렇게 오래 걸리나요?

Triton은 첫 사용 시 특정 GPU용 커널을 JIT 컴파일합니다. 이후 실행은 캐시된 컴파일을 사용하여 빠릅니다.

Windows Defender가 설치된 파일을 삭제할까요?

컴파일된 파일을 의심스럽다고 잘못 표시하면 그럴 수 있습니다. 이를 방지하려면 설치 디렉토리를 제외에 추가하세요.

GPU의 컴퓨팅 기능을 어떻게 알 수 있나요?

GPU 모델과 "컴퓨팅 기능"을 검색하세요. NVIDIA가 문서에 이를 나열합니다. RTX 40 시리즈는 8.9, RTX 30 시리즈는 8.6입니다.

사전 빌드된 휠을 사용하여 Build Tools 없이 설치할 수 있나요?

Triton의 경우 호환 가능한 휠을 찾으면 가능합니다. SageAttention은 일반적으로 최적의 성능을 위해 소스에서 컴파일이 필요합니다.

CUDA 설치 후 터미널이 nvcc를 인식하지 못하는 이유는?

설치 프로그램이 PATH를 업데이트하지 않았거나 새 터미널을 열지 않았을 수 있습니다. 필요한 경우 CUDA의 bin 폴더를 PATH에 수동으로 추가하세요.

GPU 드라이버 업데이트 후 다시 설치해야 하나요?

일반적으로 아니요. 드라이버 업데이트는 컴파일된 커널에 영향을 주지 않습니다. 그러나 주요 드라이버 버전은 때때로 재컴파일이 필요합니다.

Windows와 Linux에서 얼마나 많은 속도 향상을 기대해야 하나요?

설치되면 성능은 일반적으로 유사합니다. GPU 계산에 대한 Windows 오버헤드는 최소입니다.

결론

Windows에서 SageAttention, TeaCache, Triton을 설치하려면 특정 필수 조건과 신중한 구성이 필요합니다. Visual Studio Build Tools, CUDA Toolkit 및 적절한 환경 변수가 필수적입니다.

프로세스는 30-60분이 걸리지만 지속적인 이점을 제공합니다. 설치되면 이러한 최적화는 지속적인 노력 없이 자동으로 작동하여 생성 속도를 높입니다.

단계를 정확하게 따르고 발생하는 특정 오류를 해결하세요. 대부분의 실패는 식별되면 간단한 수정이 있습니다.

이러한 최적화로 인한 2-4배 속도 향상은 워크플로를 크게 개선하여 설치 노력의 가치가 있게 합니다.

Windows 컴파일 문제를 피하고 싶은 사용자를 위해 Apatero.com은 로컬 설정 없이 최적화된 생성에 대한 액세스를 제공합니다. 전문적으로 구성된 인프라를 통해 속도 이점을 얻을 수 있습니다.

인내심과 세부 사항에 대한 주의로 Windows 사용자는 Linux 사용자와 동일한 최적화 이점을 달성할 수 있습니다.