Solucionar errores de memoria insuficiente en entrenamiento de Flux LoRA en RTX 4090

Tienes una RTX 4090 con 24GB de VRAM, supuestamente suficiente para entrenamiento local de Flux, pero cada intento falla con errores de CUDA out of memory. El entrenamiento comienza bien, quizás ejecuta algunos pasos, y luego muere. Has intentado reducir el tamaño del batch pero sigue fallando. ¿Qué está consumiendo toda esa memoria?

Respuesta rápida: El entrenamiento de Flux LoRA OOM en RTX 4090 ocurre porque la arquitectura grande de Flux requiere 30-40GB de VRAM con la configuración de entrenamiento predeterminada. Soluciona esto habilitando gradient checkpointing para intercambiar cómputo por memoria, reduciendo el tamaño del batch a 1, usando resolución de entrenamiento 512x512 en lugar de 1024x1024, habilitando precisión mixta con FP16 o BF16, y usando implementaciones de atención con eficiencia de memoria. Estas configuraciones permiten entrenamiento completo en 24GB mientras producen LoRAs de calidad.

La RTX 4090 es una tarjeta excelente para entrenamiento de Flux LoRA cuando se configura correctamente. El problema es que las configuraciones de entrenamiento predeterminadas asumen más VRAM de 24GB. Con la configuración correcta, puedes entrenar Flux LoRAs de alta calidad eficientemente. Configuremos tu setup para entrenamiento estable.

¿Por qué el entrenamiento de Flux necesita tanta VRAM?

Entender qué consume memoria durante el entrenamiento te ayuda a optimizar efectivamente.

Tamaño del modelo

El modelo base de Flux es significativamente más grande que SDXL o SD 1.5. Los pesos del modelo en precisión completa consumen alrededor de 23GB por sí solos. Eso ya es toda la VRAM de tu 4090 antes de que el entrenamiento comience.

Durante el entrenamiento, necesitas memoria para el modelo, los gradientes, los estados del optimizador y las activaciones. Cada uno de estos puede acercarse al tamaño del modelo mismo.

Para entrenamiento de LoRA específicamente, congelas el modelo base y solo entrenas pequeñas capas adaptadoras. Esto ayuda significativamente pero no elimina la presión de memoria de las activaciones y gradientes fluyendo a través del modelo completo.

Memoria de activaciones

Durante el paso hacia adelante, las activaciones intermedias se almacenan para usar durante el paso hacia atrás. Estas activaciones crecen con el tamaño del batch y la resolución.

A resolución 1024x1024, la memoria de activaciones puede exceder el tamaño del modelo. Un solo batch de entrenamiento puede requerir 15-20GB solo para activaciones.

Por esto el entrenamiento falla después de unos pasos. El primer paso puede caber, pero la fragmentación de memoria y el estado acumulado causan que los pasos siguientes fallen.

Estado del optimizador

Optimizadores como Adam almacenan dos valores de momentum para cada parámetro entrenable. Esto duplica la memoria necesaria para los parámetros siendo entrenados.

Para fine-tuning completo, la memoria del estado del optimizador equivale a 2x el tamaño del modelo. El entrenamiento de LoRA tiene estados del optimizador más pequeños ya que se entrenan menos parámetros, pero sigue siendo sustancial.

Memoria de gradientes

Los gradientes para cada parámetro entrenable necesitan almacenamiento durante el paso hacia atrás. Esto agrega otra copia completa del tamaño de los parámetros entrenables a los requisitos de memoria.

Combinado con modelo, activaciones y estado del optimizador, el requisito total de memoria fácilmente alcanza 40-50GB para configuraciones de entrenamiento de Flux predeterminadas.

¿Cómo configuras el entrenamiento para 24GB de VRAM?

Estas configuraciones permiten entrenamiento estable de Flux LoRA en RTX 4090.

Habilitar gradient checkpointing

Gradient checkpointing es la optimización de memoria más impactante. Reduce la memoria de activaciones en 60-70% a costa de 20-30% más tiempo de cómputo.

En lugar de almacenar todas las activaciones durante el paso hacia adelante, checkpointing descarta la mayoría y las recalcula durante el paso hacia atrás. El uso de memoria se vuelve casi constante independientemente de la profundidad del modelo.

En Kohya SS, habilita gradient checkpointing en la configuración de entrenamiento. La opción es usualmente una casilla simple o parámetro booleano.

En scripts de entrenamiento personalizados usando diffusers, llama model.enable_gradient_checkpointing() antes de que comience el entrenamiento.

El entrenamiento toma más tiempo con checkpointing habilitado pero realmente se completa en lugar de fallar. El intercambio de tiempo vale la pena.

Establecer tamaño de batch a 1

El tamaño de batch multiplica directamente la memoria de activaciones. Un tamaño de batch de 4 usa aproximadamente 4x la memoria de activaciones de tamaño de batch 1.

Establece tu tamaño de batch a 1. Usa acumulación de gradientes para simular tamaños de batch efectivos más grandes sin el costo de memoria.

Por ejemplo, tamaño de batch 1 con 4 pasos de acumulación de gradientes da un tamaño de batch efectivo de 4 mientras solo mantiene las activaciones de 1 muestra en memoria.

La acumulación de gradientes acumula gradientes sobre múltiples pasos hacia adelante antes de actualizar pesos. El uso de memoria permanece constante en tamaño de batch 1 mientras la dinámica de entrenamiento aproxima batches más grandes.

Reducir resolución de entrenamiento

La resolución tiene impacto cuadrático en la memoria. Duplicar la resolución cuadruplica la memoria de activaciones.

Entrena a 512x512 en lugar de 1024x1024. Esto reduce la memoria de activaciones aproximadamente 75%.

Podrías preocuparte de que el entrenamiento a 512x512 produce peores resultados que resolución nativa. En la práctica, LoRAs entrenados a menor resolución se transfieren bien a inferencia de mayor resolución. Los elementos estilísticos y conceptos que estás entrenando aún se manifiestan en generación a 1024x1024.

Si necesitas entrenamiento a mayor resolución para casos de uso específicos, 768x768 es a veces posible con otras optimizaciones agresivas. Prueba cuidadosamente y monitorea la memoria.

Usar entrenamiento con precisión mixta

Precisión mixta usa FP16 o BF16 para la mayoría de operaciones mientras mantiene valores críticos en FP32.

BF16 se recomienda para GPUs Ampere y más nuevas. Maneja gradientes mejor que FP16 debido al mayor rango dinámico.

Habilita precisión mixta en tu configuración de entrenamiento. En Kohya SS, selecciona BF16 del menú desplegable de precisión. En scripts personalizados, usa el context manager autocast de PyTorch.

Precisión mixta reduce aproximadamente a la mitad la memoria para pesos del modelo y activaciones. Combinado con otras optimizaciones, es esencial para entrenamiento de 24GB.

Habilitar atención con eficiencia de memoria

Las implementaciones estándar de atención asignan tensores intermedios grandes. Variantes eficientes en memoria como xFormers o Flash Attention procesan atención en chunks.

xFormers funciona bien para entrenamiento y es ampliamente soportado. Instálalo por separado y habilítalo en tu configuración de entrenamiento.

Flash Attention proporciona mejor rendimiento en GPUs recientes. Verifica si tu framework de entrenamiento lo soporta.

Atención eficiente en memoria puede reducir el uso de memoria de atención en 80% o más. Para modelos grandes como Flux, esto se traduce en varios GB ahorrados.

Usar optimizador de 8 bits

El optimizador Adam estándar almacena dos valores FP32 por parámetro. Adam de 8 bits cuantiza estos a INT8, reduciendo la memoria del optimizador a la mitad.

Instala la librería bitsandbytes y configura Adam de 8 bits en tu setup de entrenamiento. Kohya SS soporta esto directamente. Scripts personalizados necesitan importar el optimizador de 8 bits de bitsandbytes.

El impacto en calidad es mínimo. Adam de 8 bits converge similarmente a precisión completa en la mayoría de casos.

¿Qué configuraciones funcionan mejor para Kohya SS?

Kohya SS es la herramienta de entrenamiento de Flux LoRA más popular. Aquí hay configuraciones específicas que funcionan.

Configuración recomendada

Usa estas configuraciones como tu punto de partida para entrenamiento de Flux LoRA en RTX 4090.

Resolución: 512,512 Tamaño de batch: 1 Pasos de acumulación de gradientes: 4 Precisión mixta: bf16 Gradient checkpointing: Habilitado xFormers: Habilitado Optimizador: AdamW8bit Rango de red: 16-32 Alpha de red: Igual al rango o la mitad Tasa de aprendizaje: 1e-4 Pasos de entrenamiento: 1000-2000 para personajes, 2000-4000 para estilos

Esta configuración usa aproximadamente 20GB de VRAM, dejando margen para estabilidad.

Ajustes para diferentes tipos de entrenamiento

LoRAs de personajes pueden usar rango menor alrededor de 16 y menos pasos alrededor de 1000. Las características de personajes son relativamente simples de capturar.

LoRAs de estilo se benefician de rango mayor alrededor de 32-64 y más pasos de entrenamiento alrededor de 3000-4000. Los estilos artísticos tienen más varianza por aprender.

LoRAs de concepto para objetos o poses específicas varían ampliamente. Comienza con configuraciones de personaje y ajusta basándote en resultados.

Rangos mayores necesitan más VRAM. Si subes el rango a 64 o más, monitorea el uso de memoria durante el entrenamiento. Puede que necesites reducir la resolución a 448x448.

Configuración de captions

Buenos captions mejoran la calidad del entrenamiento dramáticamente. Flux responde bien a descripciones en lenguaje natural.

Usa BLIP o herramientas similares para generar captions iniciales, luego refínalos manualmente. Elimina descripciones inexactas y agrega tu palabra trigger.

Captions más largos generalmente funcionan mejor para Flux que para SD 1.5. Incluye detalles relevantes sobre el contenido de la imagen más allá del sujeto.

Evita captions repetitivos en tu dataset. Varía el lenguaje mientras mantienes la palabra trigger consistente.

Generación de imágenes de muestra

Habilita generación de muestras durante el entrenamiento para monitorear progreso. Establece la frecuencia de muestras cada 100-200 pasos.

La generación de muestras agrega overhead de memoria. Si llegas a OOM durante el muestreo, aumenta la acumulación de gradientes o reduce la frecuencia de muestras.

Las muestras te dicen cuándo el entrenamiento va bien y cuándo has sobreajustado. Detén el entrenamiento cuando las muestras se vean bien pero no hayan comenzado a degradarse.

¿Cómo solucionas errores OOM persistentes?

Si los fallos continúan después de la optimización, investiga estos factores adicionales.

Fragmentación de VRAM

El asignador de memoria de PyTorch puede fragmentar VRAM con el tiempo, causando fallos incluso cuando la memoria libre total parece adecuada.

Ejecuta el entrenamiento con la variable de entorno PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128. Esto cambia la estrategia de asignación para reducir fragmentación.

Comenzar fresco sin operaciones previas de GPU ayuda. Reinicia tu sistema o al menos termina todos los procesos de Python antes del entrenamiento.

Monitorear uso de memoria

Observa el uso de VRAM durante el entrenamiento para identificar exactamente cuándo ocurre el OOM.

Ejecuta nvidia-smi -l 1 en una terminal separada para ver el uso de memoria actualizado cada segundo.

Nota el uso pico justo antes del fallo. Esto te dice cuánto necesitas reducir.

Si el fallo ocurre inmediatamente, tu configuración de carga del modelo está mal. Si el fallo ocurre después de varios pasos, la acumulación de activaciones o fragmentación es el problema.

Problemas del dataset

Imágenes de resolución extremadamente alta en tu dataset pueden causar OOM cuando se cargan para entrenamiento.

Preprocesa tu dataset para asegurar que todas las imágenes están en o por debajo de la resolución de entrenamiento. No hay beneficio en cargar imágenes 4K cuando entrenas a 512x512.

Verifica que las relaciones de aspecto sean razonables. Imágenes muy anchas o altas pueden requerir más memoria durante el procesamiento incluso con la misma cantidad total de píxeles.

Otros procesos usando VRAM

Verifica que no haya otras aplicaciones consumiendo memoria GPU antes del entrenamiento.

Cierra navegadores web, Discord y otras aplicaciones aceleradas por GPU. Incluso unos pocos cientos de MB consumidos en otro lugar pueden empujarte sobre el límite.

Múltiples procesos de Python pueden retener VRAM de ejecuciones fallidas anteriores. Reinicia el intérprete de Python o todo tu sistema para un estado limpio.

Bugs del framework de entrenamiento

Ocasionalmente, bugs en Kohya SS u otras herramientas de entrenamiento causan fugas de memoria.

Actualiza a la última versión de tu herramienta de entrenamiento. Los arreglos relacionados con memoria son comunes en actualizaciones.

Revisa los issues de GitHub de la herramienta buscando reportes que coincidan con tus síntomas. Otros pueden haber encontrado soluciones alternativas o arreglos.

Para usuarios que quieren entrenar LoRAs sin gestionar estas limitaciones técnicas, Apatero.com ofrece entrenamiento basado en la nube con hardware de grado profesional. Defines tu trabajo de entrenamiento y dataset mientras la plataforma maneja la gestión de memoria y optimización automáticamente.

¿Cuáles son enfoques alternativos de entrenamiento?

Si el entrenamiento en 4090 sigue siendo problemático, considera estas alternativas.

Entrenamiento en la nube

Instancias en la nube con 48GB+ de VRAM eliminan restricciones de memoria por completo.

RunPod, Vast.ai y Lambda Labs ofrecen instancias GPU por hora. Una instancia A100 80GB entrena Flux LoRAs cómodamente a resolución completa.

El costo para una ejecución típica de entrenamiento de LoRA es $5-15 dependiendo del proveedor y tipo de GPU. Esto es razonable para necesidades de entrenamiento ocasionales.

Sube tu dataset, ejecuta el entrenamiento, descarga el LoRA. El proceso toma 1-2 horas en total para la mayoría de proyectos.

Entrenamiento de menor precisión

El entrenamiento experimental FP8 reduce memoria más que BF16. Algunas herramientas de la comunidad lo soportan.

El entrenamiento FP8 está menos probado para calidad que BF16. Prueba los resultados cuidadosamente antes de adoptarlo para proyectos importantes.

Ahorros de memoria de un 30-40% adicional pueden hacer que configuraciones previamente imposibles funcionen.

Variantes de LoRA más pequeñas

LoKr, LoHa y adaptaciones de bajo rango similares usan menos memoria que LoRA estándar.

Estas variantes funcionan bien para algunos objetivos de entrenamiento pero pueden tener menor rendimiento para estilos o conceptos complejos.

Experimenta con alternativas si la configuración estándar de LoRA sigue siendo problemática a pesar de la optimización.

Preguntas frecuentes

¿Por qué el entrenamiento falla después de exactamente 1 paso cada vez?

Esto indica que se está cruzando un umbral de memoria específico. El paso hacia adelante cabe pero agregar gradientes durante el paso hacia atrás excede la VRAM. Habilita gradient checkpointing y reduce la resolución juntos en lugar de incrementalmente.

¿Puedo entrenar a 1024x1024 en RTX 4090?

Teóricamente posible con optimización extrema incluyendo rango mínimo, checkpointing pesado y 8-bit en todo. Prácticamente, los resultados a 512x512 son suficientemente buenos que la lucha con la memoria no vale la pena. Entrena a 512x512 y genera a 1024x1024.

¿Tamaño de batch 1 produce peores LoRAs que batches más grandes?

No significativamente. La acumulación de gradientes proporciona dinámica de entrenamiento equivalente. Algunos argumentan que batches muy pequeños tienen ligeramente más ruido pero los gradientes acumulados lo suavizan. La diferencia de calidad es mínima comparada con otros factores.

¿Cómo sé si mi LoRA está entrenando correctamente?

Las imágenes de muestra durante el entrenamiento muestran el progreso. Deberías ver tu palabra trigger afectando las generaciones después de 200-400 pasos. La transferencia de estilo completa típicamente emerge para 800-1000 pasos. Si las muestras no cambian o se degradan inmediatamente, ajusta la tasa de aprendizaje.

¿Por qué el uso de VRAM aumenta gradualmente durante el entrenamiento?

La fragmentación de memoria o fugas causan aumento gradual. El asignador crea pequeños fragmentos que no pueden ser reutilizados. Establece la variable de entorno max_split_size_mb y asegúrate de que no haya fugas de memoria en código personalizado.

¿Debería usar xFormers o atención nativa de PyTorch?

xFormers proporciona mejor eficiencia de memoria para la mayoría de escenarios de entrenamiento. La atención nativa a veces funciona mejor para arquitecturas específicas. Comienza con xFormers y solo cambia si encuentras problemas.

¿Qué rango de red debería usar para Flux LoRAs?

Comienza con 16 para personajes y conceptos simples, 32 para estilos y sujetos complejos. Rangos mayores capturan más detalle pero necesitan más memoria y más datos de entrenamiento. Prueba rangos menores primero ya que a menudo funcionan bien.

¿Cuántas imágenes de entrenamiento necesito?

Para personajes, 10-20 buenas imágenes funcionan bien. Para estilos, 50-200 imágenes proporcionan mejor cobertura. La calidad importa más que la cantidad. Imágenes bien etiquetadas y diversas superan cientos de tomas similares.

¿Puedo reanudar el entrenamiento después de un fallo OOM?

Si habilitaste checkpointing en tu configuración de entrenamiento, sí. Kohya SS guarda progreso periódicamente. Reanuda desde el último checkpoint después de corregir las configuraciones de memoria.

¿Hay alguna forma de predecir si mi configuración dará OOM antes de comenzar?

Estimación aproximada basada en tamaño del modelo, tamaño del batch, resolución y optimizaciones. Herramientas como accelerate estimate-memory proporcionan estimaciones. Pero la memoria real varía con detalles de implementación, así que siempre comienza conservador.

Conclusión y flujo de trabajo recomendado

El entrenamiento de Flux LoRA en RTX 4090 requiere gestión cuidadosa de memoria pero produce resultados excelentes una vez configurado correctamente. Las configuraciones clave son gradient checkpointing, tamaño de batch 1 con acumulación, resolución 512x512 y entrenamiento con precisión mixta.

Comienza con la configuración conservadora proporcionada en esta guía. Ejecuta una prueba corta de 100-200 pasos para verificar estabilidad antes de comprometerte con ejecuciones de entrenamiento completas.

Monitorea tus muestras durante el entrenamiento. Detén cuando el LoRA capture tu concepto objetivo antes de que la calidad comience a degradarse por sobreentrenamiento.

Si luchas consistentemente con límites de memoria o quieres configuraciones de mayor calidad que lo que 24GB permiten, el entrenamiento en la nube ofrece una alternativa práctica. Servicios como Apatero.com hacen esto accesible sin gestionar infraestructura en la nube tú mismo.

Tu RTX 4090 es hardware capaz para entrenamiento local de LoRA. Con configuración apropiada, puedes entrenar Flux LoRAs personalizados para tus personajes, estilos y conceptos específicos mientras mantienes todo en tu propia máquina.