Stability AI, NVIDIA TensorRT로 Stable Diffusion 3.5 모델 최적화: 최대 2.3배 빠른 성능 및 40% 메모리 절감 > AX소식

Stability AI가 NVIDIA와의 협력을 통해 Stable Diffusion 3.5(SD3.5) 모델을 TensorRT로 최적화하여 NVIDIA RTX GPU에서 상당한 성능 향상을 달성했습니다. 이 최적화를 통해 SD3.5 모델은 더욱 빠르고 효율적으로 작동하게 됩니다.

주요 내용:

• 성능 향상:
  • SD3.5 Large 모델에서 최대 2.3배 빠른 생성 속도.
  • SD3.5 Medium 모델에서 최대 1.7배 빠른 생성 속도.
• 메모리 효율성: VRAM 요구 사항이 40% 감소했습니다.
• 접근성 향상: 이러한 개선 사항은 SD3.5의 핵심 강점인 다재다능한 스타일, 다양한 출력, 프롬프트 준수 등을 더 많은 사용자가 쉽게 활용할 수 있도록 합니다.
• 라이선스 및 가용성: 최적화된 모델은 Stability AI 커뮤니티 라이선스(Stability AI Community License) 하에 상업적 및 비상업적 용도로 모두 사용할 수 있습니다.
  • 가중치(weights)는 Hugging Face에서 다운로드할 수 있습니다.
  • 코드는 NVIDIA의 GitHub에서 확인할 수 있습니다.

이번 최적화는 SD3.5 모델의 성능과 접근성을 크게 향상시켜, AI 기반 이미지 생성 분야에서 더욱 폭넓은 활용을 가능하게 할 것으로 기대됩니다.

참조 링크: Stability AI News