Stable Diffusion WebUI, 'CUDA out of memory' 메모리 부족 오류 처리 방법은?

Stable Diffusion의 실행 배치 파일을 활용해서 xformers를 설치하는 방법과 특정 옵션을 추가해서 메모리 사용량을 줄여줄 수 있는 방법이 있으니 메모리 부족 오류가 발생된다면 포스팅의 방법을 적용해 보세요.

​

xformers 설치하기

▲ Stable Diffusion WebUI 설치 후 아무 설정도 하지 않고 그냥 모델을 사용해서 출력했을 때 기본 해상도에서도 메모리 부족 오류가 발생되었는데요.

​

xformers를 설치하면 메모리 부족 현상뿐만 아니라 속도가 제법 향상되는 것을 느낄 수 있습니다. 먼저 xformers 설치 후 안정적으로 사용할 수 있는지 확인해 보세요.

​

​

▲ 설치하는 방법은 간단합니다. 실행 배치 파일 내 옵션을 추가하면 Stable Diffusion WebUI가 실행되면서 자동으로 설치하는 과정이 진행됩니다. 먼저 윈도우의 메모장을 실행해서 간편하게 수정을 할 수 있으니 윈도우 메모장을 실행해 주세요.

​

​

▲ stable-diffusion-webUI 설치 폴더로 이동한 후 webui-user.bat 파일을 메모장으로 드래그해서 추가하면 내용을 확인할 수 있습니다.

​

​

▲ 위와 같이 --xformers 옵션을 추가한 후 [파일]-[저장] 메뉴를 클릭해서 그대로 적용한 후 Stable Diffusion WebUI를 다시 실행합니다.

​

​

▲ Stable Diffusion WebUI가 실행되면서 xformers가 자동으로 설치됩니다. 처음 한 번만 설치되므로 다음 실행될 때부터는 좀 더 빠르게 실행돼요. 이렇게 사용해도 메모리 부족 오류가 지속적으로 발생된다면 추가적으로 메모리 사용을 줄여주는 옵션을 추가할 수도 있습니다.

​

VRAM 사용량을 줄이는 옵션

▲ 앞서 보여드린 방법과 같이 메모장으로 webui-user.bat 파일을 열고 --medvram 옵션을 넣어주면 VRAM 사용량을 줄여서 오류를 방지할 수 있습니다.

​

​

▲ 2D 모델과 VAE 설정 후 512 x 720 해상도에서 Batch count를 4로 설정하고 AI 그림을 4개 한 번에 생성했어요.

​

VRAM의 사용량은 거의 90%에 육박하지만, 제 시스템에서는 메모리 오류는 발생하지 않았습니다. 총 2분 21초가 소요되었는데 --medvram 옵션의 경우 속도는 괜찮습니다. 만약, 이렇게 설정해도 문제가 발생된다면 비디오 메모리를 좀 더 줄이는 방법이 있습니다.

​

​

▲ --lowvram 옵션으로 변경하는 경우 VRAM 사용량을 대폭 줄여줄 수 있습니다. 작업 관리자에서 확인해 보면 거의 50% 정도 줄여주는 효과를 확인할 수 있어요. 어느 정도인지 비교해 보겠습니다.

​

​

▲ 같은 설정으로 AI 그림을 4장을 한 번에 생성했습니다. VRAM 사용량을 보면 절반 정도로 줄었지만, 총 소요 시간이 8분 45초로 처리 시간이 4배 늘어났어요. 그래픽카드의 VRAM 용량이 부족한 경우 이러한 방법으로 해결이 가능하니 활용해 보시기 바랍니다.