nVidia1 WSL2에 Ollama와 CUDA 설치해서 로컬 LLM GPU 가속 돌리기 이 글에서 다루는 내용윈도우 PC의 NVIDIA GPU를 그대로 쓰면서, WSL2 안의 Ubuntu에서 Ollama를 GPU 가속으로 실행하는 전 과정을 정리합니다. 윈도우 드라이버만 최신으로 맞추면 WSL 내부에 별도 GPU 드라이버를 깔지 않아도 CUDA가 그대로 노출되기 때문에, 핵심은 드라이버 확인 → CUDA Toolkit 설치 → Ollama 설치 → GPU 인식 검증의 네 단계로 정리됩니다. 이 글 한 편이면 노트북에 꽂혀 있는 RTX 카드로 Llama, Qwen, Gemma 같은 모델을 빠르게 돌릴 수 있는 상태가 됩니다.1. 사전 요구사항 점검1-1. 환경 체크리스트설치를 시작하기 전에 아래 항목을 먼저 확인합니다. 한 가지라도 빠지면 GPU가 인식되지 않거나 Ollama가 CPU 모드로.. 2026. 4. 23. 이전 1 다음
