오픈소스 LLM(Llama 3, Mistral 등)을 실제 서비스에 도입할 때 가장 큰 걸림돌은 GPU 메모리 관리입니다. 고가의 H100이나 A100을 사용하더라도 동시 접속자가 늘어나면 금세 'Out of Memory(OOM)' 에러가 발생하거나, 요청 대기 시간이 기하급수적으로 늘어납니다. 이는 모델 파라미터 자체보다 추론 과정에서…