https://wkqco33.github.io/wkqcosoft-docs/tags/vllm/Recent content in Vllm on wkqcosoft's BlogHugoko-krCopyright @2024. wkqcosoft. All rights reserved.Fri, 07 Aug 2026 22:37:01 +0900https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-07-vllm%EC%9D%84-%ED%99%9C%EC%9A%A9%ED%95%B4-%EB%A1%9C%EC%BB%AC%EC%97%90%EC%84%9C-slm-%EC%86%8C%ED%98%95-%EC%96%B8%EC%96%B4-%EB%AA%A8%EB%8D%B8-%EC%84%9C%EB%B9%99-c3d24c/Fri, 07 Aug 2026 22:37:01 +0900https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-07-vllm%EC%9D%84-%ED%99%9C%EC%9A%A9%ED%95%B4-%EB%A1%9C%EC%BB%AC%EC%97%90%EC%84%9C-slm-%EC%86%8C%ED%98%95-%EC%96%B8%EC%96%B4-%EB%AA%A8%EB%8D%B8-%EC%84%9C%EB%B9%99-c3d24c/vLLM 프레임워크를 이용해 로컬 환경에서 소형 언어 모델(SLM)을 고속 서빙하는 방법: 설치법, 모델 선정 기준, PagedAttention 및 연속 배치 최적화, OpenAI 호환 API 구축과 Ollama 비교