Ai on wkqcosoft's Bloghttps://wkqco33.github.io/wkqcosoft-docs/categories/ai/Recent content in Ai on wkqcosoft's BlogHugoko-krCopyright @2024. wkqcosoft. All rights reserved.Fri, 07 Aug 2026 22:37:01 +0900vLLM을 활용한 로컬 SLM(소형 언어 모델) 고성능 서빙 완벽 가이드https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-07-vllm%EC%9D%84-%ED%99%9C%EC%9A%A9%ED%95%B4-%EB%A1%9C%EC%BB%AC%EC%97%90%EC%84%9C-slm-%EC%86%8C%ED%98%95-%EC%96%B8%EC%96%B4-%EB%AA%A8%EB%8D%B8-%EC%84%9C%EB%B9%99-c3d24c/Fri, 07 Aug 2026 22:37:01 +0900https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-07-vllm%EC%9D%84-%ED%99%9C%EC%9A%A9%ED%95%B4-%EB%A1%9C%EC%BB%AC%EC%97%90%EC%84%9C-slm-%EC%86%8C%ED%98%95-%EC%96%B8%EC%96%B4-%EB%AA%A8%EB%8D%B8-%EC%84%9C%EB%B9%99-c3d24c/vLLM 프레임워크를 이용해 로컬 환경에서 소형 언어 모델(SLM)을 고속 서빙하는 방법: 설치법, 모델 선정 기준, PagedAttention 및 연속 배치 최적화, OpenAI 호환 API 구축과 Ollama 비교Ollama + Open-WebUI로 로컬 프라이빗 AI 챗봇 구축 가이드https://wkqco33.github.io/wkqcosoft-docs/posts/ollama-open-webui/Thu, 06 Aug 2026 15:55:00 +0900https://wkqco33.github.io/wkqcosoft-docs/posts/ollama-open-webui/온프레미스 및 로컬 환경에서 Docker와 GPU 가속을 활용하여 Ollama와 Open-WebUI 기반 프라이빗 LLM AI 챗봇을 구축하는 가이드Ollama 인기 오픈소스 LLM 5종 비교 분석 (Llama 3, Mistral, Gemma, Qwen, Phi)https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-06-ollama%EC%97%90%EC%84%9C-%EA%B0%80%EC%9E%A5-%EC%9D%B8%EA%B8%B0-%EC%9E%88%EB%8A%94-%EB%AA%A8%EB%8D%B8-llama-3-m-71b4fa/Thu, 06 Aug 2026 13:53:09 +0900https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-06-ollama%EC%97%90%EC%84%9C-%EA%B0%80%EC%9E%A5-%EC%9D%B8%EA%B8%B0-%EC%9E%88%EB%8A%94-%EB%AA%A8%EB%8D%B8-llama-3-m-71b4fa/로컬 AI 환경에서 가장 널리 쓰이는 주요 오픈소스 LLM 5종(Llama 3, Mistral, Gemma, Qwen, Phi)의 성능, 하드웨어 요구사양, 라이선스 및 추천 활용 분야 종합 비교Ollama 완벽 가이드: 기본 사용법, 파라미터 튜닝 및 Modelfile 활용법https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-05-ollama-%EC%82%AC%EC%9A%A9%EB%B2%95%EA%B3%BC-ollama-run-%EC%8B%A4%ED%96%89-%EC%8B%9C-%ED%8C%8C%EB%9D%BC-d64866/Wed, 05 Aug 2026 02:44:56 +0900https://wkqco33.github.io/wkqcosoft-docs/reports/2026-08-05-ollama-%EC%82%AC%EC%9A%A9%EB%B2%95%EA%B3%BC-ollama-run-%EC%8B%A4%ED%96%89-%EC%8B%9C-%ED%8C%8C%EB%9D%BC-d64866/로컬 환경에서 오픈소스 LLM을 효율적으로 구동하기 위한 Ollama의 기본 명령어, Modelfile 커스텀 설정, 핵심 추론 파라미터(temperature, top_p, num_ctx) 튜닝 및 REST API 연동 가이드