전체 글

# 엔비디아가 클로드 코드에 직접 붙었습니다 — CUDA MCP 서버 연결하기CUDA 코드를 짜면서 AI 코딩 도구를 써본 분이라면 이런 경험이 있을 겁니다.AI가 아주 자신 있게 코드를 내놓았는데, 컴파일하니 deprecated 경고가 뜹니다. 찾아보니 몇 버전 전에 바뀐 API였죠. 다시 물어봐도 같은 답을 합니다.원인은 명확합니다. **모델의 지식은 학습 시점에 고정돼 있는데, CUDA는 계속 바뀌기 때문**입니다.엔비디아가 이 문제를 직접 해결하겠다고 나섰습니다. **Nsight AI**입니다.---## Nsight AI란기존 **Nsight Copilot을 대체하는 리브랜딩 플랫폼**입니다. CUDA 개발에 특화된 지능형 코드 제안과 보조를 제공해 AI 기반 개발 워크플로를 매끄럽게 만드는 게 ..
🔍 SEARCH INFRA OpenSearch로 하이브리드 검색 구축하기— Nori 분석기부터 RRF 파이프라인까지 한국어 RAG 검색에서 BM25만으로는 형태소 변형에 막히고, Dense 임베딩만으로는 정확한 용어 매칭에 약하다. 두 방식을 OpenSearch 하나에서 어떻게 묶어서 서비스했는지 — 인덱스 설계, Search Pipeline, 쿼리 실행까지 실제 구성 그대로 정리한다. 📦 OpenSearch 2.19+ 🇰🇷 Nori Analyzer ⚙️ score-ranker-processor (RRF) CONTENTS 01. 왜 하이브리드인가 — BM25와 Dense 각각의 한계 ..
● Infra / Vector DB Hyper-V로 Qdrant 고가용성(HA) 클러스터 구축기— 30초 순단을 6초로 줄이기까지 RAG 시스템의 벡터 DB인 Qdrant를 2대 페일오버로 구성할 수 있을까? 내 PC의 Hyper-V 위에 랩을 만들어 직접 검증한 기록. 결론은 — 2대만으론 부족했고, witness 노드 · LB 튜닝 · Qdrant 설정 세 가지가 맞물려야 순단이 잡혔다. 0목표 Qdrant 2대 구성에서 한 대가 죽어도 검색/업서트가 유지되는지 검증 장애(failover) 시 순단 시간이 얼마나 되는지 실측 실제 운영(물리 서버) 이전에 랩에서 함정을 미리 밟아보기 처음 떠올렸던 "공유 볼륨을 두고 A가 죽으면..
🔍 RAG / Search 한국어 RAG 검색의 현실BM25, Dense Vector, 그리고 Hybrid 검색 한국어 도메인에서 BM25 키워드 검색이 왜 자주 실패하는지, Dense Vector 검색은 어떤 한계가 있는지, 그리고 Hybrid 검색이 왜 결국 답이 되는지를 원리부터 실전 코드까지 정리했습니다. BM25 Dense Vector Hybrid Search RRF Qdrant 한국어 NLP RAG 📑 목차 BM25란 무엇인가 한국어에서 BM25가 실패하는 이유 Dense Vector 검색의 강점과 한계 Hybrid 검..
Vector Database · AI Search Qdrant 입문 가이드벡터 DB로 AI 검색 구현하기 설치부터 하이브리드 검색·메타데이터 필터링까지, 실전 C# 코드로 배우는 Qdrant 완전 정리 2025 약 12분 읽기 Qdrant · Vector DB · RAG · C# 목차 Qdrant란 무엇인가? — 개념과 용어 Docker로 5분 만에 설치하기 C#으로 컬렉션·포인트 구현하기 메타데이터 필터링 — SQL과 비교 하이브리드 검색 — Dense + Sparse + RRF OpenSearch와의 차이점 성능..
🛠 트러블슈팅 HP Pavilion 윈도우 설치 시C드라이브가 안 보이는 문제 해결하기 Intel VMD 드라이버 로드로 NVMe SSD 인식 문제 완전 해결 HP Pavilion 15-eg0xxx Windows 10/11 클린 설치 Intel 11세대 플랫폼 🔍 문제 상황 HP Pavilion 15-eg0xxx 노트북에 윈도우를 새로 설치하려고 부팅 USB로 진입했더니, 드라이브 선택 화면에서 C드라이브(SSD)가 전혀 보이지 않는 문제가 발생했다. 현재 윈도우 10은 정상적으로 동작 중이었고, BIOS에서도 SSD 자체는 인식되지 않는 상황이었다. ..
🔥 Deep Learning Framework PyTorch란 무엇인가?AI 모델을 돌리는 엔진 bge-small로 임베딩하고, Gemma로 답변을 생성할 때 내부에서 실제로 돌아가는 건 PyTorch입니다. 개념부터 RAG 파이프라인에서의 역할까지 가볍게 정리합니다. PyTorch Meta AI 텐서 연산 자동 미분 딥러닝 프레임워크 1PyTorch란? PyTorch는 Meta(Facebook) AI Research가 만든 딥러닝 프레임워크입니다. 쉽게 말하면 신경망(AI 모델)을 만들고 실행하는 파이썬 라이브러리입니다. 중요한 건 ..
TECH BLOG miniRAG 직접 구축하기FAISS + Ollama + FastAPI 외부 클라우드 없이 온프레미스 환경에서 동작하는 경량 RAG 시스템을 처음부터 만들어본 과정을 정리했습니다. 사규 문서를 대상으로 자연어 질의응답이 가능한 API 서버를 구축했습니다. Python FastAPI FAISS Ollama bge-m3 gemma3:1b RAG // TABLE OF CONTENTS miniRAG란? 전체 아키텍처 FAISS 벡터 DB 선택 이유 FAISS 인덱스 타입 비교 임베딩 모델 선택 (bge-m3) ..
함형우
03.23 시작