Ai 썸네일형 리스트형 [AI Study] 청크, 벡터DB, RAG란? - 개념 쉽게 이해하기 [AI Study] 청크, 벡터DB, RAG란? - 개념 쉽게 이해하기RAG가 뭐길래? 어려워 보이지만 사실은 간단합니다!🎯 문제 상황일반 ChatGPT의 한계:질문: "우리 회사 휴가 정책이 뭐야?"ChatGPT: "죄송하지만 귀사의 정보를 모릅니다" ❌왜 그럴까요?ChatGPT는 2023년까지의 학습 데이터만 알고 있음우리 회사 문서는 학습하지 못함최신 정보도 모름 RAG로 해결:질문: "우리 회사 휴가 정책이 뭐야?"→ 회사 문서 검색→ ChatGPT가 문서 보고 답변ChatGPT: "연차 15일, 병가 10일입니다" ✅📚 RAG를 이해하기 위한 3가지 개념RAG를 이해하려면 먼저 3가지 개념을 알아야 합니다:청크 (Chunk)벡터 DB (Vector Database)RAG (Retrieval-.. 더보기 [AI Study] Kotlin + Langfuse로 OpenAI API 모니터링하기 [AI Study] Kotlin + Langfuse로 OpenAI API 모니터링하기Spring Boot + Kotlin으로 번역 API를 만들고, Langfuse로 비용/성능을 실시간 추적하는 방법 🔍 Langfuse란?개요Langfuse는 LLM 애플리케이션을 위한 오픈소스 observability 및 analytics 플랫폼입니다.쉽게 말해, AI 앱의 "Firebase Analytics + Crashlytics" 같은 역할을 합니다.핵심 기능1. 자동 추적 (Tracing)모든 LLM API 호출 기록입력/출력 저장응답 시간 측정2. 비용 분석 (Cost Tracking)토큰 사용량 추적실시간 비용 계산모델별 비용 분석3. 성능 모니터링평균 응답 시간에러율 추적병목 지점 파악4. 프롬프트 관리프.. 더보기 이전 1 다음
