본문 바로가기

Rag

(4)
사내문서 AI 검색 도입한 한국 기업 5곳 | 2026년 RAG 실측 효과 정리 회사 안에서 가장 많이 낭비되는 시간 중 하나가 '예전에 만든 그 문서 어디 갔지'를 찾는 시간입니다. 규정집, 매뉴얼, 회의록, 계약 양식이 폴더 곳곳에 흩어져 있다 보니 신입은 물어보느라, 선임은 답해주느라 하루가 갑니다. 2026년 들어 한국 기업들이 이 문제를 사내문서 AI 검색, 이른바 RAG(검색 증강 생성)로 풀기 시작했습니다. 실제 도입한 다섯 곳의 사례를 정리했습니다.RAG가 일반 챗봇과 다른 점일반 AI 챗봇은 학습한 지식만으로 답합니다. 반면 RAG는 질문이 들어오면 먼저 회사 내부 문서에서 관련 내용을 찾아온 뒤, 그 근거를 바탕으로 답을 만듭니다. 그래서 '우리 회사 연차 규정'처럼 외부에 없는 정보도 정확히 답하고, 어떤 문서를 참고했는지 출처까지 보여 줍니다.핵심은 두 가지입니..
변호사·세무사도 AI에 일을 시킨다 | 2026년 한국 전문직 AI 도입 5개 사무소 실제 효과 2026년 5월 현재, 한국의 법무법인과 세무회계 사무소들은 AI를 더 이상 "실험용 신기술"이 아니라 "매일 출근하는 신입 직원"처럼 쓰고 있습니다. 특히 1심 변론준비서면이나 법인세 신고서 초안을 사람이 쓰지 않고, AI가 70~80%를 채워두면 변호사·세무사가 검토만 하는 패턴이 빠르게 자리잡고 있습니다. 사무실당 매월 200만원 안팎의 사용료를 내면서도 굳이 도입하는 이유는 단 하나, 인건비와 시간이 그보다 훨씬 더 절감되기 때문입니다.1. 법무법인 A — 변론준비서면 초안 작성 시간 70% 단축서울 서초동에 있는 중형 법무법인 A는 2025년 말부터 사내에 자체 RAG 시스템을 구축해 운영 중입니다. 대법원 판례 검색 사이트의 공개 판례 약 30만건을 vector DB에 적재하고, 의뢰인 사건 ..
사내 AI 챗봇 RAG vs 파인튜닝 어떻게 고를까 | 한국 기업 7개 사례로 본 2026 선택 기준 회사 내부 데이터에 LLM을 붙이려는 시도가 많아졌지만, 아직도 가장 헷갈리는 질문은 단 하나다. "RAG로 갈 것인가, 파인튜닝으로 갈 것인가." 비용, 정확도, 운영 부담이 모두 다르고, 두 방식을 섞는 하이브리드까지 있다 보니 첫 PoC 단계에서 헛돈을 쓰는 팀이 적지 않다. 2026년 들어 국내 기업의 도입 사례가 쌓이면서, 어떤 기준으로 골라야 하는지 윤곽이 비교적 또렷해졌다. 이번 글은 실제 한국 기업 7곳의 운영 사례를 바탕으로 정리한 선택 기준이다.RAG는 어떤 상황에 잘 맞는가RAG(Retrieval-Augmented Generation)는 외부 지식을 검색해서 모델 입력에 끼워 넣는 방식이다. 한 통신사는 사내 매뉴얼 12만 페이지를 RAG로 묶어 콜센터 상담사 보조에 투입했다. 매뉴얼..
기업 RAG 도입 실패 사례 5건 분석 | 2026년 성공한 회사들의 공통 패턴 2024년 챗GPT API와 함께 폭발적으로 늘어난 기업 RAG(Retrieval-Augmented Generation) 도입이 2026년 들어 명암을 보이고 있습니다. 사내 문서 검색·고객지원 자동화·사내 위키 챗봇 등 다양한 시도가 이어졌지만, 6개월 안에 폐기되는 프로젝트도 적지 않습니다. 무엇이 문제였을까요. 국내외 RAG 도입 실패 사례를 다섯 가지 패턴으로 정리하고, 같은 기간 안정적으로 운영 중인 회사들의 공통점을 살펴봅니다.실패 패턴 1 — 청크 크기와 임베딩 모델의 엇박자가장 흔한 실패는 문서 청크 크기와 임베딩 모델 컨텍스트가 어긋나는 경우입니다. 256토큰 청크를 8K 컨텍스트 모델에 그대로 넣으면 문맥이 잘려 답변 품질이 급락합니다. 반대로 2,000토큰 청크를 임베딩 길이가 짧은 ..