본문 바로가기

단감의 정보공유/IT&AI

 (72)
사내 AI 챗봇 RAG vs 파인튜닝 어떻게 고를까 | 한국 기업 7개 사례로 본 2026 선택 기준 회사 내부 데이터에 LLM을 붙이려는 시도가 많아졌지만, 아직도 가장 헷갈리는 질문은 단 하나다. "RAG로 갈 것인가, 파인튜닝으로 갈 것인가." 비용, 정확도, 운영 부담이 모두 다르고, 두 방식을 섞는 하이브리드까지 있다 보니 첫 PoC 단계에서 헛돈을 쓰는 팀이 적지 않다. 2026년 들어 국내 기업의 도입 사례가 쌓이면서, 어떤 기준으로 골라야 하는지 윤곽이 비교적 또렷해졌다. 이번 글은 실제 한국 기업 7곳의 운영 사례를 바탕으로 정리한 선택 기준이다.RAG는 어떤 상황에 잘 맞는가RAG(Retrieval-Augmented Generation)는 외부 지식을 검색해서 모델 입력에 끼워 넣는 방식이다. 한 통신사는 사내 매뉴얼 12만 페이지를 RAG로 묶어 콜센터 상담사 보조에 투입했다. 매뉴얼..
온디바이스 AI 노트북 NPU 5종 2026년 실측 비교 | 코파일럿+PC 구매 가이드 지난해까지만 해도 'AI 노트북'은 마케팅 문구에 가까웠습니다. 그러나 2026년이 되면서 NPU(Neural Processing Unit) 성능을 기준으로 코파일럿+PC, 애플 실리콘 맥, 그리고 AMD 라이젠 AI MAX 라인업이 본격적으로 갈리기 시작했습니다. 사무실에서 자료 요약, 회의 자막, 사진 보정 같은 작업을 로컬에서 돌리려는 실무자라면 단순 CPU·GPU 스펙이 아니라 '내가 쓸 모델 크기에서 몇 토큰/초가 나오는가'를 봐야 합니다. 5종을 직접 굴려본 결과를 정리합니다.1. 비교 기준: TOPS가 아니라 실측 토큰/초제조사가 발표하는 NPU TOPS 수치는 INT8 기준 이론 최대치입니다. 실제로는 모델, 양자화, 메모리 대역폭에 따라 60~70% 정도만 체감됩니다. 그래서 이번 비교는..
스마트폰에 들어간 AI: 온디바이스 SLM 도입 사례 5선 | 2026 모바일 트렌드 정리 2026년 들어 가장 두드러지는 AI 흐름 중 하나는 거대한 클라우드 모델이 아니라, 손에 들고 있는 스마트폰 안에서 바로 동작하는 작은 언어모델(Small Language Model, 이하 SLM)이다. 음성·번역·요약처럼 빈도가 높은 작업을 데이터센터까지 보내지 않고 기기 안에서 처리하면 응답이 빨라지고 통신비도 줄어든다. 무엇보다 메시지 내용·통화 음성 같은 민감한 데이터가 외부로 나가지 않아 보안 측면에서도 무게가 실린다. 올해 출시된 플래그십 단말 다섯 곳의 적용 사례를 정리했다.1. 갤럭시 S26 시리즈 — 통화 실시간 통역과 키보드 톤 변환삼성전자가 2026년 초 출시한 갤럭시 S26 시리즈는 이전 세대 대비 NPU 연산량이 대폭 늘면서 통화 실시간 통역, 음성 메모 자동 요약, 키보드 톤 ..
2026 스마트폰 온디바이스 AI 칩 비교 | 스냅드래곤·디멘시티·애플 A20 누가 더 빠른가 2026년 상반기 스마트폰 시장의 가장 큰 변화는 사양표의 메인이 카메라 화소나 화면 주사율이 아니라 NPU 성능과 온디바이스 AI 모델 크기로 옮겨갔다는 점이다. 클라우드 호출 한 번에 0.3~1초씩 끊기던 음성 비서, 사진 정리, 실시간 번역이 모두 단말 안에서 즉시 끝나는 시대가 본격화됐다. 통신비를 아낄 수 있고, 사진과 음성을 외부로 보내지 않아 프라이버시도 챙긴다는 점이 사용자에게 직접 와닿는 가치가 됐다.왜 갑자기 온디바이스 AI가 표준이 됐나2025년 하반기까지만 해도 대부분의 AI 기능은 서버 호출에 의존했다. 하지만 통신비 부담, 데이터센터 전력 폭증, 그리고 사용자 사진·음성 데이터를 클라우드에 보내는 것에 대한 부담이 동시에 커지면서 칩 제조사들이 대규모 LLM을 단말 안에서 직접 ..
2026년 노션 AI 자동화 워크플로우 5선 | 실무 도입한 팀이 말하는 시간 절감 효과 회의록 정리, 주간 보고, 고객 응대 매뉴얼 — 매일 반복되는 문서 작업이 하루 평균 1.8시간을 잡아먹는다는 조사가 있다. 2025년 말 노션이 AI 에이전트 기능을 정식 출시한 뒤로, 국내외 팀들이 이 단순 반복 작업을 자동화하는 사례가 빠르게 늘고 있다. 이번 글에서는 실제 도입 후 효과를 본 5가지 워크플로우를 정리한다. 모두 별도 코딩 없이 노션 기본 기능과 AI 블록만으로 구성 가능한 방식이다.1. 회의 녹취 → 액션 아이템 자동 추출줌이나 구글미트 회의 녹취 파일을 노션 페이지에 첨부하면 AI 블록이 요약·결정사항·액션 아이템을 자동으로 분리해 데이터베이스에 행으로 추가한다. 액션 아이템에는 담당자·기한 필드가 자동으로 채워지고, 누락된 정보는 “담당자 미정”으로 표시돼 회의 직후 즉시 검토..
기업 RAG 도입 실패 사례 5건 분석 | 2026년 성공한 회사들의 공통 패턴 2024년 챗GPT API와 함께 폭발적으로 늘어난 기업 RAG(Retrieval-Augmented Generation) 도입이 2026년 들어 명암을 보이고 있습니다. 사내 문서 검색·고객지원 자동화·사내 위키 챗봇 등 다양한 시도가 이어졌지만, 6개월 안에 폐기되는 프로젝트도 적지 않습니다. 무엇이 문제였을까요. 국내외 RAG 도입 실패 사례를 다섯 가지 패턴으로 정리하고, 같은 기간 안정적으로 운영 중인 회사들의 공통점을 살펴봅니다.실패 패턴 1 — 청크 크기와 임베딩 모델의 엇박자가장 흔한 실패는 문서 청크 크기와 임베딩 모델 컨텍스트가 어긋나는 경우입니다. 256토큰 청크를 8K 컨텍스트 모델에 그대로 넣으면 문맥이 잘려 답변 품질이 급락합니다. 반대로 2,000토큰 청크를 임베딩 길이가 짧은 ..
2026 오픈소스 LLM 추론 서버 3종 실측 비교 | vLLM·Ollama·LM Studio 개발자 선택 가이드 오픈AI GPT, 앤트로픽 클로드 같은 상용 API 의존도를 줄이려는 개발자가 2026년 들어 부쩍 늘었다. 비용, 데이터 주권, 응답 속도 문제가 동시에 겹치면서 로컬 또는 자체 인프라에서 돌리는 오픈소스 LLM 추론이 현실적인 대안이 된 것이다. 그런데 막상 도구를 고르려 하면 이름만 비슷한 프레임워크가 수십 개라 혼란스럽다. 이번 글에서는 현업에서 가장 많이 쓰이는 세 가지, vLLM·Ollama·LM Studio를 같은 조건으로 비교해 보고, 팀 규모와 목적에 맞는 선택 기준을 정리한다.테스트 환경과 측정 기준공정 비교를 위해 동일 GPU(RTX 4090 24GB), 동일 모델(Llama 3.1 8B Instruct, Qwen2.5 14B), 동일 프롬프트 세트로 측정했다. 측정 지표는 첫 토큰 ..
AI 에이전트 도입 한국 기업 5곳 | 2026년 업무 자동화 실사례 완벽 정리 2024년까지의 AI 도입이 '챗봇 붙이기' 수준이었다면, 2026년의 흐름은 분명히 달라졌다. 이제 기업들은 단순한 Q&A 봇이 아니라 스스로 업무를 계획하고 실행하는 AI 에이전트를 도입하고 있다. 본격적으로 '일하는 AI' 시대가 열린 것이다. 국내 주요 기업 5곳의 실제 도입 사례를 정리해 봤다.1. 삼성전자 — 반도체 공정 데이터 분석 에이전트삼성전자 DS부문은 반도체 생산라인의 이상 감지와 수율 분석에 멀티 에이전트 시스템을 적용하고 있다. 과거에는 엔지니어가 수십 개 대시보드를 번갈아 보며 원인을 추적했지만, 이제는 에이전트가 센서 로그와 장비 파라미터를 스스로 상호 참조해 의심 구간을 보고서 형태로 요약해 올린다. 회사 측은 불량 원인 분석 시간이 평균 30% 이상 단축됐다고 밝혔다.2. ..

티스토리툴바