본문 바로가기

전체 글128

Ch03-03. QA System 구축 AICC QA 시스템 구축AICC(인공지능 컨택센터)에서 QA 시스템이 어떻게 설계되고 운영되는지에 대해 알아보겠습니다.QA 시스템 개요QA 시스템은 사용자의 질문을 처리하고 적절한 응답을 제공하는 핵심 기술입니다. 구글 클라우드에서는 이를 "설빙 서브 시스템"이라고 부르며, 사용자의 질문을 분석하고 응답을 생성하는 역할을 담당합니다.QA 시스템의 주요 단계사용자 입력 처리: 챗봇, 모바일 앱 등에서 질문을 받음.질문 분석: 사용자의 질문을 벡터 임베딩으로 변환.시맨틱 검색 수행: 기존 데이터베이스에서 관련 문서를 검색.응답 생성: LLM이 검색된 컨텍스트를 기반으로 답변을 생성.응답 정제 및 전달: 응답을 필터링하고 사용자에게 제공.QA 시스템 구성 요소1. 오케스트레이터사용자의 질문을 분석하여 가장 .. 2025. 3. 26.
Ch03-02. Data Pipeline 구축 AI 고객센터(AICC)의 핵심 기능을 구현하기 위해서는 강력한 데이터 파이프라인이 필수적입니다.이번 포스팅에서는 AI 기반 고객 서비스의 핵심인 데이터 수집, 전처리, 변환, 벡터 DB 인덱싱까지의 흐름을 설명합니다.📌 데이터 파이프라인 개요데이터 파이프라인은 다양한 원천 데이터를 수집하고, 이를 AI 모델이 활용할 수 있도록 변환하는 과정입니다.일반적으로 데이터는 PDF, 워드, PPT, 한글 파일 등 비정형 형식으로 존재하며, 이를 AI가 학습할 수 있도록 변환해야 합니다.🔹 데이터 수집 및 전처리1️⃣ 데이터 소스: 고객 문서, 상담 녹취록, 제품 매뉴얼 등 다양한 문서 유형이 포함됩니다.2️⃣ 전처리 과정: 문서의 구조를 분석하고, 필요 없는 정보를 제거하는 과정이 필요합니다.단락 유지: 문.. 2025. 3. 24.
Ch03-01. 전체 서비스 구성 AI 컨택센터(AICC) 서비스 구성AI 컨택센터(AICC)는 인공지능을 활용하여 고객 서비스 업무를 자동화하고 최적화하는 시스템입니다. 이를 통해 고객 만족도를 향상시키고 상담원의 업무 부담을 줄일 수 있습니다.AICC의 주요 기능자연어 이해(NLU): 고객 질문을 분석하고 적절한 응답을 생성음성 인식 및 합성(STT/TTS): 실시간 음성 변환 및 전달챗봇 기능: 웹사이트 및 모바일 앱에서 실시간 문의 응답예측 분석: 고객의 니즈와 문제를 예측하여 맞춤 서비스 제공업무 자동화: 반복적인 업무를 AI로 처리하여 상담원의 부담 감소AICC 도입 사례국내 통신 3사(SK텔레콤, KT, LG유플러스)가 AICC 서비스를 확장 중이며, 금융권에서도 AI 상담 서비스를 도입하여 콜센터 상담원 감축이 현실화되고 .. 2025. 3. 22.
Ch02-05. Evaluation LLM 성능 평가 방법 및 리더보드 분석대규모 언어 모델(LLM)의 성능을 평가하는 것은 매우 중요한 작업입니다. 본 글에서는 벤치마크 데이터셋, 평가 기준, Open LLM Leaderboard 등 다양한 평가 방법을 소개합니다.1. LLM 평가 개요LLM 모델의 성능 평가는 크게 다음과 같은 방식으로 진행됩니다:기본 LLM 평가: 사전 학습된 모델이 지식 활용 및 추론 능력을 얼마나 수행하는지 평가파인튜닝된 LLM 평가: 특정한 지침을 따르는 능력 및 휴먼 얼라인먼트 성능 평가도메인 특화 LLM 평가: 의료, 법률, 금융 등의 특정 분야에서 성능 측정2. 대표적인 벤치마크 데이터셋AI2 Reasoning Challenge: 7700개의 과학 문제로 구성된 평가 세트Open LLM Leaderboard.. 2025. 3. 20.

티스토리툴바