본문 바로가기

전체 글133

Ch04-01. LLM(ChatGPT)를 활용한 불가능한 요청 탐지 불가능한 요청 탐지 (Detecting Impossible Requests)불가능한 요청 탐지는 AI 챗봇 및 고객 서비스 시스템의 신뢰성을 높이고, 잘못된 정보 제공을 방지하는 중요한 과정입니다. 이번 강의에서는 불가능한 요청을 탐지하는 방법과 실습을 통해 이를 구현하는 방안을 살펴보겠습니다.1️⃣ LLM의 환각 현상 (Hallucination)우선, LLM의 환각(Hallucination) 현상에 대해 이해해야 합니다. 이는 모델이 실제 데이터에 기반하지 않은 거짓된 정보를 마치 사실인 것처럼 그럴듯하게 생성하는 현상입니다.📌 환각 현상의 특징✔ 모든 LLM에서 공통적으로 발견됨 – ChatGPT, Google Gemini, Meta Llama 등 대부분의 모델에서 관찰됨✔ 주어진 정보가 부족할 때.. 2025. 3. 28.
Ch03-03. QA System 구축 AICC QA 시스템 구축AICC(인공지능 컨택센터)에서 QA 시스템이 어떻게 설계되고 운영되는지에 대해 알아보겠습니다.QA 시스템 개요QA 시스템은 사용자의 질문을 처리하고 적절한 응답을 제공하는 핵심 기술입니다. 구글 클라우드에서는 이를 "설빙 서브 시스템"이라고 부르며, 사용자의 질문을 분석하고 응답을 생성하는 역할을 담당합니다.QA 시스템의 주요 단계사용자 입력 처리: 챗봇, 모바일 앱 등에서 질문을 받음.질문 분석: 사용자의 질문을 벡터 임베딩으로 변환.시맨틱 검색 수행: 기존 데이터베이스에서 관련 문서를 검색.응답 생성: LLM이 검색된 컨텍스트를 기반으로 답변을 생성.응답 정제 및 전달: 응답을 필터링하고 사용자에게 제공.QA 시스템 구성 요소1. 오케스트레이터사용자의 질문을 분석하여 가장 .. 2025. 3. 26.
Ch03-02. Data Pipeline 구축 AI 고객센터(AICC)의 핵심 기능을 구현하기 위해서는 강력한 데이터 파이프라인이 필수적입니다.이번 포스팅에서는 AI 기반 고객 서비스의 핵심인 데이터 수집, 전처리, 변환, 벡터 DB 인덱싱까지의 흐름을 설명합니다.📌 데이터 파이프라인 개요데이터 파이프라인은 다양한 원천 데이터를 수집하고, 이를 AI 모델이 활용할 수 있도록 변환하는 과정입니다.일반적으로 데이터는 PDF, 워드, PPT, 한글 파일 등 비정형 형식으로 존재하며, 이를 AI가 학습할 수 있도록 변환해야 합니다.🔹 데이터 수집 및 전처리1️⃣ 데이터 소스: 고객 문서, 상담 녹취록, 제품 매뉴얼 등 다양한 문서 유형이 포함됩니다.2️⃣ 전처리 과정: 문서의 구조를 분석하고, 필요 없는 정보를 제거하는 과정이 필요합니다.단락 유지: 문.. 2025. 3. 24.
Ch03-01. 전체 서비스 구성 AI 컨택센터(AICC) 서비스 구성AI 컨택센터(AICC)는 인공지능을 활용하여 고객 서비스 업무를 자동화하고 최적화하는 시스템입니다. 이를 통해 고객 만족도를 향상시키고 상담원의 업무 부담을 줄일 수 있습니다.AICC의 주요 기능자연어 이해(NLU): 고객 질문을 분석하고 적절한 응답을 생성음성 인식 및 합성(STT/TTS): 실시간 음성 변환 및 전달챗봇 기능: 웹사이트 및 모바일 앱에서 실시간 문의 응답예측 분석: 고객의 니즈와 문제를 예측하여 맞춤 서비스 제공업무 자동화: 반복적인 업무를 AI로 처리하여 상담원의 부담 감소AICC 도입 사례국내 통신 3사(SK텔레콤, KT, LG유플러스)가 AICC 서비스를 확장 중이며, 금융권에서도 AI 상담 서비스를 도입하여 콜센터 상담원 감축이 현실화되고 .. 2025. 3. 22.

티스토리툴바