본문 바로가기

전체 글123

Ch04-02. Moderation API로 민감한 대화 차단하기 Moderation API를 활용한 민감한 대화 차단 방법AI 챗봇이 민감한 내용을 생성하거나 유해한 정보를 제공하는 것은 법적 문제, 브랜드 이미지 실추, 사회적 혼란을 초래할 수 있다. 이를 방지하기 위해 Moderation API를 활용하면 욕설, 폭력, 차별적 표현, 유해 정보를 실시간으로 감지하고 차단할 수 있다.1️⃣ 민감한 콘텐츠 차단이 필요한 이유AI 챗봇이 생성한 답변이 논란을 일으킨 대표적인 사례로 이루다 챗봇 논란이 있다. 출시 초기 높은 인기를 끌었지만, 사용자와의 대화에서 동성애, 장애인 차별, 성희롱, 개인정보 노출 등의 문제가 발생하며 서비스가 중단되었다.이처럼 AI 챗봇이 부적절한 답변을 생성하는 것은 다음과 같은 문제를 초래할 수 있다.📌 개인정보 보호AI가 훈련 데이터에.. 2025. 3. 30.
Ch04-01. LLM(ChatGPT)를 활용한 불가능한 요청 탐지 불가능한 요청 탐지 (Detecting Impossible Requests)불가능한 요청 탐지는 AI 챗봇 및 고객 서비스 시스템의 신뢰성을 높이고, 잘못된 정보 제공을 방지하는 중요한 과정입니다. 이번 강의에서는 불가능한 요청을 탐지하는 방법과 실습을 통해 이를 구현하는 방안을 살펴보겠습니다.1️⃣ LLM의 환각 현상 (Hallucination)우선, LLM의 환각(Hallucination) 현상에 대해 이해해야 합니다. 이는 모델이 실제 데이터에 기반하지 않은 거짓된 정보를 마치 사실인 것처럼 그럴듯하게 생성하는 현상입니다.📌 환각 현상의 특징✔ 모든 LLM에서 공통적으로 발견됨 – ChatGPT, Google Gemini, Meta Llama 등 대부분의 모델에서 관찰됨✔ 주어진 정보가 부족할 때.. 2025. 3. 28.
Ch03-03. QA System 구축 AICC QA 시스템 구축AICC(인공지능 컨택센터)에서 QA 시스템이 어떻게 설계되고 운영되는지에 대해 알아보겠습니다.QA 시스템 개요QA 시스템은 사용자의 질문을 처리하고 적절한 응답을 제공하는 핵심 기술입니다. 구글 클라우드에서는 이를 "설빙 서브 시스템"이라고 부르며, 사용자의 질문을 분석하고 응답을 생성하는 역할을 담당합니다.QA 시스템의 주요 단계사용자 입력 처리: 챗봇, 모바일 앱 등에서 질문을 받음.질문 분석: 사용자의 질문을 벡터 임베딩으로 변환.시맨틱 검색 수행: 기존 데이터베이스에서 관련 문서를 검색.응답 생성: LLM이 검색된 컨텍스트를 기반으로 답변을 생성.응답 정제 및 전달: 응답을 필터링하고 사용자에게 제공.QA 시스템 구성 요소1. 오케스트레이터사용자의 질문을 분석하여 가장 .. 2025. 3. 26.
Ch03-02. Data Pipeline 구축 AI 고객센터(AICC)의 핵심 기능을 구현하기 위해서는 강력한 데이터 파이프라인이 필수적입니다.이번 포스팅에서는 AI 기반 고객 서비스의 핵심인 데이터 수집, 전처리, 변환, 벡터 DB 인덱싱까지의 흐름을 설명합니다.📌 데이터 파이프라인 개요데이터 파이프라인은 다양한 원천 데이터를 수집하고, 이를 AI 모델이 활용할 수 있도록 변환하는 과정입니다.일반적으로 데이터는 PDF, 워드, PPT, 한글 파일 등 비정형 형식으로 존재하며, 이를 AI가 학습할 수 있도록 변환해야 합니다.🔹 데이터 수집 및 전처리1️⃣ 데이터 소스: 고객 문서, 상담 녹취록, 제품 매뉴얼 등 다양한 문서 유형이 포함됩니다.2️⃣ 전처리 과정: 문서의 구조를 분석하고, 필요 없는 정보를 제거하는 과정이 필요합니다.단락 유지: 문.. 2025. 3. 24.

티스토리툴바