Skip to Content
CloudWatch와 함께하는 생성형 AI Observability
개요

개요

실습 배경

당신은 다양한 전자제품을 판매하는 온라인 쇼핑몰 ABCD의 개발자입니다. 최근 ABCD 회사는 생성형 AI 기반 고객상담 챗봇 도입을 검토하고 있습니다. 주요 고려사항은 다음과 같습니다:

  • 생성형 AI 챗봇의 성능 모니터링 및 개선 방안
  • 사용자 만족도 측정 및 개선 방법

주요 경쟁사들이 이미 생성형 AI 챗봇을 도입하기 시작했다는 소식에 경영진의 고민이 깊어지고 있습니다. 대규모 인력과 시간 투자가 필요함에도 성공을 확신할 수 없다는 점이 큰 부담으로 작용하고 있습니다. Amazon Bedrock과 CloudWatch를 활용하면 이러한 문제들을 효과적으로 해결할 수 있습니다.

실습 소개

  1. Bedrock을 활용한 LLM 애플리케이션 구현 및 기본 모니터링 실습 구조도

  2. CloudWatch 임베디드 지표 형식 기반 사용자 피드백 모니터링 실습 구조도

Last updated on