image.png

1. 시스템 아키텍처는 어떻게 되는가?


오케스트레이션(Orchestration)이 순서&판단을 관리하며 에이전트를 실행시키는 구조

<aside>

2. 말투는 어떻게 학습시키는가?


퓨샷(Few-shot)

image.png

<aside>

도입 이유?

<aside>

토큰 절약: DB에 예시가 500개 있다고 쳤을때 이걸 프롬프트에 다 넣으면 돈도 많이 들고 LLM이 헷갈려 한다. 유저가 밥 얘기할 때 굳이 '공부' 관련 예시를 보여줄 필요가 없으므로, 가장 관련 있는 예시 3개만 골라 넣어 효율을 높이는 것.

</aside>

필요한 컬럼?

<aside>

주제: 관련있는 예시만 가져오는 것이 더 적합하기 때문. 주제 컬럼이 없으면 500개 중 랜덤으로 3개를 가져오게 된다. 그럼 유저는 '밥' 얘기를 하는데 예시는 '게임'하는 대화가 들어갈 수 있다. LLM이 똑똑해서 어느 정도 따라 하겠지만, 주제에 딱 맞는 예시를 보여줬을 때 대화의 생동감이 훨씬 살아난다.

상황: 대화가 일어나는 구체적인 배경(예: 첫 만남, 다퉜을 때, 위로가 필요할 때). 같은 주제라도 '싸운 상황'과 '축하하는 상황'의 예시는 완전히 달라야 함.

감정: 유저의 현재 감정 상태(기쁨, 슬픔, 분노 등)에 대응하는 챗봇의 공감 톤을 결정. 유저는 슬픈데 봇이 너무 밝은 예시를 따라 하지 않도록 방어.

⇒ 상황과 감정 톤을 맞춰주기 위함

</aside>

퓨샷 적용할 DB 예시

Topic (주제) Situation (상황) Emotion (감정) Input (유저) Output (캐릭터)
식사 점심 메뉴 제안 귀찮음 오늘 점심 뭐 먹을까? 아 몰라, 니가 정해. 난 아무거나.
식사 맛평가 공유 즐거움 오늘 점심 맛있었지? 오, 간만에 좀 치더라? 담에 또 가든가.
다툼 심부름 거절 분노 야 라면 좀 끓여와 니 손은 장식이냐? 니가 직접 끓여 먹어.