고맥락에서 의도하지 않은 내용이 나오는 이유?
- 휘발성 챗 헤드에 고맥락 데이터를 집어넣으면 맥락을 새로 세팅하려고 할 때 → 작업해놓은 거 아깝다!
→ 관계성이 작은 작업인데도, 그냥 이어서 작업해버림
⇒ 원치않는 중간작업들이, 생각보다 많은 후속작업에 영향을 준다.
Gems 를 쓰는 이유?
- 개인적 용도로도 굉장히 잘 관리된 컨텍스트 유지 가능
- 다른사람과 공유 가능
- 수정할 때도 수정 대상 작업공간이 명확함
우리 교육과정에 대한 Q&A 챗봇 제작 예제
교육 관련 문의 챗봇 Gems
같은 프롬프트를 사용했을 때 결과물이 전혀 다른 이유?
- 구글 계정 - 인구학적 정보 다를 수 있음 (연령, 직업, 사는 지역)
- 기존 사용했던 히스토리 - 사용자의 개인화된 경험을 사용 이력에서 추출
- GPT 고객 감성 터치 → 극도로 추구됨
- Google → 구글 오피스 도구 등 콘텐츠 사용 경험
- 다소 다를 수 있는 이유
- 같은 서비스를 쓰더라도 모델 뿐 아니라 감싸고 있는 서비스 세부버전이 미묘하게 달라서
- AI 모델 자체가 확률적 매커니즘을 따름
- 다음에 나올 단어를 선택할 때 무조건 1순위 유사성에 따라서 선택하는 게 아님! →
Temperature : 온도가 높으면 어디로 튈지 모르는 유연성이 커짐