1) Objective
(1) 개요
유창하지만 반복되지 않는 문장을 생성하고자 하는 것
maximization base
- greedy
- beam search(deterministic)
- generate accurate utterance
- translation, summarization
sampling base(stochastic)
- top-k
- top-p
- prompting diversity
- text completion, dialogue system
Maximiation Generation Schememes
Generate coherent and fluent utterance
hallucination low
하지만 반복하는 경우가 많다.
발화를 생성하다가 계속 반복되는 경향이 높아짐