PubMed
TAPT를 한 모델 같다
scratch부터 학습한 모델
vocab의 비율에 대한 실험도 진행
의학단어 특성상 축약된 단어 혹은 위첨자 등이 또다른 의미를 가지므로 적절한 처리 필요
TAPT, DAPT 진행
최근에는 multi task tuning이 진행되고 있지만 하나의 domain에 집중하고 있는 것이 좋다는 것
