https://arxiv.org/abs/2307.02053
Flacuna: Unleashing the Problem Solving Power of Vicuna using FLAN Fine-Tuning (Deepanway Ghosal, Yew Ken Chia, Navonil Majumder, Soujanya Poria)
vicuna에 flan 데이터셋을 붙이면 좋더라는 결과군요. flan이 흥미로운 데이터셋이긴 한데 최근 인기 있는 dialog 형식과 달라서 애매해진 것이 아쉽긴 하네요.
#multitask