عمده ترتيب ڏيڻ

سمجھاڻي

فائن ٽيوننگ هڪ اڳ-تربيت يافته مشين لرننگ ماڊل کي هڪ نئين ڪم لاءِ ترتيب ڏيڻ جو عمل آهي جيڪو ننڍن، ڊومين-مخصوص ڊيٽاسيٽس تي اضافي تربيت استعمال ڪندي آهي.

مقصد

مقصد وڏن ماڊلز مان حاصل ڪيل علم کي ٻيهر استعمال ڪرڻ ۽ گهٽ وسيلن سان خاص ڪمن تي ڪارڪردگي بهتر ڪرڻ آهي.

اهميت

• شروع کان ماڊل ٺاهڻ جي مقابلي ۾ تربيت جي قيمت ۽ وقت گھٽائي ٿو.
• ڊومين جي مخصوص ڪمن تي ڪارڪردگي بهتر بڻائي ٿو.
• جيڪڏهن تربيتي ڊيٽا تمام گهٽ آهي ته اوور فٽ ٿيڻ جا خطرا.
• منتقلي سکيا سان لاڳاپيل.

ڪيئن اهو ڪم

1. اڳ ۾ تربيت يافته بنيادي ماڊل چونڊيو.
2. ڪم جي مخصوص پرتن کي تبديل ڪريو يا ترتيب ڏيو.
3. نئين ڊومين مان ليبل ٿيل ڊيٽا سان تربيت حاصل ڪريو.
4. پراڻي ۽ نئين ڄاڻ کي متوازن ڪرڻ لاءِ سکيا جي شرح کي ترتيب ڏيو.
5. تصديق ڪريو ۽ عام ڪرڻ لاءِ ٽيسٽ ڪريو.

مثال (حقيقي دنيا)

• جذبات جي تجزيي لاءِ BERT کي بهتر بڻايو ويو.
• GPT ماڊلز ڪسٽمر سپورٽ چيٽ بوٽس لاءِ بهتر ترتيب ڏنل آهن.
• طبي تصويرن جي درجي بندي لاءِ ويزن ماڊلز کي بهتر بڻايو ويو آهي.

حوالو / وڌيڪ پڙهڻ

• هاورڊ ۽ روڊر. "يونيورسل لئنگئيج ماڊل فائن ٽيوننگ" (ULMFiT). ACL 2018.
• ڀاڪر پائڻ واري چهري جي ٽرانسفارمرز دستاويزي.
• پان ۽ يانگ. "منتقلي سکيا تي هڪ سروي." IEEE TKDE.
• وڏين ٻولين جي ماڊلز لاءِ فائن ٽيوننگ ڇا آهي؟ - شيپ