Reinforcement Learning from Human Feedback (RLHF)

سمجھاڻي

انساني راءِ کان مضبوطي سکيا (RLHF) تربيتي عمل ۾ انساني فيصلن کي شامل ڪندي AI ماڊلز کي انساني قدرن سان ترتيب ڏيڻ جو هڪ طريقو آهي. اهو اڪثر ڪري وڏي ٻولي جي ماڊلز کي بهتر ڪرڻ لاءِ استعمال ڪيو ويندو آهي.

مقصد

مقصد AI آئوٽ پُٽ کي محفوظ، وڌيڪ ڪارآمد، ۽ انساني ترجيحن سان هم آهنگ بڻائڻ آهي. RLHF نقصانڪار، جانبدار، يا غير لاڳاپيل جوابن کي گهٽائي گفتگو جي نظام کي بهتر بڻائي ٿو.

اهميت

• AI تربيت ۾ انساني نگراني فراهم ڪري ٿي.
• اي آءِ سسٽم جي اعتبار کي بهتر بڻائي ٿو.
• انساني تشريح جي ضرورتن جي ڪري محنت طلب.
• ترجيح ماڊلنگ ۽ ترتيب جي تحقيق سان لاڳاپيل.

ڪيئن اهو ڪم

1. ماڊل آئوٽ پُٽ جي مقابلي ۾ انساني راءِ گڏ ڪريو.
2. انساني ترجيحن تي انعام جي ماڊل کي تربيت ڏيو.
3. بنيادي ماڊل کي بهتر ڪرڻ لاءِ مضبوط ڪرڻ جي سکيا استعمال ڪريو.
4. ترتيب جي مقصدن جي خلاف ڪارڪردگي جو جائزو وٺو.
5. اضافي موٽ سان ٻيهر ورجايو.

مثال (حقيقي دنيا)

• اوپن اي آءِ چيٽ جي پي ٽي: محفوظ جوابن لاءِ آر ايل ايڇ ايف سان ترتيب ڏنل.
• اينٿروپڪ جو آئيني AI: سڌي راءِ جي بدران اصولن جي رهنمائي سان.
• InstructGPT: شروعاتي OpenAI ماڊل جيڪو RLHF جو مظاهرو ڪري ٿو.

حوالو / وڌيڪ پڙهڻ

• ڪرسٽيانو ۽ ٻيا. "انساني ترجيحن مان ڊيپ ريئنفورسمينٽ لرننگ." نيور آئي پي ايس 2017.
• اوپن اي آءِ انسٽرڪٽ جي پي ٽي پيپر.
• NIST AI رسڪ مئنيجمينٽ فريم ورڪ.
• Reinforcement Learning with Human Feedback (RLHF) ڇا آهي؟