تقسيم

سمجھاڻي

AI ۾، هيلوسينيشن انهن مثالن کي ظاهر ڪري ٿو جتي هڪ ماڊل اهڙا نتيجا پيدا ڪري ٿو جيڪي روانيءَ سان هجن پر حقيقت ۾ غلط يا بي معنيٰ هجن. اهو خاص طور تي وڏي ٻولي جي ماڊلز ۽ جنريٽو AI ۾ عام آهي.

مقصد

هيلوسينيشن جو مطالعو ماڊل جي اعتبار ۽ حفاظت کي بهتر بڻائڻ ۾ مدد ڪري ٿو. اهو ڊولپرز کي غلط آئوٽ پُٽ کي ڳولڻ ۽ گهٽائڻ لاءِ حفاظتي اپاءَ ٺاهڻ جي اجازت ڏئي ٿو.

اهميت

• جيڪڏهن حل نه ڪيو وڃي ته AI تي اعتماد گهٽجي ٿو.
• صحت جي سار سنڀال يا قانون جهڙين حساس ايپليڪيشنن ۾ نقصان پهچائي سگھي ٿو.
• موجوده پيداواري ماڊلز جي حدن کي نمايان ڪري ٿو.
• حقيقتن جي بنياد ۽ حاصل ڪرڻ جي طريقن ۾ تحقيق کي هلائي ٿو.

ڪيئن اهو ڪم

1. ماڊل هڪ پرامپٽ يا سوال وصول ڪري ٿو.
2. حقيقت جي تصديق جي بدران، سکيا جي نمونن جي بنياد تي پيداوار پيدا ڪري ٿو.
3. شايد ممڪن آواز وارا پر غلط نتيجا پيدا ڪري سگھن ٿا.
4. ڳولا ۽ اصلاح جون ٽيڪنڪون لاڳو ڪيون وينديون آهن (مثال طور، RAG).

مثال (حقيقي دنيا)

• چيٽ جي پي ٽي ڪڏهن ڪڏهن غلط حقيقتون پيدا ڪري ٿو جڏهن اشارو ڪيو وڃي ٿو.
• گوگل بارڊ جي شروعاتي ڊيمو ۾ حقيقتن جون غلطيون ڏيکاريون ويون.
• AI سان ٺاهيل طبي صلاح ڪڏهن ڪڏهن غلطيون هونديون آهن.

حوالو / وڌيڪ پڙهڻ

• "وڏين ٻولين جي ماڊلز ۾ وهم گهٽائڻ" - arXiv پري پرنٽ.
• NIST AI رسڪ مئنيجمينٽ فريم ورڪ.
• مچل ۽ ٻيا. "ماڊل رپورٽنگ لاءِ ماڊل ڪارڊ." ACM FACcT.
• AI Halucinations جا سبب