AI جي عجيب دنيا ۽ ان جا خيال

انساني ذهن هڪ ڊگهي عرصي تائين ناقابل بيان ۽ پراسرار رهيو آهي. ۽ ڏسجي ٿو ته سائنسدانن هن لسٽ ۾ هڪ نئين مدمقابل کي تسليم ڪيو آهي - مصنوعي ذهانت (AI). شروعات ۾، AI جي دماغ کي سمجهڻ بجاء آڪسيمورونڪ آواز. تنهن هوندي، جيئن ته AI آهستي آهستي وڌيڪ جذباتي ٿئي ٿو ۽ انسانن ۽ انهن جي جذبات جي نقل ڪرڻ جي ويجهو اچي ٿو، اسان انهن واقعن جا شاهد آهيون جيڪي انسانن ۽ جانورن لاءِ پيدائشي آهن - hallucinations.

ها، اهو لڳي ٿو ته اهو ئي سفر جيڪو ذهن ريگستان ۾ ڇڏي وڃڻ، ڪنهن ٻيٽ تي اڇلائي ڇڏڻ، يا دريائن ۽ دروازن کان خالي ڪمري ۾ اڪيلو بند ٿيڻ تي ڪندو آهي، مشينن پاران پڻ تجربو ڪيو ويندو آهي. AI هيلوسينيشن حقيقي آهي ۽ ٽيڪ ماهرن ۽ شوقينن ڪيترائي مشاهدا ۽ نتيجا رڪارڊ ڪيا آهن.

اڄ جي مضمون ۾، اسين وڏي ٻولي جي ماڊلز (LLMs) جي هن پراسرار پر دلچسپ پهلوءَ کي ڳولينداسين ۽ AI هيلوسينيشن بابت عجيب حقيقتون سکنداسين.

AI Hallucination ڇا آهي؟

مصنوعي ذهانت جي دنيا ۾، هيلوسينيشن مبهم طور تي نمونن، رنگن، شڪلين، يا ماڻهن جو حوالو نه ٿا ڏين جيڪي ذهن واضح طور تي تصور ڪري سگهي ٿو. ان جي بدران، هيلوسينيشن غلط، نامناسب، يا اڃا به گمراهه ڪندڙ حقيقتن ۽ جوابن جو حوالو ڏئي ٿو جنريٽو AI اوزار اشارا سان گڏ ايندا آهن.

مثال طور، تصور ڪريو هڪ AI ماڊل کان پڇو ته هبل خلائي دوربين ڇا آهي ۽ اهو جواب ڏيڻ شروع ڪري ٿو جهڙوڪ، "IMAX ڪئميرا هڪ خاص، اعلي ريز موشن تصوير آهي ...." 

هي جواب غير لاڳاپيل آهي. پر وڌيڪ اھم ڳالھھ، ڇو ماڊل ھڪڙو ردعمل پيدا ڪيو جيڪو پيش ڪيل تڪڙي کان مختلف آھي؟ ماهرن جو خيال آهي ته hallucinations ڪيترن ئي عنصرن مان ٿي سگهي ٿو جهڙوڪ:

• AI ٽريننگ ڊيٽا جي خراب معيار
• Overconfident AI ماڊلز 
• قدرتي ٻولي پروسيسنگ (NLP) پروگرامن جي پيچيدگي
• انڪوڊنگ ۽ ڊيڪوڊنگ غلطيون
• AI ماڊلز جا مخالف حملا يا هيڪس
• ذريعو- حوالو تڪرار
• ان پٽ تعصب يا ان پٽ ابهام ۽ وڌيڪ

AI hallucination انتهائي خطرناڪ آهي ۽ ان جي شدت صرف ان جي ايپليڪيشن جي وڌايل وضاحت سان وڌي ٿي. 

مثال طور، هڪ hallucinating GenAI اوزار ان کي ترتيب ڏيڻ واري اداري لاءِ شهرت کي نقصان پهچائي سگھي ٿو. تنهن هوندي، جڏهن هڪ AI ماڊل هڪ شعبي ۾ لڳايو ويو آهي جهڙوڪ صحت جي سار سنڀار، اهو زندگي ۽ موت جي وچ ۾ مساوات کي تبديل ڪري ٿو. هن کي تصور ڪريو، جيڪڏهن هڪ AI ماڊل هڪ مريض جي طبي تصويرن جي رپورٽن جي ڊيٽا جي تجزيي جي جواب کي hallucinates ۽ پيدا ڪري ٿو، اهو اڻڄاتل طور تي هڪ غير معمولي ٽيمر کي خطرناڪ طور تي رپورٽ ڪري سگهي ٿو، جنهن جي نتيجي ۾ فرد جي تشخيص ۽ علاج جي انحراف جي نتيجي ۾. 

AI Hallucinations مثالن کي سمجھڻ

AI hallucinations مختلف قسمن جا آهن. اچو ته سمجهون ته انهن مان ڪجهه اهم آهن. 

معلومات جي حقيقت ۾ غلط جواب

• غلط مثبت جوابن جهڙوڪ متن ۾ صحيح گرامر کي غلط طور تي نشان لڳائڻ
• غلط منفي جوابن جهڙوڪ واضح غلطين کي نظر انداز ڪرڻ ۽ انهن کي حقيقي طور تي منتقل ڪرڻ
• غير موجود حقيقتن جي ايجاد
• حوالن جي غلط استعمال يا ڇنڊڇاڻ
• غلط جوابن سان جواب ڏيڻ ۾ وڌيڪ اعتماد. مثال: Who sing Here Comes Sun؟ Metallica.
• تصورات، نالن، جڳھن، يا واقعن کي گڏ ڪرڻ
• عجيب يا خوفناڪ جوابن جهڙوڪ Alexa جي مشهور شيطاني خودمختيار کلڻ ۽ وڌيڪ

AI Hallucinations کي روڪڻ

ڪنهن به قسم جي AI سان پيدا ٿيل غلط معلومات کي ڳولي ۽ درست ڪري سگهجي ٿو. اهو AI سان ڪم ڪرڻ جي خاصيت آهي. اسان هي ايجاد ڪيو آهي ۽ اسان ان کي درست ڪري سگهون ٿا. هتي ڪجهه طريقا آهن جيڪي اسان اهو ڪري سگهون ٿا.