ان حوالي سان: ٻوليءَ جا وڏا نمونا نئين دور تي غالب آهن، جن ۾ سست ٿيڻ جي ڪا نشاني ناهي. هرڪو چاهي ٿو ٽيڪنالاجي جي گرائونڊ فلور تي، تنهن ڪري هن وقت ايندڙ وڏي اي آئي چيٽ بوٽ کي ڇڏڻ لاءِ سون جي رش آهي. بدقسمتي سان، ماڊل وانگر ChatGPT تعمير ۽ ٽريننگ لاء ممنوع طور تي قيمتي آهن. تمام ننڍا ماڊل تمام سستا آهن، پر لڳي ٿو ته 2016 جي Microsoft ٽائي جهڙي آفت ۾ بدلجڻ جو گهڻو امڪان آهي.
هفتو اڳ، اسٽينفورڊ ڪاليج جي اسڪالرن پنهنجي مشن LLaMa AI-powered chatbot جو نسخو جاري ڪيو جنهن کي 'Alpaca' سڏيو ويندو هو، پر ان کي جلدي بند ڪري ڇڏيو جڏهن اهو شروع ٿي ويو ته اهو 'خيال' آهي. وڏي ٻوليءَ جي ماڊل (ايل ايل ايم) صنعت ۾ ڪجهه ماڻهن اهو فيصلو ڪيو آهي ته هيلوسينيشن هڪ سٺي ڳالهه آهي جڏهن هڪ مصنوعي ذهانت غلط معلومات کي ٻاهر ڪڍي ٿو ڄڻ ته اها حقيقت هئي. ڪاليج شامل ڪيو ته وڌندڙ هوسٽنگ جي قيمتن ۽ سيڪيورٽي خدشات پڻ ان کي ختم ڪرڻ جا ذميوار هئا.
"ڊيمو شايع ڪرڻ جو اصل مقصد اسان جي تحقيق کي حاصل ڪرڻ جي قابل انداز ۾ ڄاڻڻ هو،" اسٽينفورڊ يونيورسٽي جي انساني مرڪز مصنوعي حڪمت جي مرڪز جي هڪ نمائندي رجسٽرڊ کي ٻڌايو. "اسان محسوس ڪريون ٿا ته اسان گهڻو ڪري اهو مقصد حاصل ڪيو آهي ۽، ميزباني جي قيمتن ۽ اسان جي مواد جي فلٽرن جي ناگزيريت ڏني، اسان ڊيمو ڇڏڻ جو فيصلو ڪيو. »
"ڏنو... اسان جي مواد جي فلٽرن جي ناقص..." لاءِ ڪوڊ آهي "انٽرنيٽ اسان جي ماڊل کي برباد ڪري ڇڏيو آهي،" جيڪو حيرت انگيز ناهي ڇو ته انٽرنيٽ سڀ ڪجهه برباد ڪري ٿو.
قدرتي طور تي، LLMs وچولي فتويٰ جو شڪار آهن، انهن کي بلڪل معتبر انداز ۾ پيش ڪن ٿا. عالمن هن ڪمزوري جي نشاندهي ڪئي آهي تقريبن سڀني چيٽ بوٽس ۾ تازو جاري ڪيل. ChatGPT جا ڪيترائي مثال آهن ۽ ٻيا غلط معلومات کي حقيقت طور پيش ڪن ٿا ۽ بار بار انهن جي ڪهاڻي کي برقرار رکندا آهن جڏهن ان بابت پڇيو ويندو.
ان کان علاوه، اسٽنفورڊ ڄاڻي ٿو ته الپاڪا غير مناسب جواب پيدا ڪيو جڏهن استعمال لائق ڊيمو شروع ڪيو.
"Alpacas پڻ زبان جي نمونن ۾ ڪيترن ئي بار بار ٿيندڙ خسارن کي ظاهر ڪري ٿو، بشمول hallucinations، toxicity، ۽ stereotyping،" محقق گذريل هفتي پنهنجي پريس رليز ۾ چيو. "Hallucination، خاص طور تي، Alpaca لاءِ هڪ عام ناڪامي طريقو لڳي ٿو، جيتوڻيڪ جڏهن text-davinci-003 (OpenAI GPT-3.5) جي مقابلي ۾. الپاڪا لاءِ قابل استعمال ڊيمو لاڳو ڪرڻ پڻ امڪاني نقصانن کي ڏيکاري ٿو، جيئن ته نقصانڪار مواد جي تمام گهڻي ورهاست ۽ اسپام، اسڪيم، يا غلط معلومات جي خلاف رڪاوٽ کي گهٽائڻ. »
جڏهن ته ويب سائيٽ جي ميزباني ڪندڙ الپاڪا ڊيمو هيٺ آهي، ماڻهو اڃا تائين ماڊل حاصل ڪرڻ جي صلاحيت رکن ٿا ان جي GitHub مخزن کان نجي تجربن لاءِ، اسٽنفورڊ مشورو ڏئي ٿو. اهو ماڻهن کان پڇيو ته ”رپورٽ“ خاميون جيڪي انهن جي پريس رليز ۾ درج نه هيون جڏهن ماڊل پهريون ڀيرو جاري ڪيو ويو هو.
الپاڪا سان گڏ خرابين مان اهو آهي ته اهو ايل ايل ايم لاءِ هڪ ننڍڙو نمونو آهي، پر اهو ڊزائن طرفان آهي. مشن ارادي طور تي LLaMA کي حاصل ڪرڻ جي قابل ٻولي ماڊل جي طور تي ٺاهيو جنهن کي ٽريننگ لاءِ قيمتي سپر پي سي جي ضرورت نه هوندي. اسٽينفورڊ ان کي استعمال ڪيو 600 بلين فيڪٽرز جو ماڊل تيار ڪرڻ لاءِ اٽڪل $3. ان جو مقابلو $XNUMX بلين (يا ان کان وڌيڪ) سان جيڪو Microsoft پنهنجي ChatGPT-powered ماڊل ۾ سوين بلين فيڪٽرن سان لڳايو آهي.
انهي سان گڏ ذهن ۾، اها حيرت انگيز آهي ته الپاڪا ايتري جلدي ناڪام ٿي وئي جڏهن اهو عوام کي آزاد ڪيو ويو. جيتوڻيڪ Bing Chat تي ڪيترائي حادثا ٿيا ۽ غلط رستو وقت تي اهو شروع ٿيو، ۽ اهو ڪافي ڊگهو بند بيٽا کان پوء هو.
بهرحال، اهو ظاهر نٿو ڪري ته الپاڪا ڪڏهن به عوام جي استعمال لاء مناسب هوندو. GitHub ڪوڊ صرف هڪ هفتي لاءِ مفت هو ۽ ماڻهو ان کي هلائي رهيا هئا Raspberry Pi ۽ پکسل فون. اهي خاصيتون صرف الپاڪا جي معمولي سائيز جي ڪري ممڪن آهن. بنيادي رڪاوٽ اهڙي ننڍڙي نموني کي حاصل ڪرڻ لاء وڃڻ وارو آهي، جيڪو اسٽينفورڊ ٽن سالن کان چڱي طرح سکي رهيو آهي (مٿي ويڊيو). هي هڪ علائقو آهي جتي ماس LLMs جهڙوڪ ChatGPT تي ڪم ڪرڻ جي ضرورت آهي.
مھيني جي رپورٽ کي دريافت ڪريو (فرانسيسي ۾ ترجمو ٿيل)، ڇا مصنوعي ذھني دنيا جي رانديگرن جي مقابلي ۾ فتح حاصل ڪندو؟ :
