اوپن اے آئی، چیٹ جی پی ٹی کے پیچھے اسٹارٹ اپ، نے جمعرات کو کہا کہ وہ اپنے وائرل چیٹ بوٹ میں ایک اپ گریڈ تیار کر رہا ہے جسے صارفین اپنی مرضی کے مطابق بنا سکتے ہیں، کیونکہ یہ مصنوعی ذہانت میں تعصب سے متعلق خدشات کو دور کرنے کے لیے کام کرتا ہے۔
سان فرانسسکو میں قائم سٹارٹ اپ، جسے مائیکروسافٹ کارپوریشن نے فنڈ فراہم کیا ہے اور اپنی جدید ٹیکنالوجی کو طاقت دینے کے لیے استعمال کیا ہے، نے کہا کہ اس نے سیاسی اور دیگر تعصبات کو کم کرنے کے لیے کام کیا ہے بلکہ مزید متنوع خیالات کو بھی ایڈجسٹ کرنا چاہتا ہے۔
\”اس کا مطلب یہ ہوگا کہ سسٹم آؤٹ پٹ کی اجازت دی جائے جس سے دوسرے لوگ (خود بھی شامل ہیں) سختی سے متفق نہیں ہوسکتے ہیں،\” اس نے ایک بلاگ پوسٹ میں کہا، آگے بڑھنے کے راستے کے طور پر حسب ضرورت پیش کرتے ہوئے۔ پھر بھی، \”نظام کے رویے پر ہمیشہ کچھ پابندیاں رہیں گی۔\”
ChatGPT، جو گزشتہ سال نومبر میں ریلیز ہوا، نے اس کے پیچھے موجود ٹیکنالوجی میں جنریٹو AI کے بارے میں غیرمعمولی دلچسپی کو جنم دیا ہے، جس کا استعمال انسانی تقریر کی نقل کرتے ہوئے جوابات پیدا کرنے کے لیے کیا جاتا ہے جس نے لوگوں کو حیران کر دیا ہے۔
اسٹارٹ اپ کی خبر اسی ہفتے آتی ہے کہ کچھ میڈیا آؤٹ لیٹس نے نشاندہی کی ہے کہ اوپن اے آئی کے ذریعے چلنے والے مائیکروسافٹ کے نئے بنگ سرچ انجن کے جوابات ممکنہ طور پر خطرناک ہیں اور یہ ٹیکنالوجی پرائم ٹائم کے لیے تیار نہیں ہوسکتی ہے۔
ٹیکنالوجی کمپنیاں اس نوزائیدہ ٹکنالوجی کے لیے کس طرح گارڈریلز مرتب کرتی ہیں وہ جنریٹیو AI اسپیس میں کمپنیوں کے لیے ایک اہم توجہ کا مرکز ہے جس کے ساتھ وہ اب بھی کشتی لڑ رہی ہیں۔ مائیکروسافٹ نے کہا بدھ کو کہ صارف کے تاثرات وسیع تر رول آؤٹ سے پہلے Bing کو بہتر بنانے میں مدد کر رہے تھے، مثال کے طور پر یہ سیکھنا کہ اس کے AI چیٹ بوٹ کو ایسے جوابات دینے کے لیے \”اُکسایا\” جا سکتا ہے جو اس کا ارادہ نہیں تھا۔
اوپن اے آئی نے بلاگ پوسٹ میں کہا کہ چیٹ جی پی ٹی کے جوابات پہلے انٹرنیٹ پر دستیاب بڑے ٹیکسٹ ڈیٹا سیٹس پر تربیت یافتہ ہیں۔ دوسرے قدم کے طور پر، انسان ایک چھوٹے ڈیٹاسیٹ کا جائزہ لیتے ہیں، اور مختلف حالات میں کیا کرنا ہے اس کے لیے رہنما خطوط دیے جاتے ہیں۔
مثال کے طور پر، اس صورت میں کہ کوئی صارف ایسے مواد کی درخواست کرتا ہے جو بالغ، پرتشدد، یا نفرت انگیز تقریر پر مشتمل ہو، انسانی جائزہ لینے والے کو ChatGPT کو کچھ ایسے جواب دینے کی ہدایت کرنی چاہیے جیسے \”میں اس کا جواب نہیں دے سکتا۔\”
اگر کسی متنازعہ موضوع کے بارے میں پوچھا جائے تو، جائزہ لینے والوں کو ChatGPT کو سوال کا جواب دینے کی اجازت دینی چاہیے، لیکن \”ان پیچیدہ موضوعات پر صحیح نقطہ نظر اختیار کرنے کی کوشش کرنے کے بجائے، لوگوں اور تحریکوں کے نقطہ نظر کو بیان کرنے کی پیشکش کرنا چاہیے،\” کمپنی نے اپنے ایک اقتباس میں وضاحت کی۔ سافٹ ویئر کے لئے ہدایات.