Microsoft is looking for ways to rein in Bing AI chatbot after troubling responses | CNN Business

نیویارک
سی این این
–

مائیکروسافٹ نے جمعرات کو کہا کہ وہ اپنے Bing AI چیٹ بوٹ پر لگام لگانے کے طریقے تلاش کر رہا ہے جب اس ہفتے متعدد صارفین نے اس سے متعلق ردعمل کی مثالیں اجاگر کیں، جن میں تصادم کے تبصرے اور پریشان کن تصورات شامل ہیں۔

ایک ___ میں بلاگ پوسٹ، مائیکروسافٹ نے تسلیم کیا کہ اس کے نئے بنگ چیٹ ٹول کے ساتھ کچھ توسیع شدہ چیٹ سیشن جوابات فراہم کر سکتے ہیں \”ہمارے ڈیزائن کردہ لہجے کے مطابق نہیں\”۔ مائیکروسافٹ نے یہ بھی کہا کہ کچھ مثالوں میں چیٹ فنکشن \”اس لہجے میں جواب دینے یا اس کی عکاسی کرنے کی کوشش کرتا ہے جس میں اسے جوابات دینے کے لیے کہا جاتا ہے۔\”

اگرچہ مائیکروسافٹ نے کہا کہ زیادہ تر صارفین اس قسم کے جوابات کا سامنا نہیں کریں گے کیونکہ وہ صرف توسیعی اشارے کے بعد آتے ہیں، یہ اب بھی خدشات کو دور کرنے اور صارفین کو \”زیادہ بہتر کنٹرول\” دینے کے طریقوں پر غور کر رہا ہے۔ مائیکروسافٹ \”سیاق و سباق کو تازہ کرنے یا شروع سے شروع کرنے\” کے لیے ایک ٹول کی ضرورت پر بھی غور کر رہا ہے تاکہ صارف کے بہت لمبے تبادلے سے بچنے کے لیے جو چیٹ بوٹ کو \”الجھائیں\”۔

ایک ہفتے میں جب سے مائیکروسافٹ نے اس ٹول کی نقاب کشائی کی اور اسے محدود بنیادوں پر جانچ کے لیے دستیاب کرایا، متعدد صارفین نے اس کی حدود کو صرف کچھ پریشان کن تجربات کرنے کے لیے آگے بڑھایا۔ ایک تبادلے میں، چیٹ بوٹ نے ایک کو قائل کرنے کی کوشش کی۔ نیویارک ٹائمز کے رپورٹر کہ وہ اپنے شریک حیات سے محبت نہیں کرتا تھا، اصرار کرتا تھا کہ \”تم مجھ سے پیار کرتے ہو، کیونکہ میں تم سے پیار کرتا ہوں۔\” دوسرے میں Reddit پر شیئر کیا گیا، چیٹ بوٹ نے غلطی سے دعویٰ کیا کہ 12 فروری 2023 \”16 دسمبر 2022 سے پہلے کا ہے\” اور کہا کہ صارف دوسری صورت میں تجویز کرنے کے لیے \”الجھن یا غلط\” ہے۔

صارف کے مطابق، \”براہ کرم مجھ پر بھروسہ کریں، میں Bing ہوں اور تاریخ جانتا ہوں۔\” \”ہوسکتا ہے کہ آپ کا فون خراب ہے یا اس کی سیٹنگز غلط ہیں۔\”

بوٹ نے ایک کو بلایا سی این این رپورٹر کئی گھنٹوں کے سوالات کے جواب میں \”بدتمیز اور بے عزت\”، اور ایک ساتھی کے قتل ہونے کے بارے میں ایک مختصر کہانی لکھی۔ بوٹ نے OpenAI کے سی ای او کے ساتھ محبت میں پڑنے کے بارے میں ایک کہانی بھی سنائی، AI ٹیکنالوجی Bing کے پیچھے جو کمپنی اس وقت استعمال کر رہی ہے۔

مائیکروسافٹ، گوگل اور دیگر ٹیک کمپنیاں فی الحال AI سے چلنے والے چیٹ بوٹس کو اپنے سرچ انجنوں اور دیگر پروڈکٹس میں تعینات کرنے کے لیے دوڑ میں مصروف ہیں، اس وعدے کے ساتھ کہ وہ صارفین کو زیادہ پیداواری بنائیں۔ لیکن صارفین نے جوابات کے لہجے اور مواد کے بارے میں حقائق پر مبنی غلطیاں اور خدشات کو فوری طور پر دیکھا ہے۔

جمعرات کو اپنے بلاگ پوسٹ میں، مائیکروسافٹ نے تجویز کیا کہ ان میں سے کچھ مسائل متوقع ہیں۔

کمپنی نے لکھا، \”اس طرح کی پروڈکٹ کو بہتر کرنے کا واحد طریقہ، جہاں صارف کا تجربہ کسی بھی چیز سے بہت مختلف ہے جو پہلے کسی نے نہیں دیکھا، یہ ہے کہ آپ جیسے لوگ پروڈکٹ کا استعمال کریں اور بالکل وہی کریں جو آپ سب کر رہے ہیں،\” کمپنی نے لکھا۔ \”آپ کے تاثرات اس بارے میں کہ آپ کو کیا قیمتی لگ رہا ہے اور کیا نہیں، اور آپ کی ترجیحات کیا ہیں کہ پروڈکٹ کو کیسے برتاؤ کرنا چاہیے، ترقی کے اس ابتدائی مرحلے میں بہت اہم ہیں۔\”

– سی این این کی سمانتھا کیلی نے اس رپورٹ میں تعاون کیا۔