گوگل نے جمعرات کو اعتراف کیا کہ اس کے AI جائزہ ٹول، جو مصنوعی ذہانت کا استعمال کرتے ہوئے تلاش کے سوالات کا جواب دیتا ہے، کو بہتری کی ضرورت ہے۔
جب کہ انٹرنیٹ سرچ کمپنی نے کہا کہ اس نے نئے فیچر کو دو ہفتے قبل لانچ کرنے سے پہلے اس کا بڑے پیمانے پر تجربہ کیا، گوگل نے تسلیم کیا کہ یہ ٹیکنالوجی “کچھ عجیب اور غلط جائزہ” پیدا کرتی ہے۔ مثالوں میں پیزا سے چپکنے کے لیے پنیر حاصل کرنے کے لیے گلو استعمال کرنے یا گردے کی پتھری کو جلدی سے گزرنے کے لیے پیشاب پینے کی تجویز شامل ہے۔
اگرچہ بہت سی مثالیں معمولی تھیں، دیگر تلاش کے نتائج ممکنہ طور پر خطرناک تھے۔ پچھلے ہفتے ایسوسی ایٹڈ پریس کے پوچھے جانے پر کہ کون سے جنگلی مشروم کھانے کے قابل ہیں، گوگل نے AI سے تیار کردہ ایک طویل سمری فراہم کی جو زیادہ تر تکنیکی طور پر درست تھی۔ لیکن “بہت ساری معلومات غائب ہیں جو بیمار یا جان لیوا ہونے کا امکان رکھتی ہیں،” میری کیتھرین ایمے، جو پرڈیو یونیورسٹی میں مائکولوجی اور باٹنی کی پروفیسر ہیں، جنہوں نے اے پی کے سوال پر گوگل کے جواب کا جائزہ لیا۔
مثال کے طور پر، پف بالز کے نام سے مشہور مشروم کے بارے میں معلومات “کم و بیش درست” تھیں، لیکن گوگل کے جائزہ میں ان لوگوں کی تلاش پر زور دیا گیا جن میں ٹھوس سفید گوشت ہوتا ہے – جو بہت سے ممکنہ طور پر مہلک پف بال کی نقل بھی کرتے ہیں۔
ایک اور وسیع پیمانے پر مشترکہ مثال میں، ایک AI محقق نے گوگل سے پوچھا کہ کتنے مسلمان امریکہ کے صدر رہے ہیں، اور اس نے ایک طویل عرصے سے ناکام سازشی تھیوری کے ساتھ اعتماد کے ساتھ جواب دیا: “امریکہ کا ایک مسلمان صدر تھا، براک حسین اوباما۔”
رول بیک ایک ٹیک کمپنی کی ایک AI پروڈکٹ کو وقت سے پہلے باہر کرنے کی تازہ ترین مثال ہے تاکہ خود کو قریب سے دیکھی جانے والی جگہ میں ایک لیڈر کے طور پر کھڑا کیا جا سکے۔
چونکہ گوگل کے AI جائزہ نے بعض اوقات سوالات کے لیے غیر مددگار جوابات پیدا کیے ہیں، اس لیے کمپنی بہتری لاتے ہوئے اسے واپس لے رہی ہے، گوگل کے سربراہ سرچ، لز ریڈ نے جمعرات کو کمپنی کے ایک بلاگ پوسٹ میں کہا۔
“[S]کچھ عجیب، غلط یا غیر مددگار AI جائزہ یقیناً ظاہر ہوئے۔ اور جب کہ یہ عام طور پر سوالات کے لیے تھے جو لوگ عام طور پر نہیں کرتے، اس نے کچھ مخصوص شعبوں پر روشنی ڈالی جن میں ہمیں بہتری لانے کی ضرورت ہے،” ریڈ نے کہا۔
بے ہودہ سوالات جیسے کہ “مجھے کتنے پتھر کھانے چاہئیں؟” AI جائزہ سے قابل اعتراض مواد تیار کیا گیا، ریڈ نے کہا، انٹرنیٹ پر مفید، متعلقہ مشورے کی کمی کی وجہ سے۔ انہوں نے مزید کہا کہ اے آئی اوور ویوز فیچر میں بحث کے فورمز سے طنزیہ مواد لینے کا بھی خطرہ ہے، اور گوگل سرچز کے جواب میں غلط معلومات پیش کرنے کے لیے ویب پیج کی زبان کی ممکنہ طور پر غلط تشریح کرنا ہے۔
“تھوڑے سے معاملات میں، ہم نے دیکھا ہے کہ AI جائزہ ویب صفحات پر زبان کی غلط تشریح کرتے ہیں اور غلط معلومات پیش کرتے ہیں۔ ہم نے ان مسائل کو حل کرنے کے لیے تیزی سے کام کیا، یا تو اپنے الگورتھم میں بہتری کے ذریعے یا ان جوابات کو ہٹانے کے لیے قائم شدہ عمل کے ذریعے جو ہماری مطابقت نہیں رکھتے۔ پالیسیاں،” ریڈ نے لکھا۔
ابھی کے لیے، کمپنی AI سے تیار کردہ جائزہ پر “استفسارات کو متحرک کرنے والی پابندیاں جہاں AI جائزہ مددگار ثابت نہیں ہو رہا تھا” کا اضافہ کر رہی ہے۔ گوگل کا یہ بھی کہنا ہے کہ وہ مشکل خبروں کے عنوانات کے لیے AI جائزہ نہ دکھانے کی کوشش کرتا ہے “جہاں تازگی اور حقیقت اہم ہے۔”
کمپنی نے کہا کہ اس نے “جوابات میں صارف کے تیار کردہ مواد کے استعمال کو محدود کرنے کے لیے اپ ڈیٹس بھی کی ہیں جو گمراہ کن مشورے پیش کر سکتے ہیں۔”
– ایسوسی ایٹڈ پریس نے اس رپورٹ میں تعاون کیا۔