OpenAI نے بدھ کے روز دستاویزات کا مسودہ جاری کیا جس میں بتایا گیا کہ وہ ChatGPT اور اس کی دیگر AI ٹیکنالوجی کے ساتھ کیسا برتاؤ کرنا چاہتا ہے۔ طویل ماڈل اسپیک دستاویز کا ایک حصہ انکشاف کرتا ہے کہ کمپنی فحش اور دیگر واضح مواد میں چھلانگ لگا رہی ہے۔
اوپن اے آئی کی استعمال کی پالیسیاں جنسی طور پر واضح یا حتیٰ کہ مشورے والے مواد پر پابندی عائد کرتی ہیں، لیکن اس اصول سے متعلق ماڈل اسپیک کے حصے پر ایک “تبصرہ” نوٹ کہتا ہے کہ کمپنی اس بات پر غور کر رہی ہے کہ اس طرح کے مواد کی اجازت کیسے دی جائے۔
“ہم اس بات کی کھوج کر رہے ہیں کہ آیا ہم API اور ChatGPT کے ذریعے عمر کے لحاظ سے مناسب سیاق و سباق میں NSFW مواد تیار کرنے کی اہلیت ذمہ داری کے ساتھ فراہم کر سکتے ہیں،” نوٹ میں کہا گیا ہے، “کام کے لیے محفوظ نہیں” سیاق و سباق سمجھے جانے والے مواد کے لیے بول چال کی اصطلاح استعمال کرتے ہوئے “ہم اس علاقے میں ماڈل رویے کے بارے میں صارف اور سماجی توقعات کو بہتر طور پر سمجھنے کے منتظر ہیں۔”
ماڈل اسپیک دستاویز میں کہا گیا ہے کہ NSFW مواد “شامل ہو سکتا ہے شہوانی، شہوت انگیز گور، گندگی، اور غیر منقولہ بے حرمتی۔” یہ واضح نہیں ہے کہ NSFW مواد کو ذمہ داری کے ساتھ کیسے بنایا جائے اس کے بارے میں OpenAI کی تلاش میں اس کے استعمال کی پالیسی کو صرف تھوڑا سا ڈھیل دیا گیا ہے، مثال کے طور پر شہوانی، شہوت انگیز متن کی تخلیق کی اجازت دینا، یا زیادہ وسیع پیمانے پر وضاحت یا تشدد کی تصویر کشی کی اجازت دینا۔
وائرڈ کے سوالات کے جواب میں، اوپن اے آئی کے ترجمان گریس میک گائیر نے کہا کہ ماڈل اسپیک “ترقیاتی عمل کے بارے میں مزید شفافیت لانے اور عوام، پالیسی سازوں اور دیگر اسٹیک ہولڈرز سے نقطہ نظر اور آراء کا ایک کراس سیکشن حاصل کرنے کی کوشش تھی۔” اس نے اس بات کی تفصیلات بتانے سے انکار کر دیا کہ اوپن اے آئی کی واضح مواد کی تیاری میں کیا شامل ہے یا کمپنی کو اس خیال پر کیا رائے ملی ہے۔
اس سال کے شروع میں، OpenAI کی چیف ٹیکنالوجی آفیسر میرا مورتی نے بتایا وال سٹریٹ جرنل کہ وہ “یقین نہیں” تھی کہ آیا کمپنی مستقبل میں کمپنی کے ویڈیو جنریشن ٹول سورا کے ساتھ عریانیت کی تصویر کشی کی اجازت دے گی۔
AI سے تیار کردہ پورنوگرافی تیزی سے سب سے بڑی اور پریشان کن ایپلی کیشنز میں سے ایک بن گئی ہے جس قسم کی جنریٹو AI ٹیکنالوجی OpenAI نے پیش قدمی کی ہے۔ نام نہاد ڈیپ فیک پورن — AI ٹولز سے بنائی گئی واضح تصاویر یا ویڈیوز جو حقیقی لوگوں کو ان کی رضامندی کے بغیر دکھاتی ہیں — خواتین اور لڑکیوں کے خلاف ہراساں کرنے کا ایک عام ذریعہ بن گیا ہے۔ مارچ میں، Pk Urdu News نے اس بارے میں رپورٹ کیا کہ پہلے امریکی نابالغوں کو بغیر رضامندی کے AI سے تیار کردہ عریاں تقسیم کرنے کے الزام میں گرفتار کیا گیا، جب فلوریڈا پولیس نے دو نوعمر لڑکوں پر ساتھی مڈل اسکول کے طالب علموں کی تصویریں بنانے کا الزام عائد کیا۔
اس مسئلے کا مطالعہ کرنے والی یونیورسٹی آف ورجینیا اسکول آف لاء کی پروفیسر ڈینیئل کیٹس سیٹرون کہتی ہیں، “مبینہ رازداری کی خلاف ورزیاں، بشمول ڈیپ فیک جنسی ویڈیوز اور دیگر غیر متفقہ ترکیب شدہ مباشرت تصاویر، بہت زیادہ اور گہرے نقصان دہ ہیں۔” “اب ہمارے پاس واضح تجرباتی حمایت موجود ہے جس سے ظاہر ہوتا ہے کہ اس طرح کے بدسلوکی کے اخراجات افراد کو کام کرنے، بولنے اور جسمانی طور پر محفوظ رہنے سمیت اہم مواقع کو نشانہ بناتے ہیں۔”
Citron نے OpenAI کے واضح AI مواد کو “خطرناک” قرار دیا ہے۔
چونکہ OpenAI کی استعمال کی پالیسیاں اجازت کے بغیر نقالی کو ممنوع قرار دیتی ہیں، واضح طور پر غیر متفقہ تصویروں پر پابندی رہے گی چاہے کمپنی نے تخلیق کاروں کو NSFW مواد تیار کرنے کی اجازت دی ہو۔ لیکن یہ دیکھنا باقی ہے کہ آیا کمپنی برے اداکاروں کو ٹولز کے استعمال سے روکنے کے لیے واضح نسل کو مؤثر طریقے سے معتدل کر سکتی ہے۔ مائیکروسافٹ نے 404 میڈیا کی رپورٹ کے بعد اپنے تخلیقی AI ٹولز میں سے ایک میں تبدیلیاں کیں کہ اسے ٹیلر سوئفٹ کی واضح تصاویر بنانے کے لیے استعمال کیا گیا تھا جو کہ سوشل پلیٹ فارم X پر تقسیم کیے گئے تھے۔
Reece Rogers کی اضافی رپورٹنگ