نامناسب اے آئی مواد: ملائیشیا، انڈونیشیا گروک کو بلاک کرنے والے اولین ممالک

ملائیشیا اور انڈونیشیا اولین ممالک بن گئے ہیں جنہوں نے ایلون مسک کے ایکس اے آئی کے تیار کردہ مصنوعی ذہانت کے چیٹ بوٹ گروک کو بلاک کر دیا ہے۔ حکام نے کہا ہے کہ جنسی طور پر واضح اور رضامندی کے بغیر بنائی گئی تصاویر تخلیق کرنے کے لیے اس کا غلط استعمال کیا جا رہا ہے۔ یہ اقدامات تخلیقی اے آئی ٹولز پر بڑھتی ہوئی عالمی تشویش کی عکاسی کرتے ہیں جو حقیقت پسندانہ تصاویر، آواز اور متن تیار کر سکتے ہیں جبکہ موجودہ حفاظتی اقدامات ان کے غلط استعمال کو روکنے میں ناکام ہیں۔ گروک چیٹ بوٹ جس تک ایکس کے ذریعے رسائی حاصل کی جاتی ہے، کو دردوبدل والی تصاویر بنانے پر تنقید کا نشانہ بنایا گیا ہے۔ اس میں خواتین کی بکنی میں ملبوس یا جنسی طور پر واضح انداز کے ساتھ ساتھ بچوں کی تصاویر بھی شامل ہیں۔ دو جنوب مشرقی ایشیائی ممالک کے ریگولیٹرز نے کہا کہ موجودہ کنٹرولز جعلی فحش مواد کی تخلیق اور پھیلاؤ کو نہیں روک رہے ہیں بالخصوص جو خواتین اور نابالغ افراد پر مشتمل ہے۔ انڈونیشیا کی حکومت نے ہفتے کے روز اور اس کے بعد اتوار کو ملائیشیا نے گروک تک رسائی کو عارضی طور پر روک دیا۔ انڈونیشیا کی وزیر برائے مواصلات و ڈیجیٹل امور میوتیا ہافید نے ہفتے کے روز ایک بیان میں کہا، "حکومت غیر رضامندانہ جنسی ڈیپ فیکس کو ڈیجیٹل ذرائع پر شہریوں کے انسانی حقوق، وقار اور تحفظ کی سنگین خلاف ورزی سمجھتی ہے۔" وزارت نے کہا، اس اقدام کا مقصد خواتین، بچوں اور وسیع تر کمیونٹی کو اے آئی سے تیار کردہ جعلی فحش مواد سے بچانا ہے۔ ڈیجیٹل مواد کی نگرانی کے ڈائریکٹر جنرل الیگزینڈر صبار نے ایک الگ بیان میں کہا، ابتدائی نتائج سے ظاہر ہوتا ہے کہ گروک کے پاس ایسے مؤثر تحفظ کا فقدان ہے جس کی مدد سے صارفین کو انڈونیشیائی باشندوں کی حقیقی تصاویر پر مبنی فحش مواد بنانے اور تقسیم کرنے سے روکا جائے۔ ایسے طریقوں سے ذاتیات اور تصویری حقوق کی خلاف ورزی کا خدشہ ہوتا ہے جب تصاویر میں ردوبدل یا انہیں رضامندی کے بغیر پوسٹ کیا جائے اور یہ نفسیاتی، سماجی اور شہرت کو نقصان پہنچانے کا باعث ہے۔ کوالالمپور میں ملائیشیا کے کمیونیکیشنز اینڈ ملٹی میڈیا کمیشن نے اتوار کو گروک پر عارضی پابندی کا حکم دیا جو اس کے مطابق فحش، جنسی طور پر واضح اور رضامندی کے بغیر ردوبدل والی تصاویر بنانے کے لیے اس ذریعے کا "بار بار غلط استعمال" ہے اور اِن میں خواتین اور نابالغوں کا مواد شامل ہے۔ ریگولیٹر نے کہا کہ ایکس کارپوریشن اور ایکس اے آئی کو اس ماہ جاری کردہ نوٹسز میں مضبوط حفاظتی اقدامات کا مطالبہ کیا گیا ہے۔ نیز کہا گیا، "پابندی ایک احتیاطی اور متناسب اقدام کے طور پر عائد کی گئی ہے جبکہ قانونی اور ریگولیٹری عمل جاری ہیں۔ مؤثر حفاظتی اقدامات نافذ ہونے تک رسائی مسدود رہے گی۔" گروک جو 2023 میں شروع کیا گیا، ایکس پر استعمال کیا جا سکتا ہے۔ صارفین سوشل میڈیا پلیٹ فارم پر اس سے سوالات پوچھ سکتے ہیں اور ان پوسٹس کو ٹیگ کر سکتے ہیں جو انھوں نے براہ راست تخلیق کی ہیں یا دوسرے صارفین کی پوسٹس کے جوابات دے سکتے ہیں۔ گذشتہ موسم گرما میں کمپنی نے ایک امیج جنریٹر فیچر گروک امیجن شامل کیا جس میں ایک نام نہاد "سپائسی موڈ" شامل تھا جو بالغ افراد کا مواد تیار کر سکتا ہے۔ جنوب مشرقی ایشیائی ممالک کی پابندیاں یورپی یونین، برطانیہ، بھارت اور فرانس سمیت دیگر جگہوں پر گروک کی بڑھتی ہوئی جانچ پڑتال کے درمیان آئی ہیں۔ لوگوں کی جنسی نوعیت کی جعلی تصاویر پر سخت عالمی ردِ عمل کے بعد گروک نے گذشتہ ہفتے ادائیگی کرنے والے صارفین کے لیے تصاویر بنانے اور ان میں ترمیم کے ٹول کو محدود کر دیا لیکن ناقدین کا خیال ہے کہ اس سے مسئلہ مکمل طور پر حل نہیں ہوا۔

Source: social media