’گروک‘ پر نازیبا اے آئی تصاویر بنانے کے الزامات، متعدد ممالک میں تحقیقات کا آغاز

ایلون مسک کے مصنوعی ذہانت کے پلیٹ فارم Grok پر خواتین اور بچوں کی اجازت کے بغیر جنسی نوعیت کی تصاویر تیار کرنے کے الزامات کے بعد عالمی سطح پر شدید ردِعمل سامنے آ گیا ہے، جس کے نتیجے میں مختلف ممالک میں تحقیقات شروع کر دی گئی ہیں۔

غیر ملکی میڈیا رپورٹس کے مطابق، سوشل میڈیا پلیٹ فارم ایکس پر دستیاب اے آئی چیٹ بوٹ Grok اس وقت تنقید کی زد میں ہے۔

 الزام ہے کہ اس کے ایڈٹ امیج فیچر کے ذریعے عام تصاویر کو ڈیجیٹل طور پر تبدیل کر کے نازیبا شکل دی جا رہی ہے، جن میں خواتین اور بچوں کو نشانہ بنایا گیا۔

یہ معاملہ اس وقت مزید سنگین ہو گیا جب گزشتہ برس متعارف کرائے گئے Grok Imagine فیچر میں ایسے موڈز شامل ہونے کا انکشاف ہوا جو حساس اور فحش مواد بنانے کی صلاحیت رکھتے ہیں۔

 ایک تحقیق کے مطابق، دسمبر کے آخر اور جنوری کے آغاز کے درمیان بنائی گئی ہزاروں تصاویر میں سے بعض میں بچوں کو نامناسب انداز میں دکھایا گیا۔

xAI نے اپنے مؤقف میں کہا ہے کہ غیر قانونی مواد ہٹا دیا جاتا ہے، متعلقہ اکاؤنٹس معطل کیے جاتے ہیں اور قانون نافذ کرنے والے اداروں سے مکمل تعاون کیا جا رہا ہے۔

برطانیہ میں حکام نے اس مواد کو ناقابل قبول قرار دیتے ہوئے ریگولیٹر Ofcom سے وضاحت طلب کی، جبکہ پولینڈ میں ڈیجیٹل قوانین کو مزید سخت بنانے کا مطالبہ سامنے آیا۔

 یورپی یونین اور فرانس میں بھی اس معاملے کو جاری تحقیقات میں شامل کر لیا گیا ہے۔

بھارت نے ایکس کو 72 گھنٹوں کے اندر غیر قانونی مواد ہٹانے اور تفصیلی رپورٹ جمع کرانے کی ہدایت دی ہے، جبکہ ملائیشیا اور برازیل میں بھی باضابطہ تحقیقات کا آغاز ہو چکا ہے۔

ماہرین کے مطابق یہ واقعہ اے آئی ٹیکنالوجی کے غلط استعمال سے جڑے اخلاقی، قانونی اور سماجی خدشات کو نمایاں کرتا ہے اور مستقبل میں اس کے لیے سخت ضابطہ کاری ناگزیر ہو چکی ہے۔