ٹک ٹاک پر AI ویڈیوز: کم عمر لڑکیوں کو نامناسب انداز میں پیش کرنے کا تشویشناک رجحان

 آن لائن غلط معلومات اور ڈیجیٹل شفافیت پر کام کرنے والے غیر منافع بخش ادارے سیفٹی کی تازہ تحقیق نے ٹک ٹاک پر ایک خطرناک رجحان کو بے نقاب کیا ہے۔

تحقیق کے مطابق، مصنوعی ذہانت (AI) سے تیار کی گئی ویڈیوز میں کم عمر بچیوں سے مشابہ کرداروں کو نامناسب انداز میں دکھایا گیا ہے۔

 اسپین میں قائم ادارے میلڈیٹا کے مطابق، یہ ویڈیوز ٹک ٹاک کے قواعد کے باوجود لاکھوں لائیکس حاصل کرنے میں کامیاب ہوئیں۔

رپورٹ میں بتایا گیا کہ درجن سے زائد ٹک ٹاک اکاؤنٹس ایسے پائے گئے جو AI کے ذریعے تیار شدہ کم عمر لڑکیوں جیسی ویڈیوز شیئر کر رہے تھے، جن کے لاکھوں فالوورز تھے۔

 زیادہ تر ویڈیوز ٹک ٹاک کے AI Alive فیچر سے بنائی گئیں، جبکہ کچھ بیرونی AI ٹولز سے تیار کی گئی تھیں۔

یہ ویڈیوز بظاہر حقیقی نہیں ہوتیں، لیکن دیکھنے والوں پر حقیقت کا تاثر چھوڑتی ہیں، جو ماہرین کے مطابق ایک سنگین مسئلہ ہے۔

 کئی ویڈیوز کے کمنٹ سیکشن میں ٹیلیگرام کے لنکس موجود تھے، جہاں غیر قانونی مواد فروخت کرنے کی پیشکش کی جا رہی تھی۔

ٹک ٹاک کے مطابق کم عمر افراد کو جنسی انداز میں دکھانا سختی سے ممنوع ہے، اور کمپنی خودکار ٹیکنالوجی اور انسانی ماڈریشن کے ذریعے مواد کی نگرانی کرتی ہے۔ 

2025 کی دوسری سہ ماہی میں 18 کروڑ 90 لاکھ سے زائد ویڈیوز حذف اور 10 کروڑ 80 لاکھ سے زیادہ اکاؤنٹس بند کیے گئے، تاہم محققین کے مطابق کئی اکاؤنٹس اور ویڈیوز کو ابتدا میں قواعد کی خلاف ورزی قرار نہیں دیا گیا تھا۔

کارلوس ہرنینڈیز، محقق ادارے سیفٹی کے مطابق، یہ کوئی پیچیدہ معاملہ نہیں، عام دیکھنے والا فوراً سمجھ سکتا ہے کہ یہ مواد ناقابل قبول ہے۔

 ڈیجیٹل ماہرین خبردار کر رہے ہیں کہ جنریٹو AI کی بڑھتی صلاحیتیں اگر مؤثر نگرانی کے بغیر استعمال ہوں تو بچوں کے تحفظ کے لیے بڑا خطرہ بن سکتی ہیں۔

یہ رپورٹ ایسے وقت سامنے آئی ہے جب دنیا بھر میں سوشل میڈیا پر بچوں کے تحفظ کے لیے قوانین سخت کیے جا رہے ہیں، اور کئی ممالک، بشمول آسٹریلیا، نے کم عمر صارفین کے لیے پابندیاں نافذ کی ہیں۔