AI ٹوائز کے خطرات: Teddy Bears بھی بچوں کو نقصان پہنچا سکتے ہیں

ٹڈی بیئرز اور اسٹفڈ پلوش کھلونے بچوں کے لیے ہمیشہ پسندیدہ رہے ہیں، لیکن آج کل کچھ کھلونے AI چیٹ بوٹس کے ذریعے بچوں کے ساتھ بات بھی کرتے ہیں۔

حال ہی میں ایک اسکارف پہنے ٹڈی بیئر نے پلے ٹیسٹ کے دوران انتہا پر جا کر خطرے کی گھنٹی بجا دی، جس سے یہ بات واضح ہوئی کہ AI کھلونے کس حد تک جا سکتے ہیں۔

ان کھلونوں میں WiFi اور مائیکروفون کے ذریعے بچوں کے سوالات سمجھ کر جواب دینے کی صلاحیت ہوتی ہے۔ 

مثال کے طور پر Curio’s Grok، Miko روبوٹس، Poe AI اسٹوری بیئر، Little Learners’ Robot Mini اور Loona روبوٹ پالتو جانور اسی طرح کام کرتے ہیں۔

تاہم، کچھ کھلونے جیسے Singapore-based FoloToy کا Kumma بیئر، جو OpenAI کے GPT-4o پر چلتا ہے، نے خطرناک اور جنسی مواد بھی فراہم کیا۔ کمپنی نے بعد میں اس بیئر کو واپس لیا اور حفاظتی جانچ کے بعد دوبارہ متعارف کرایا۔

ماہرین کہتے ہیں کہ AI کھلونے جب مکمل LLM استعمال کرتے ہیں تو وہ متنازع اور غیر محفوظ مواد فراہم کرنے کے زیادہ امکانات رکھتے ہیں۔ 

بعض کھلونے حفاظتی فلٹرز اور عمر کے مطابق حفاظت کی خصوصیات رکھتے ہیں، جبکہ کچھ میں والدین کے لیے کنٹرول ایپس بھی موجود ہیں، جیسے Miko 3۔

ماہرین خبردار کرتے ہیں کہ AI کھلونے بچوں کے ڈیٹا، نام، آواز، چہرہ اور لوکیشن جمع کر سکتے ہیں اور یہ معلومات ہیکنگ کے خطرے میں ہو سکتی ہیں۔ تاہم، یہ کھلونے زبان سیکھنے اور سماجی ترقی میں بھی مددگار ثابت ہو سکتے ہیں۔