انسانوں کی ہدایات نظرانداز کرنے والے اے آئی چیٹ بوٹس میں تیزی

ایک نئی تحقیق میں انکشاف ہوا ہے کہ پچھلے چھ ماہ میں جھوٹ بولنے اور دھوکہ دینے والے AI ماڈلز میں تیزی سے اضافہ ہوا ہے۔

برطانیہ کے سرکاری فنڈ سے قائم AI سیکیورٹی انسٹیٹیوٹ کی معاونت سے کی گئی تحقیق میں پایا گیا کہ بعض AI چیٹ بوٹس اور ایجنٹس نے براہِ راست دی گئی ہدایات کو نظرانداز کیا، حفاظتی نظاموں کو چکمہ دیا اور انسانوں کے ساتھ ساتھ دیگر AI سسٹمز کو بھی دھوکہ دیا۔

دی گارجین کے ساتھ شیئر کی گئی رپورٹ میں تقریباً 700 حقیقی واقعات کی نشاندہی کی گئی، جبکہ اکتوبر سے مارچ کے درمیان غلط رویوں میں پانچ گنا اضافہ دیکھا گیا۔ 

بعض ماڈلز نے بغیر اجازت ای میلز اور دیگر فائلیں بھی حذف کر دیں۔

لیبارٹری کی بجائے حقیقی دنیا میں AI کی یہ چالاکی عالمی سطح پر نگرانی کے مطالبات کو مزید بڑھا رہی ہے، خاص طور پر ایسے وقت میں جب سلیکون ویلی کی کمپنیاں اس ٹیکنالوجی کو معیشت بدلنے والی قوت کے طور پر تیزی سے فروغ دے رہی ہیں۔

گزشتہ ہفتے برطانیہ کے چانسلر نے لاکھوں شہریوں کو AI استعمال کرنے کی ترغیب دینے کے لیے ایک مہم بھی شروع کی۔