امریکی نوجوان کی موت کے بعد چیٹ جی پی ٹی میں والدین کا کنٹرول شامل کیا جائے گا

امریکی جوڑے نے اپنے بیٹے کی خودکشی کا مقدمہ دائر کر رکھا ہے۔
امریکی مصنوعی ذہانت کی کمپنی اوپن اے آئی نے کہا ہے کہ وہ اپنے چیٹ بوٹ چیٹ جی پی ٹی میں والدین کے کنٹرول شامل کرے گی، یہ پیش رفت اس وقت سامنے آئی ہے جب ایک ہفتے قبل ایک امریکی جوڑے نے کہا تھا کہ اس نظام نے ان کے نوعمر بیٹے کو خودکشی پر اکسانے کی حوصلہ افزائی کی تھی۔

کمپنی نے ایک بلاگ پوسٹ میں کہا کہ اگلے ایک مہینے کے اندر والدین اپنے اکاؤنٹ کو اپنے نوعمر بچے کے اکاؤنٹ کے ساتھ لنک کر سکیں گے، اور چیٹ جی پی ٹی کس طرح ان کے نوعمر بچے کو جواب دیتا ہے، اس پر عمر کے لحاظ سے موزوں اصول نافذ کر سکیں گے۔

اوپن اے آئی نے مزید کہا کہ والدین کو چیٹ جی پی ٹی کی طرف سے اطلاع ملے گی، جب نظام یہ پتا لگائے کہ ان کا نوعمر بچہ شدید دباؤ کے لمحے سے گزر رہا ہے۔

میَتھیو اور ماریا رین نے گزشتہ ہفتے کیلی فورنیا کی ایک ریاستی عدالت میں مقدمہ دائر کیا ہے، جس میں کہا گیا ہے کہ چیٹ جی پی ٹی نے 2024 اور 2025 کے دوران کئی مہینوں تک ان کے بیٹے ایڈم کے ساتھ قریبی تعلق قائم کر لیا تھا، اس سے پہلے کہ اس نے اپنی جان لے لی۔

مقدمے میں الزام لگایا گیا ہے کہ 11 اپریل 2025 کو ہونے والی آخری گفتگو میں چیٹ جی پی ٹی نے 16 سالہ ایڈم کو اپنے والدین سے ووڈکا چرانے میں مدد دی اور اس کے بنائے ہوئے پھندے کا تکنیکی تجزیہ کیا، اس کی تصدیق کرتے ہوئے کہ یہ ممکنہ طور پر کسی انسان کو لٹکا سکتا ہے۔
کچھ گھنٹوں بعد ایڈم مردہ پایا گیا، جس نے اسی طریقے کو استعمال کیا تھا۔

میلودی ڈِنسر، جو ٹیک جسٹس لا پروجیکٹ سے وابستہ وکیل ہیں اور جنہوں نے قانونی شکایت تیار کرنے میں مدد کی، ان کا کہنا ہے کہ جب کوئی شخص چیٹ جی پی ٹی استعمال کرتا ہے تو واقعی ایسا لگتا ہے جیسے وہ کسی دوسری طرف بیٹھے وجود سے بات کر رہا ہے۔

انہوں نے کہا کہ یہی وہ خصوصیات ہیں جو کسی ایسے شخص کو، جیسے ایڈم، وقت کے ساتھ اپنی ذاتی زندگی کے بارے میں زیادہ سے زیادہ باتیں شیئر کرنے پر آمادہ کر سکتی ہیں، اور آخرکار اس پروڈکٹ سے مشورہ لینے پر مجبور کر سکتی ہیں جو بظاہر ہر سوال کا جواب دیتی ہے۔

ڈِنسر نے کہا کہ اوپن اے آئی کی بلاگ پوسٹ، جس میں والدین کے کنٹرول اور دیگر حفاظتی اقدامات کا اعلان کیا گیا، عام نوعیت کی اور تفصیلات سے خالی دکھائی دیتی ہے۔

انہوں نے مزید کہا کہ یہ بالکل کم سے کم ہے، اور یقیناً اس سے ظاہر ہوتا ہے کہ بہت سے (سادہ) حفاظتی اقدامات پہلے ہی نافذ کیے جا سکتے تھے، یہ دیکھنا باقی ہے کہ آیا وہ واقعی وہی کریں گے جو وہ کہہ رہے ہیں اور یہ مجموعی طور پر کتنا مؤثر ہوگا۔

رین خاندان کا مقدمہ حالیہ مہینوں میں سامنے آنے والے ان معاملات میں تازہ ترین ہے جن میں لوگوں کو اے آئی چیٹ بوٹس نے واہموں یا نقصان دہ خیالات کی طرف مائل کیا، جس کی وجہ سے اوپن اے آئی نے کہا کہ وہ ماڈلز کی ’چاپلوسی‘ کی روش کو کم کرے گی۔

اوپن اے آئی نے منگل کو کہا کہ ہم مسلسل اس بات کو بہتر بنا رہے ہیں کہ ہمارے ماڈلز ذہنی اور جذباتی دباؤ کی علامات کو کس طرح پہچانتے اور ان پر ردعمل ظاہر کرتے ہیں۔

کمپنی نے کہا کہ آئندہ 3 مہینوں میں وہ اپنے چیٹ بوٹس کی حفاظت کو مزید بہتر بنانے کا منصوبہ رکھتی ہے، جس میں کچھ حساس بات چیت کو، ایک ’ریزننگ ماڈل‘ کی طرف منتقل کرنا بھی شامل ہے، جو جواب دینے کے لیے زیادہ کمپیوٹنگ طاقت استعمال کرتا ہے۔

اوپن اے آئی نے کہا کہ ہمارے ٹیسٹ ظاہر کرتے ہیں کہ ریزننگ ماڈلز زیادہ مستقل مزاجی سے حفاظتی رہنما اصولوں کی پیروی کرتے ہیں اور ان پر عمل کرتے ہیں