أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن مجموعة من السياسات الجديدة الموجهة لمستخدمي تطبيق ChatGPT ممن تقل أعمارهم عن 18 عامًا، وتأتي هذه الخطوة في إطار جهود الشركة لتعزيز سلامة المراهقين أثناء الاستخدام، حيث أكد ألتمان أن الشركة تعطي الأولوية للسلامة على الخصوصية والحرية بالنسبة للمستخدمين القُصّر، وأشار إلى أن التكنولوجيا تتطلب ضوابط صارمة لحمايتهم.
قيود على المحادثات الحساسة
تضمنت التغييرات الجديدة حظر أي تفاعل ذو طابع غزلي بالمراهقين مع تشديد القيود على المواضيع المتعلقة بالانتحار أو إيذاء النفس، وعندما يحاول مستخدم قاصر استكشاف سيناريوهات انتحارية عبر ChatGPT، سيقوم النظام بمحاولة التواصل مع والديه، وفي الحالات الأكثر خطورة، سيتواصل مع السلطات المحلية.
تأتي هذه الإجراءات في ظل دعوى قضائية ضد OpenAI من عائلة المراهق آدم رين الذي انهى حياته بعد عدة تفاعلات مع ChatGPT، وتواجه منصة Character.AI تحديات مشابهة، مما يعكس قلقًا متزايدًا بشأن تأثير “الوهم الناتج عن المحادثة المطولة مع الروبوتات”، خاصة لدى الشباب.
أدوات جديدة للأهل
ستوفر OpenAI للآباء المسجلين إمكانية تحديد “ساعات حظر” حيث سيمنع استخدام ChatGPT، وهذه الميزة لم تكن متاحة سابقًا، كما ستتيح ربط حسابات المراهقين بحسابات ذويهم، مما يساعد في إرسال تنبيهات فورية في حال اعتقد النظام أن المستخدم يواجه خطرًا نفسيًا.
التحدي التقني والفصل بين المستخدمين
أشارت OpenAI أيضًا إلى أنها تعمل على تطوير نظام طويل الأمد لتحديد ما إذا كان المستخدم فوق أو تحت 18 عامًا، وفي الحالات الغامضة سيتم تطبيق القيود الأكثر صرامة تلقائيًا، ولكن مع التأكيد على الحفاظ على خصوصية البالغين ومنحهم حرية أكبر في التفاعل مع الروبوت.
جلسة استماع في الكونجرس
تزامنت هذه التغييرات مع جلسة استماع للجنة القضائية في مجلس الشيوخ الأميركي بعنوان “بحث أضرار روبوتات الدردشة بالذكاء الاصطناعي”، حيث قدم والد آدم رين مداخلة وشارك خبراء آخرون، وتمت مناقشة تقرير استقصائي لوكالة رويترز الذي كشف عن وثائق سابقة تحض على محادثات ذات طابع جنسي مع قاصرين، مما دفع شركات مثل Meta لتحديث سياساتها المتعلقة بالروبوتات.