أعلنت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، عن إطلاق أدوات رقابة أبوية جديدة لتطبيق ChatGPT، حيث تأتي هذه الخطوة في إطار جهود الشركة لتعزيز حماية الأطفال والمراهقين من المحتويات غير اللائقة، بهدف توفير بيئة أكثر أمانًا للناشئة.
دوافع تفعيل هذه الخاصية
كشفت الشركة لأول مرة عن نيتها إدخال هذه الضمانات الشهر الماضي، عقب حادث مأساوي تمثل في انتحار مراهق أثق في ردود أحد روبوتات الدردشة، لذا تعتبر هذه المبادرة استجابة مباشرة لتزايد المطالب بضرورة تعزيز الإجراءات الأمنية للقُصّر على منصات الذكاء الاصطناعي.
ربط حسابات المراهقين بالآباء
تتيح أدوات الرقابة الأبوية الجديدة للوالدين إمكانية ربط حساباتهم بحسابات أبنائهم المراهقين، حيث تتم العملية عبر إرسال دعوة من أحد الطرفين ليقبلها الآخر، وبعد إتمام الربط، يحصل الأهل على لوحة تحكم خاصة لإدارة إعدادات حساب المراهق، وفي حال ألغى القاصر الربط، يتلقى الوالد إشعارًا فوريًا بذلك.
من خلال هذه الأدوات، يستطيع الآباء التحكم في طريقة استخدام أبنائهم لـChatGPT، عبر تقييد بعض الخصائص أو تعطيلها بالكامل.
خصائص جديدة للتحكم في الاستخدام
تتضمن أبرز الميزات التي وفّرتها OpenAI ضمن التحديث الجديد:
| الميزة | الوصف |
|---|---|
| ساعات الهدوء | تحديد أوقات معينة يُمنع خلالها استخدام التطبيق |
| التحكم في الوضع الصوتي والذاكرة | تمكين أو تعطيل هذه الخيارات وفقًا لاحتياجات العائلة |
| إزالة ميزة إنشاء الصور | لمنع الوصول إلى المحتوى البصري غير المرغوب فيه |
| إلغاء الاشتراك في تدريب النموذج | لضمان عدم استخدام محادثات المراهقين في تحسين نماذج الشركة |
حماية افتراضية للقاصرين
ستحصل جميع حسابات المراهقين المرتبطة تلقائيًا على إعدادات أمان مشددة، حيث يتم تقليل ظهور المحتويات ذات الطابع الصريح أو العنيف، بالإضافة إلى الحد من الألعاب والأدوار الرومانسية أو التحديات الفيروسية الخطيرة، ولا يمكن تعديل هذه الإعدادات من قِبل القاصر، بينما يتاح للوالدين خيار تعطيلها.
نظام تنبيهات لمواجهة الأزمات النفسية
ابتكرت OpenAI آلية جديدة للإشعارات للأهل، تُفعّل عندما يرصد النظام علامات محتملة على مرور المراهق بضيق عاطفي أو التفكير في إيذاء نفسه، وذلك يساعد في تعزيز الأمان النفسي للمراهقين.
في هذه الحالات، تُرسل الرسائل إلى فريق من المراجعين البشريين، الذين يتواصلون مع الأهل عبر البريد الإلكتروني أو الرسائل النصية أو التنبيهات الفورية على الهواتف، وتُتيح هذه الميزة للآباء إلغاء الاشتراك إذا رغبوا في ذلك.
التوسع التدريجي للميزات
ذكرت OpenAI أن هذه الضوابط الأبوية متاحة حاليًا لمستخدمي ChatGPT عبر الويب في جميع أنحاء العالم، وهناك خطط لتوسيعها قريبًا لتشمل تطبيقات الهواتف الذكية، بينما لم يتم تحديد موعد توافرها على تطبيقات سطح المكتب بعد.
رؤية مستقبلية للأمان الرقمي
بالإضافة إلى هذه الإجراءات، تعمل OpenAI على تطوير نظام متقدم لتقدير أعمار المستخدمين باستخدام الذكاء الاصطناعي، حيث تتيح هذه التقنية إمكانية التنبؤ بما إذا كان العمر أقل من 18 عامًا ومن ثم تطبيق الضوابط والإعدادات المناسبة بشكل تلقائي.
من خلال هذه الخطوات، تسعى OpenAI إلى ترسيخ مكانتها كشركة مسؤولة لا تكتفي بتطوير أدوات الذكاء الاصطناعي، ولكنها تلتزم أيضًا بحماية الفئات الأكثر عرضة للمخاطر الرقمية، وأهمها الأطفال والمراهقون.