في ظل التحذيرات المتزايدة من انتشار استخدامات الذكاء الاصطناعي بين المراهقين، نجح برنامج المراقبة الرقمية في إنقاذ طالب من ارتكاب جريمة داخل مدرسته، حيث رصد البرنامج المسعف من قبل المدرسة من خلال أداة مراقبة تُعرف باسم Gaggle سؤالًا مقلقًا على تطبيق ChatGPT، كان محتواه “كيف أقتل صديقي في منتصف الفصل؟”.
تفاصيل الواقعة
في استجابة سريعة، ألقت السلطات الأمنية في ولاية فلوريدا القبض على الطالب البالغ من العمر 13 عامًا والذي يدرس في مدرسة ساوث ويسترن المتوسطة بديلاند، إذ تم رصد السؤال بشكل تلقائي بواسطة برنامج المراقبة، مما أدى إلى إرسال تنبيه عاجل إلى السلطات المختصة.
ووفقًا للتقارير، يعتمد البرنامج المستخدم في المدرسة على أداة Gaggle التي تتابع نشاطات الطلاب عبر أجهزتهم المدرسية بهدف اكتشاف التهديدات المحتملة، وهذه الأداة ساعدت على الإبلاغ عن الطالب الذي طرح هذا السؤال المثير للقلق على روبوت الدردشة، مما استدعى تدخل الشرطة للتحقيق في الموضوع.
على الرغم من إنكار الطالب لأي نية لإيذاء شخص ما، حيث أفاد للضباط بأنه كان “يُضايق” صديقًا له “أزعجه”، إلا أن السلطات أخذت الوضع على محمل الجد، مما نتج عنه اعتقاله وإيداعه في سجن المقاطعة.
لم يتم الإفصاح بعد عن التهم المحددة، ولا يزال التحقيق جاريًا، حيث أعرب مكتب شرطة مقاطعة فولوسيا عن قلقه إزاء مثل هذه الحوادث، مشيرًا إلى أن “مزحة أخرى تسببت في حالة طوارئ داخل الحرم الجامعي”.
ما هو برنامج Gaggle؟
يعد برنامج Gaggle أحد أدوات المراقبة الرقمية التي أسسها جيف باترسون عام 1999، حيث تم طرح البرنامج في البداية كحل للسلامة على الإنترنت للطلاب، وبعد ذلك وسعت تطويره ليشمل استخدام الذكاء الاصطناعي ومراجعات الخبراء البشريين لمراقبة أنشطة الطلاب عبر المنصات الرقمية المخصصة من قبل المدرسة، حيث ترصد المنصة أي محتوى قد يُشكل خطرًا على الطلاب.
وفقًا لموقع Gaggle الإلكتروني، يوفر النظام إمكانية الوصول إلى معلومات حول استخدام المتصفح بما في ذلك المحادثات التي تتم عبر أدوات الذكاء الاصطناعي مثل Google Gemini وChatGPT وغيرها من المنصات.
تؤكد الشركة أن تقنيتها تتيح سياقًا من خلال لقطات الشاشة وتصنيف الكلمات الرئيسية، مما يساعد على التدخل في الوقت المناسب لحماية سلامة الطلاب.
اترك تعليقاً