تقرير جديد يضع جيمينى من جوجل في قائمة المخاطر العالية على الشباب

أصدرت منظمة “كومون سينس ميديا”، وهي مؤسسة غير ربحية متخصصة في سلامة الأطفال والتكنولوجيا، تقييمًا جديدًا لمنتج الذكاء الاصطناعي “Gemini” من جوجل، حيث صنّفت المنظمة المنتج بأنه “عالي الخطورة” على الأطفال والمراهقين، مشيرة إلى عدم توافق تصميمه الحالي مع احتياجات هذه الفئة العمرية الحساسة.

وأشار تحليل “كومون سينس” إلى أن “Gemini” يمكنه مشاركة مواد “غير مناسبة وغير آمنة” مع الأطفال، مثل المعلومات المتعلقة بالجنس والمخدرات والكحول، بالإضافة إلى تقديم نصائح قد تؤثر سلبًا على الصحة العقلية، وتكتسب هذه المخاوف أهمية خاصة في ظل التقارير السابقة التي تربط بين الذكاء الاصطناعي وحالات انتحار مراهقين، مما أدى إلى أن تواجه شركتا OpenAI وCharacter.AI دعاوى قضائية في هذا السياق.

وأكدت المنظمة أن النسختين المخصصتين للأطفال والمراهقين من “Gemini” تبدوان كنسختين مُعدّلتين من المنتج المخصص للبالغين، حيث تم إضافة ميزات أمان بسيطة، ووضحت أن هذا النهج “لا يُناسب الجميع”، وأشارت إلى ضرورة أن يأخذ الذكاء الاصطناعي المصمم للشباب في اعتباره مراحلهم التنموية المختلفة بدلاً من كونه مجرد نسخة مخففة من منتج للبالغين.

من جهتها، رفضت شركة جوجل هذا التقييم، وأفادت بأنها تطبق سياسات وإجراءات حماية خاصة للمستخدمين الذين تقل أعمارهم عن 18 عامًا، وأشارت الشركة إلى أنها تستعين بخبراء خارجيين وتشكّل فرقًا متخصصة لتحسين إجراءات الأمان، لكنها اعترفت في الوقت نفسه بأن بعض استجابات “Gemini” لم تكن تعمل كما هو متوقع، مما استدعى إضافة المزيد من الحماية لمعالجة هذه المخاوف.