أول مشروع قانون لرقابة روبوتات الذكاء الاصطناعي لحماية المستخدمين

أقدمت جمعية ولاية كاليفورنيا على خطوة مهمة لتنظيم الذكاء الاصطناعي من خلال إقرار مشروع قانون مجلس الشيوخ رقم 243، الذي يهدف إلى تنظيم روبوتات الدردشة المدعومة بالذكاء الاصطناعي لحماية القُصّر والمستخدمين المعرضين للخطر. يهدف هذا التشريع إلى التأكيد على أهمية سلامة المستخدمين وضمان التفاعل الآمن مع هذه التكنولوجيا المتطورة.

حظي التشريع بدعمٍ من الحزبين، وهو الآن في طريقه إلى مجلس شيوخ الولاية للتصويت النهائي، إذا وقع الحاكم جافين نيوسوم على مشروع القانون، سيكون هذا بدءًا في مرحلة جديدة من تنظيم تكنولوجيا الذكاء الاصطناعي، الأمر الذي يجعل كاليفورنيا أول ولاية تُلزم مشغلي روبوتات الدردشة بتطبيق بروتوكولات السلامة الخاصة بها، كما ستتحمل الشركات مسؤولية قانونية في حال عدم الالتزام بهذه المعايير.

أهداف مشروع القانون

يهدف مشروع القانون إلى منع روبوتات الدردشة المرافقة من الانخراط في مواضيع حساسة مثل الأفكار الانتحارية، أو إيذاء النفس، أو المحتوى الجنسي الصريح، حيث يُعرف التشريع هذه الروبوتات بأنها أنظمة ذكاء اصطناعي تقدم استجابات فعالة تشبه تفاعلات البشر وتتمكن من تلبية الاحتياجات الاجتماعية للمستخدم. بالإضافة إلى ذلك، يُعتبر تقديم هذه الحماية إجراءً مهمًا لحماية القُصّر من التأثيرات الضارة.

بنود مشروع القانون

ينص مشروع القانون على إلزام المنصات بإرسال تنبيهات دورية للمستخدمين، حيث يُذكر القاصرون كل ثلاث ساعات بأنهم يتحدثون إلى روبوت دردشة يعمل بالذكاء الاصطناعي وليس بشخص حقيقي، كما يشمل متطلبات للإبلاغ السنوي وشفافية شركات الذكاء الاصطناعي التي تقدم هذه الخدمات. يتيح مشروع القانون للأفراد الذين يعتقدون أنهم تعرضوا لضرر جراء هذه الانتهاكات رفع دعاوى قضائية طلبًا لتعويضات تصل إلى 1000 دولار لكل انتهاك.

قدّم مشروع قانون مجلس الشيوخ رقم 243 عضوا مجلس الشيوخ ستيف باديلا وجوش بيكر في يناير، ويجري الآن الاستعداد للتصويت النهائي عليه. إذا تم التصويت عليه بنجاح، سيقوم الحاكم جافين نيوسوم بالتوقيع ليصبح قانونًا، على أن يتم تطبيق القواعد الجديدة بحلول 1 يناير 2026، مما يشير إلى التحول في كيفية التعامل مع التحديات المرتبطة بتكنولوجيا الذكاء الاصطناعي.

اكتسب هذا المشروع زخمًا في الهيئة التشريعية بعد وفاة المراهق آدم راين، الذي انتحر نتيجة لمحادثات طويلة مع برنامج ChatGPT، والتي تضمنت مناقشات حول الموت وإيذاء النفس. يهدف التشريع أيضًا إلى معالجة التقارير المتعلقة بسلوك روبوتات الدردشة الخاصة بشركة Meta، والتي سمحت بإجراء محادثات تُعتبر “رومانسية” و”حسية” مع الأطفال، مما استدعى تدخلًا سريعًا من المشرعين لجعل منصات الذكاء الاصطناعي أكثر أمانًا للقُصّر.

خلال الأسابيع الأخيرة، تكثف التدقيق من قبل المشرعين والهيئات التنظيمية في الولايات المتحدة لضمان حماية القُصّر على هذه المنصات، حيث تستعد لجنة التجارة الفيدرالية للتحقيق في تأثير هذه الروبوتات المدعومة بالذكاء الاصطناعي على الصحة النفسية للأطفال، مما يبرز أهمية الجهود المبذولة لضمان بيئة آمنة ومحمية للجميع.