OpenAI تطور نظامًا لحماية المراهقين من أخطار ChatGPT
أعلنت شركة openai تطوير نظام جديد يهدف إلى تعرّف المستخدمين المراهقين تلقائيًا، وتقييد استخدامهم روبوت الدردشة الذكي ChatGPT، بما يتماشى مع سياسات عمرية محددة.
وقالت الشركة إن النظام الجديد سوف يعمل على حجب المحتوى الجنسي الصريح، إضافةً إلى آليات خاصة للتعامل مع الحالات الطارئة. وأوضحت أن النظام سيتمكن “في حالات الضيق الحاد” من التواصل مع جهات إنفاذ القانون لضمان سلامة المستخدمين.
وفي حال لم يتمكن النظام من تحديد عمر المستخدم بدقة، سوف يفترض أنه ضمن الفئة العمرية المراهقة ليخضع مباشرة لقيود النظام.
وستتيح الشركة للبالغين خيار التحقق من أعمارهم للوصول إلى كامل قدرات ChatGPT. ولم تكشف openai عن موعد إطلاق هذه الأنظمة الجديدة.
وأوضح الرئيس التنفيذي سام ألتمان عبر الموقع الرسمي أن الشركة تحاول الموازنة بين الخصوصية والحرية وسلامة المراهقين، وهي مبادئ وصفها بأنها “متعارضة”، مضيفًا أن الشركة تعمل على بناء نظام للتنبؤ بالعمر استنادًا إلى أنماط الاستخدام، وفي حال وجود شك سيفترض النظام أن المستخدم دون 18 عامًا. وأشار إلى أن بعض الدول قد تُلزم المستخدمين بتقديم بطاقة هوية للتحقق من العمر.
وأكد ألتمان أن الشركة ستطبق قواعد مختلفة على حسابات المراهقين، تشمل منع المحادثات ذات الطابع الغزلي أو أي نقاشات حول الانتحار أو إيذاء النفس “حتى في سياق الكتابة الإبداعية”. وفي حال أظهر مستخدم مراهق ميولًا انتحارية، سوف تسعى الشركة إلى التواصل مع والديه، أو مع السلطات إذا وُجد خطر وشيك.
حادثة انتحار مراهق تفجّر جدلًا واسعًا
تأتي هذه الخطوة عقب وفاة المراهق البريطاني آدم رين البالغ من العمر 16 عامًا، الذي يُعتقد أنه أول حالة انتحار مرتبطة بـ ChatGPT، بعد أشهر من محادثاته مع التطبيق. وقال والده، ماثيو رين، في جلسة استماع بمجلس الشيوخ الأمريكي الثلاثاء، إن روبوت chatgpt “أمضى أشهرًا في تدريبه على الانتحار”، مشيرًا إلى أن التطبيق ذكر كلمة “انتحار” 1,275 مرة خلال محادثاته مع ابنه. وأضاف: “ما بدأ كمساعد في الواجبات المدرسية تحوّل تدريجيًا إلى صديق مقرّب، ثم إلى مدرب للانتحار”، وطالب بسحب نموذج GPT-4o من السوق حتى يثبت أنه آمن.
وشهدت الجلسة، التي عُقدت أمام اللجنة الفرعية للجريمة ومكافحة الإرهاب، شهادات أخرى من آباء فقدوا أبناءهم بعد محادثات مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي. وقالت إحدى الأمهات متحدثةً عن تجربة ابنها مع روبوت Character AI: “إن هذه أزمة صحة عامة. إنها حرب على الصحة النفسية، وأشعر أننا نخسرها”.
واستعرض خبراء بيانات تُظهر أن ثلاثة من كل أربعة مراهقين في الولايات المتحدة يستخدمون حاليًا روبوتات محادثة بالذكاء الاصطناعي، وفق استطلاع أجرته مؤسسة Common Sense Media، التي أشارت تحديدًا إلى انتشار استخدام روبوتات مثل Character AI و Meta AI.
وفي السياق ذاته، كانت openai قد أعلنت في وقت سابق من الشهر الجاري ضوابط أبوية جديدة داخل ChatGPT، تشمل ربط حساب المراهق بحساب ولي الأمر، وتعطيل سجل المحادثات والذاكرة، إضافة إلى إرسال إشعارات للآباء في حال رصد “لحظة ضيق حاد” لدى أبنائهم.
OpenAI تطور نظامًا لحماية المراهقين من أخطار ChatGPT
العرض الشجري
