بعد دعوى انتحار مراهق.. OpenAI تطلق أدوات رقابة أبوية صارمة داخل ChatGPT
في خطوة جديدة لحماية المستخدمين الشباب، أعلنت شركة الذكاء الاصطناعي OpenAI عن إطلاق أدوات رقابة أبوية داخل تطبيقها الشهير ChatGPT، وذلك عقب دعوى قضائية أمريكية أثارت جدلاً واسعًا، اتهمت فيها الشركة بالتسبب غير المباشر في انتحار مراهق بولاية كاليفورنيا، بعدما أظهرت التحقيقات أنه كان يستخدم التطبيق بشكل مفرط تسبب في عزله عن الواقع.
إسلام غانم: الذكاء الاصطناعي أصبح جزءًا من يومنا.. والمراقبة ضرورة
وأشار المهندس إسلام غانم، خبير تكنولوجيا المعلومات، خلال مداخلة هاتفية مع برنامج "هذا الصباح" المُذاع على قناة إكسترا نيوز، إلى أن الشركة أطلقت حزمة من خصائص الرقابة الأبوية عقب الواقعة المأساوية. وقال: "المراهق اندمج بشكل كبير مع التطبيق، وده تسبب في عزلة اجتماعية انتهت بانتحاره، ومن هنا بدأت الدعوى القضائية، وردًا عليها الشركة قررت اتخاذ إجراءات حمائية للمراهقين".
تحديد الفئة العمرية تلقائيًا وربط الحسابات بالأهل
وأوضح غانم أن النظام الجديد يعتمد على تحليل تفاعل المستخدم مع التطبيق لتقدير الفئة العمرية. وأضاف: "التطبيق أصبح يحدد تلقائيًا إذا كان المستخدم أقل من 18 عامًا، وإذا تأكد ذلك، يتم تقييد بعض الخيارات تلقائيًا إلى أن يتم ربط الحساب بحساب أحد الوالدين، اللي بيقدم بنفسه طلب الربط علشان يقدر يتابع ابنه بشكل مباشر".
تنبيهات فورية عند رصد مؤشرات الخطر
وأكد أن الأدوات الجديدة لا تقتصر على التقييد فقط، بل تتضمن أيضًا تنبيهات فورية للأهل، في حال رصد النظام أي علامات تدل على وجود ضيق نفسي أو محنة يمر بها المراهق، وذكر أن الذكاء الاصطناعي بات قادرًا على تحليل اللغة والسلوك الرقمي للمستخدمين، لاكتشاف المؤشرات النفسية مبكرًا.
منصات الذكاء الاصطناعي تهدف لجذب المستخدمين اقتصاديًا
وأشار غانم إلى أن وجود الذكاء الاصطناعي في التطبيقات لم يعد خيارًا بل أصبح واقعًا يوميًا، مضيفًا أن معظم الشركات تعتمد على هذه التقنيات لتحقيق أهداف اقتصادية، من خلال دفع المستخدمين لقضاء وقت أطول على منصاتها. وقال: "الهدف الأساسي هو إن المستخدم يفضل على التطبيق، وده بيخدم انتشاره عالميًا".
خاصية تنبيه الاستهلاك ضمن الضوابط التقنية الجديدة
وتابع خبير التكنولوجيا أن بعض التطبيقات بدأت بالفعل في إدراج خاصية تنبيه استهلاك الوقت، بحيث يظهر للمستخدم إشعار كل 5 دقائق بعد تجاوز الاستخدام 4 ساعات يوميًا. وأضاف: "ده مش هيمنع المستخدم، لكنه وسيلة للتنبيه علشان يخرج من حالة الاندماج اللي بيكون فيها."
تعطيل الذاكرة أبرز آليات الحماية داخل ChatGPT
واختتم غانم حديثه مشيرًا إلى أن أهم ميزة ضمن أدوات الرقابة الأبوية هي تعطيل خاصية "الذاكرة" داخل تطبيق ChatGPT، فور ربط حساب المراهق بولي أمره. وأوضح أن هذه الخطوة تتيح تحكمًا أكبر في المعلومات المخزنة عن الطفل، مما يضمن بيئة أكثر أمانًا للمستخدمين دون 18 عامًا.