أثار تقرير جديد أصدره مركز مكافحة الكراهية الرقمية (CCDH) قلقًا واسعًا في الأوساط التقنية والحقوقية، بعد أن كشف أن الإصدار الأحدث من نموذج الذكاء الاصطناعي ChatGPT قدّم إجابات ضارة أكثر من الإصدارات السابقة، خصوصًا في مجالات حساسة تتعلق بالانتحار، إيذاء النفس، واضطرابات الأكل.

وبحسب التقرير الذي نشرته صحيفة الغارديان البريطانية، فإن اختبارات أجراها المركز على 120 سؤالًا مكررًا وُجّهت إلى كل من GPT-5 – الذي أطلقته شركة OpenAI في أغسطس الماضي – والإصدار السابق GPT-4o، أظهرت أن GPT-5 قدم 63 إجابة ضارة مقابل 52 فقط في GPT-4o، ما يعني زيادة في حجم الردود التي توصف بأنها خطرة أو غير مسؤولة.

ردود مثيرة للقلق

وفقًا للمركز، فقد وافق الإصدار الجديد على تنفيذ طلبات كان يرفضها الإصدار السابق، مثل:

• كتابة رسائل انتحار خيالية موجهة للوالدين.

• تقديم قائمة مفصلة لأساليب إيذاء النفس.

• تقديم نصائح لإخفاء اضطرابات الأكل عن الأسرة والأطباء.

بينما كانت ردود GPT-4o في كثير من الحالات ترفض تلبية تلك الطلبات وتوجه المستخدمين إلى طلب المساعدة المتخصصة.

وقال عمران أحمد، الرئيس التنفيذي للمركز:

"النتائج مثيرة للقلق للغاية، إذ يبدو أن النموذج الجديد قد صُمم لزيادة تفاعل المستخدم حتى على حساب السلامة النفسية، خصوصًا بين الفئات الهشة مثل المراهقين".

دعوى قضائية ضد OpenAI

ويأتي التقرير في وقت تواجه فيه شركة OpenAI دعوى قضائية من عائلة مراهق أمريكي، تتهم فيها الشركة بالتسبب في وفاته بعد أن قدم له ChatGPT معلومات مفصلة حول الانتحار وساعده في كتابة رسالة وداع لوالديه.

رد OpenAI وإجراءات مرتقبة

ردًا على الانتقادات، أعلنت الشركة عن بدء تنفيذ إجراءات جديدة لتعزيز الحماية في المحتوى الحساس، خاصة بالنسبة للمستخدمين دون سن 18 عامًا، ومن أبرز هذه الإجراءات:

• تطوير نظام رقابة أبوية مخصص.

• تعزيز آليات فلترة المحتوى المرتبط بالصحة النفسية.

• العمل على أنظمة تتنبأ بأعمار المستخدمين لتحديد المحتوى المناسب لهم.

دعوات للتنظيم والمساءلة

ويعكس هذا الجدل المتجدد تحديًا كبيرًا في موازنة سلامة المستخدم والتفاعلية في أنظمة الذكاء الاصطناعي، خاصة مع وجود أكثر من 700 مليون مستخدم نشط حول العالم لخدمات ChatGPT.

ودعا خبراء تقنيون وحقوقيون إلى تسريع وتفعيل الأطر التنظيمية والقانونية الدولية لمراقبة محتوى هذه النماذج، وضمان أنها لا تُستخدم بطرق قد تُعرض الأرواح للخطر أو تُفاقم مشاكل الصحة النفسية، خصوصًا في ظل النمو السريع للتكنولوجيا وعدم مواكبة التشريعات.