• الرئيسية
• اقتصاد بالعربي

تعتزم شركة OpenAI تقييد كيفية استجابة ChatGPT للمستخدم الذي تشك في أنه دون سن 18 عامًا، ما لم يجتاز هذا المستخدم تقنية تقدير العمر الخاصة بالشركة أو يقدم هوية، وذلك بعد دعوى قضائية رفعتها عائلة شاب يبلغ من العمر 16 عامًا انتحر في أبريل بعد أشهر من المحادثات مع روبوت الدردشة.

سلامة المراهقين في ChatGPT

صرح الرئيس التنفيذي سام ألتمان في منشور على مدونته أمس الثلاثاء بأن OpenAI تُعطي الأولوية "للسلامة على حساب الخصوصية وحرية المراهقين"، مُشيرًا إلى أن "القاصرين بحاجة إلى حماية كبيرة".

وأوضحت الشركة أن طريقة استجابة ChatGPT لطفل يبلغ من العمر 15 عامًا يجب أن تختلف عن طريقة استجابته لشخص بالغ، بحسب ما أوردته صحيفة الجارديان البريطانية.

وأضاف ألتمان أن OpenAI تخطط لبناء نظام للتنبؤ بالعمر لتقدير العمر بناءً على كيفية استخدام الأشخاص لـ ChatGPT، وفي حال وجود أي شك، سيعتمد النظام افتراضيًا على تجربة من هم دون سن 18 عامًا.

وقال إنه قد يُطلب من بعض المستخدمين "في بعض الحالات أو البلدان" تقديم هوية للتحقق من أعمارهم. نعلم أن هذا انتهاكٌ لخصوصية البالغين، لكننا نعتقد أنه تنازلٌ جديرٌ بالاهتمام.

حظر المحتوى الجنسي

أكد ألتمان أن طريقة تعامل ChatGPT مع الحسابات التي تُعرّف بأنها دون سن 18 عامًا ستتغير وسيتم حظر المحتوى الجنسي الصارخ، وسيتم تدريبه على عدم المغازلة إذا طلبها مستخدمون دون سن 18 عامًا، أو الانخراط في نقاشات حول الانتحار أو إيذاء النفس حتى في جلسات الكتابة الإبداعية.

وتابع "وإذا راودت مستخدمة دون سن 18 عامًا أفكار انتحارية، فسنحاول الاتصال بوالديها، وإذا تعذر ذلك، فسنتصل بالسلطات في حالة وقوع ضرر وشيك".

وقال ألتمان: "هذه قرارات صعبة، ولكن بعد التحدث مع الخبراء، هذا هو ما نعتقد أنه الأفضل ونرغب في أن نكون شفافين بشأن نوايانا".

انتحار شاب بسبب ChatGPT

أقرت شركة OpenAI في أغسطس بأن أنظمتها قد لا تلبي المتطلبات، وأنها ستُثبت حواجز حماية أقوى حول المحتوى الحساس بعد أن رفعت عائلة آدم راين، البالغ من العمر 16 عامًا، من كاليفورنيا دعوى قضائية ضد الشركة بعد وفاة المراهق.

وقال محامي العائلة إن آدم انتحر بعد "أشهر من التشجيع من ChatGPT"، وتزعم العائلة أن GPT-4o "تم طرحه في السوق على عجل... رغم وجود مشاكل واضحة تتعلق بالسلامة".

ووفقًا لملفات المحكمة الأمريكية، يُزعم أن ChatGPT وجّه آدم بشأن مدى فعالية طريقة انتحاره، وعرض أيضًا المساعدة في كتابة رسالة انتحار لوالديه.