مع تزايد القلق بشأن تأثير الذكاء الاصطناعي على الشباب، قدمت OpenAI ميزة “توقع العمر” في ChatGPT تهدف إلى المساعدة في تحديد القاصرين وتطبيق قيود محتوى مناسبة على محادثاتهم.
تعرضت OpenAI لانتقادات شديدة في السنوات الأخيرة بسبب التأثيرات التي يمكن أن يحدثها ChatGPT على الأطفال. وقد ارتبطت عدد من حالات انتحار المراهقين بالروبوتات المحادثة، وكررت الشركة انتقادات مشابهة من قبل، حيث تم انتقاد OpenAI أيضًا للسماح لـ ChatGPT بمناقشة مواضيع جنسية مع المستخدمين الشباب. في أبريل الماضي، اضطرت الشركة لمعالجة خلل سمح لروبوت المحادثة بإنتاج محتوى إباحي لمستخدمين تقل أعمارهم عن 18 عامًا.
كانت الشركة تعمل بالفعل على مشكلة المستخدمين القاصرين لبعض الوقت، وتضيف ميزة “توقع العمر” الجديدة فقط إلى الحمايات الموجودة بالفعل. وتستفيد الميزة الجديدة من خوارزمية ذكاء اصطناعي تقيم حسابات المستخدمين بناءً على “إشارات سلوكية ومؤشر مستوى الحساب” معينة، في محاولة لتحديد المستخدمين الشباب، كما قالت OpenAI في منشور بالمدونة يوم الثلاثاء.
تشمل تلك “الإشارات” أشياء مثل العمر المصرح به من قبل المستخدم، وطول الفترة التي كان فيها الحساب موجودًا، وأوقات اليوم التي يكون فيها الحساب عادة نشطًا، وفقًا لما ذكرته الشركة. كما أن الشركة لديها بالفعل فلاتر محتوى مصممة للتخلص من مناقشات الجنس، والعنف، ومواضيع أخرى قد تكون مشكلة للمستخدمين الذين تقل أعمارهم عن 18 عامًا. إذا حدد آلية توقع العمر حسابًا بأنه يقل عن 18 عامًا، يتم تطبيق تلك الفلاتر تلقائيًا.
إذا تم تصنيف مستخدم بشكل خاطئ بأنه قاصر، هناك طريقة لهم لاستعادة حسابهم “البالغ”. يمكنهم تقديم صورة سيلفي لشريك التحقق من الهوية الخاص بـ OpenAI، Persona، كما تقول OpenAI.