أعلنت ميتا اليوم أنها ستوقف وصول المراهقين إلى شخصيات الذكاء الاصطناعي عالمياً عبر جميع تطبيقاتها. وذكرت الشركة أنها لا تتخلى عن جهودها، بل ترغب في تطوير نسخة محدثة من شخصيات الذكاء الاصطناعي للمراهقين، كما أفادت الشركة حصريًا لـ TechCrunch.
تأتي هذه الخطوة قبل أيام من بدء محاكمة ضد ميتا في نيو مكسيكو، حيث تُتهم الشركة بعدم بذل الجهود لحماية الأطفال من الاستغلال الجنسي في تطبيقاتها. ذكرت Wired يوم الخميس أن ميتا سعت لتقييد الاكتشاف المتعلق بتأثير وسائل التواصل الاجتماعي على الصحة النفسية للمراهقين، جنبًا إلى جنب مع القصص.
في أكتوبر، قدمت الشركة معايير للتحكم في شخصيات الذكاء الاصطناعي، مما يسمح للآباء والأوصياء بمراقبة المواضيع وحظر الوصول إلى شخصيات معينة. قالت ميتا إن الآباء سيكون بإمكانهم إيقاف المحادثات مع شخصيات الذكاء الاصطناعي تمامًا. كانت هذه الميزات مُقررة للإصدار هذا العام، لكن الشركة الآن توقف شخصيات الذكاء الاصطناعي تمامًا للمراهقين بينما تقوم بتحديث الشخصيات إلى نسخة جديدة.
قالت ميتا إنها تلقت ردود من الآباء تفيد بأنهم يريدون مزيدًا من الأفكار والسيطرة على تفاعلات مراهقيهم مع شخصيات الذكاء الاصطناعي، ولهذا السبب قررت إجراء هذه التغييرات.
كانت الشركة تتخذ إجراءات صارمة بشأن وصول المراهقين إلى المحتوى المتعلق بالذكاء الاصطناعي في تطبيقاتها. أيضًا في أكتوبر، أطلقت ميتا ميزات التحكم الأبوية على إنستغرام، مع التركيز على تخصيص تجربة المراهقين في التفاعل مع الذكاء الاصطناعي في تطبيقاتها. كانت هذه الميزات مستوحاة من تصنيف PG-13، حيث قيدت وصول المراهقين إلى مواضيع معينة مثل العنف الشديد، التعري، واستخدام المخدرات بشكل رسومي.
“بدءًا من الأسابيع القادمة، لن يتمكن المراهقون من الوصول إلى شخصيات الذكاء الاصطناعي عبر تطبيقاتنا حتى يكون التجربة المُحدثة جاهزة. هذا سيطبق على أي شخص قدم لنا تاريخ ميلاد مراهق، بالإضافة إلى الأشخاص الذين يدّعون أنهم بالغون ولكننا نشك في أنهم مراهقون بناءً على تقنية التنبؤ بالعمر لدينا”، كما قالت الشركة في منشور مدونة مُحدث.
أضافت ميتا أنه عندما تطلق الشخصيات الجديدة للذكاء الاصطناعي، سيكون لديها ميزات تحكم أبوية مدمجة. قالت الشركة إن الشخصيات الجديدة ستقدم ردودًا مناسبة للعمر وستلتزم بمواضيع مثل التعليم، الرياضة، والهوايات.
تحت المراقبة الشديدة من المنظمين، تواجه شركات وسائل التواصل الاجتماعي ضغوطًا شديدة. بخلاف القضية المذكورة سابقًا في نيو مكسيكو، تواجه ميتا أيضًا محاكمة الأسبوع المقبل، متهمة المنصة بإحداث الإدمان على وسائل التواصل الاجتماعي. من المتوقع أن يمثل الرئيس التنفيذي مارك زوكربيرغ كشاهد في تلك القضية بعد بدء المحاكمة.
بالإضافة إلى منصات التواصل الاجتماعي، كان على شركات الذكاء الاصطناعي تعديل تجربتها للمراهقين بعد مواجهة دعاوى قضائية تدعي أنها ساهمت في مساعدة الأذى الذاتي. في أكتوبر، منعت Character.AI، الشركة الناشئة التي تسمح للمستخدمين بالتحدث مع شخصيات ذكاء اصطناعي مختلفة، المحادثات مفتوحة النهاية مع الروبوتات للمستخدمين الذين تقل أعمارهم عن 18 عامًا. في نوفمبر، قالت الشركة إنها ستبني قصص تفاعلية للأطفال. خلال الأشهر القليلة الماضية، أضافت OpenAI قواعد جديدة للسلامة الخاصة بالمراهقين لـ ChatGPT وبدأت أيضًا في التنبؤ بعمر المستخدم لتطبيق قيود المحتوى.