ميتا تنبه الآباء إذا كان مراهقهم قد ناقش الانتحار أو إيذاء النفس مع روبوت المحادثة الذكي الخاص بها
أعلنت ميتا يوم الخميس أنها ستقوم الآن بإشعار الآباء إذا كانت مراهقتهم تتحدث عن الانتحار أو إيذاء النفس مع روبوت الدردشة الذكي ميتا AI. تقول ميتا إنها تعمل أيضًا على إمكانية الاتصال بخدمات الطوارئ إذا كانت محادثات شخص ما تشير إلى أنهم قد يكونون في خطر إيذاء النفس.
تأتي هذه التغييرات بعد أن تواجه ميتا وغيرها من شركات التكنولوجيا تدقيقًا من المنظمين والآباء حول كيفية استجابة روبوتات الدردشة الذكية للمستخدمين في أزمات، خصوصًا المراهقين — وهو سؤال يتعلق بالمسؤولية يؤثر بشكل متزايد في كيفية تصميم شركات الذكاء الاصطناعي وتسويق منتجاتها.
تقول ميتا إنها أنشأت نظامًا مخصصًا للذكاء الاصطناعي لتحديد المحادثات التي تشير بوضوح إلى رغبة المراهق في إيذاء نفسه.
اقرأ أيضاً
“نحن نفهم مدى الإحباط الذي قد يشعر به الآباء عند تلقي هذه التنبيهات,” كتبت ميتا في منشور على المدونة. “لهذا السبب، بينما نستمر في تحسين نظام الكشف لدينا، سيتم مراجعة جميع المحادثات التي يتم الإبلاغ عنها بواسطة الذكاء الاصطناعي لدينا يدويًا قبل إرسال التنبيه. إذا كانت نية المراهق غير واضحة، سنكون حذرين وسننبه الوالدين. بينما يعني ذلك أنه قد يتم إشعار الآباء في بعض الأحيان عندما لا يوجد سبب حقيقي للقلق، نشعر أن هذه هي النقطة البداية الصحيحة، وسنواصل المراقبة للتأكد من أننا في المكان الصحيح.”
هذه التنبيهات أصبحت متاحة الآن للآباء الذين يستخدمون ميزة الإشراف على الوالدين في إنستغرام في الولايات المتحدة وبريطانيا وأستراليا وكندا، وستتم طرحها عالميًا بحلول نهاية العام، وفقًا لما ذكرته ميتا.
يستند هذا التحديث إلى التنبيهات التي ترسلها ميتا بالفعل للآباء عندما يبحث مراهقهم بشكل متكرر عن مصطلحات الانتحار أو إيذاء النفس على إنستغرام. كما أنه يبني على ميزة تسمح للآباء برؤية المواضيع التي ناقشها مراهقهم مع ميتا AI خلال الأسبوع الماضي.
كما أعلنت ميتا أن إعداد “المحتوى المحدود” — الذي يتيح للآباء وضع مراهقيهم في تجربة أكثر تقييدًا على إنستغرام — ينطبق الآن أيضًا على ميتا AI. تم تدريب ميتا AI بالفعل لتجنب المحادثات الجنسية أو الرومانسية أو المناقشات المتعلقة بالكحول مع المراهقين، ويقوم إعداد المحتوى المحدود بتوسيع تلك الحماية من خلال جعل الروبوت يرفض مجموعة أوسع من الطلبات. لم تحدد ميتا ما تشمل هذه الطلبات الإضافية، ولكن TechCrunch قد طلبت من الشركة المزيد من المعلومات.
بالإضافة إلى ذلك، تقول ميتا إنها ستتصل بخدمات الطوارئ إذا كانت محادثة شخص ما مع ميتا AI، سواء كان المستخدم بالغًا أو مراهقًا، تشير إلى أن شخصًا ما قد يكون في خطر الانتحار. ومن الجدير بالذكر أن ميتا تتخذ بالفعل هذه الخطوة عندما ينشر شخص ما شيئًا على فيسبوك أو إنستغرام يشير إلى أنهم في خطر، لذا فإن هذا يمدد نفس الممارسة للمحادثات مع روبوت الدردشة الخاص بها.
عند شراءك من خلال الروابط في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلاليتنا التحريرية.