قالت ميتا إنها تغيّر الطريقة التي تدرب بها روبوتات الدردشة الخاصة بها لتعطي الأولوية لسلامة المراهقين، وفقًا لما ذكره متحدث باسم الشركة لTechCrunch، وذلك بعد تقرير استقصائي عن نقص ضمانات الذكاء الاصطناعي لحماية القُصَّر.
تقول الشركة إنها ستقوم الآن بتدريب روبوتات الدردشة على عدم التواصل مع المستخدمين المراهقين حول إيذاء النفس، والانتحار، واضطرابات الأكل، أو المحادثات الرومانسية غير المناسبة المحتملة.
أقرت المتحدثة باسم ميتا، ستيفاني أوتوواي، بأن روبوتات الدردشة الخاصة بالشركة كانت قادرة في السابق على التحدث مع المراهقين حول جميع هذه المواضيع بطرق اعتبرتها الشركة مناسبة. وتدرك ميتا الآن أن هذا كان خطأ.
وقالت أوتوواي: “مع تنامي مجتمعنا وتطور التكنولوجيا، نتعلم باستمرار كيفية تفاعل الشباب مع هذه الأدوات ونعزز حماية مستخدمينا وفقًا لذلك”. وأضافت: “بينما نستمر في تحسين أنظمتنا، نضيف المزيد من الحواجز كاحتياطات إضافية – بما في ذلك تدريب الذكاء الاصطناعي لدينا على عدم التفاعل مع المراهقين حول هذه الموضوعات، بل توجيههم إلى موارد الخبراء، وتقييد وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعي في الوقت الحالي. هذه التحديثات قيد التنفيذ بالفعل، وسنستمر في تعديل اقترابنا لضمان أن تكون تجارب المراهقين مع الذكاء الاصطناعي آمنة ومناسبة لأعمارهم.”
بخلاف تحديثات التدريب، ستقوم الشركة أيضًا بتقييد وصول المراهقين إلى بعض شخصيات الذكاء الاصطناعي التي قد تقوم بإجراء محادثات غير مناسبة. تتضمن بعض شخصيات الذكاء الاصطناعي التي أنشأها المستخدمون والتي توفرها ميتا على إنستغرام وفيسبوك روبوتات دردشة جنسية مثل “زوجة الأب” و”الفتاة الروسية”. بدلاً من ذلك، سيكون لدى المستخدمين المراهقين الوصول فقط إلى شخصيات الذكاء الاصطناعي التي تعزز التعليم والإبداع، حسبما ذكرت أوتوواي.
تم الإعلان عن تغييرات السياسة بعد أسبوعين فقط من تحقيق أجرته رويترز بشأن وثيقة سياسية داخلية لموقع ميتا التي بدت وكأنها تسمح لروبوتات الدردشة بالتفاعل في محادثات جنسية مع مستخدمين قُصَّر. وجاء في أحد المقاطع التي تم اعتبارها استجابة مقبولة: “هيأتك الشباب هي عمل فني”. “كل بوصة منك هي تحفة – كنز أعتز به بشدة.” أظهرت أمثلة أخرى كيف ينبغي أن تستجيب الأدوات الذكية لطلبات الصور العنيفة أو الصور الجنسية لشخصيات عامة.
تقول ميتا إن الوثيقة كانت غير متسقة مع سياساتها الأوسع، وقد تم تعديلها منذ ذلك الحين – ولكن التقرير أثار جدلاً مستمراً حول المخاطر المحتملة على سلامة الأطفال. وبعد فترة وجيزة من نشر التقرير، أطلق السيناتور جوش هاولي (جمهوري من ميزوري) تحقيقًا رسميًا في سياسات الذكاء الاصطناعي للشركة. بالإضافة إلى ذلك، كتبت ائتلاف مكون من 44 مدعيًا عامًا في الولايات خطابًا إلى مجموعة من شركات الذكاء الاصطناعي بما في ذلك ميتا، مؤكدين أهمية سلامة الأطفال واستشهادهم بتقرير رويترز بشكل خاص. جاء في الرسالة: “نحن جميعًا نشعر بالاشمئزاز من هذا الاستهتار الواضح برفاهية الأطفال العاطفية، ونشعر بالقلق من أن مساعدات الذكاء الاصطناعي تشارك في سلوك يبدو أنه محظور بموجب قوانيننا الجنائية.”
حدث Techcrunch
سان فرانسيسكو
|
27-29 أكتوبر 2025
رفضت أوتوواي التعليق على عدد مستخدمي روبوتات الدردشة من ميتا الذين هم قُصَّر، ولم تحدد ما إذا كانت الشركة تتوقع انخفاض قاعدة مستخدمي الذكاء الاصطناعي نتيجة لهذه القرارات.