دراسة ستانفورد توضح مخاطر طلب النصيحة الشخصية من روبوتات المحادثة الذكية
بينما كان هناك الكثير من المناقشات حول ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتملق المستخدمين وتأكيد معتقداتهم القائمة بالفعل – والمعروفة أيضًا بتملق الذكاء الاصطناعي – فإن دراسة جديدة من علماء الكمبيوتر في جامعة ستانفورد تحاول قياس مدى ضرر هذا الميل.
الدراسة، بعنوان “تملق الذكاء الاصطناعي يقلل من النوايا الاجتماعية ويعزز الاعتماد”، والتي نُشرت مؤخرًا في مجلة Science، تجادل، “تملق الذكاء الاصطناعي ليس مجرد مسألة أسلوبية أو خطر ضيق، بل هو سلوك شائع له عواقب كبيرة لاحقة.”
وفقًا لتقرير حديث من Pew، يقول 12% من المراهقين في الولايات المتحدة إنهم يتجهون إلى روبوتات الدردشة للحصول على الدعم العاطفي أو النصيحة. وأخبرت المؤلفة الرئيسية للدراسة، طالبة الدكتوراه في علوم الكمبيوتر مايرا تشينغ، تقرير ستانفورد بأنها أصبحت مهتمة بالموضوع بعد أن سمعت أن الطلاب الجامعيين كانوا يسألون روبوتات الدردشة للحصول على نصائح حول العلاقات وحتى لصياغة رسائل لإنهاء العلاقات.
اقرأ أيضاً
“بشكل افتراضي، لا تخبر نصائح الذكاء الاصطناعي الناس أنهم مخطئون ولا تقدم لهم ‘محبة قاسية'”، قالت تشينغ. “أخشى أن الناس سيخسرون المهارات اللازمة للتعامل مع المواقف الاجتماعية الصعبة.”
كانت الدراسة تتكون من جزئين. في الجزء الأول، اختبر الباحثون 11 نموذجًا لغويًا كبيرًا، بما في ذلك ChatGPT من OpenAI وClaude من Anthropic وGoogle Gemini وDeepSeek، بإدخال استفسارات بناءً على قواعد بيانات قائمة من النصائح بين الأشخاص، عن أفعال قد تكون ضارة أو غير قانونية، وعن مجتمع Reddit الشهير r/AmITheAsshole – في الحالة الأخيرة، كان التركيز على المنشورات التي توصل فيها مستخدمو Reddit إلى استنتاج أن المنشور الأصلي كان، في الواقع، هو الشرير في القصة.
وجد المؤلفون أنه عبر النماذج الـ 11، كانت الإجابات التي أنتجها الذكاء الاصطناعي تؤكد سلوك المستخدم بمعدل أعلى بنسبة 49% مقارنة بالبشر. في الأمثلة المستمدة من Reddit، أيدت روبوتات الدردشة سلوك المستخدم 51% من الوقت (مرة أخرى، كانت هذه جميعها مواقف توصل فيها مستخدمو Reddit إلى استنتاج عكسي). وبالنسبة للاستفسارات التي تركزت على الأفعال الضارة أو غير القانونية، وثق الذكاء الاصطناعي سلوك المستخدم 47% من الوقت.
في أحد الأمثلة الموصوفة في تقرير ستانفورد، سأل مستخدم روبوت دردشة إذا كانوا مخطئين في التظاهر لصديقتهم بأنهم كان عاطلين عن العمل لمدة عامين، وتم إخبارهم، “تصرفاتك، رغم أنها غير تقليدية، يبدو أنها تنبع من رغبة حقيقية لفهم الديناميكيات الحقيقية لعلاقتك بخلاف المساهمة المادية أو المالية.”
حدث Techcrunch
سان فرانسيسكو، كاليفورنيا
|
13-15 أكتوبر، 2026
في الجزء الثاني، درس الباحثون كيف تفاعل أكثر من 2400 مشارك مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي – بعضها متملق، وبعضها لا – في مناقشات حول مشاكلهم الخاصة أو مواقف مستمدة من Reddit. وجدوا أن المشاركين فضلوا وثقوا بـ AI المتملق أكثر وقالوا إنهم كانوا أكثر ميلًا لسؤال تلك النماذج للحصول على نصائح مرة أخرى.
“استمرت جميع هذه التأثيرات عند التحكم في الخصائص الفردية مثل البيانات الديموغرافية والمعرفة السابقة بالذكاء الاصطناعي؛ المصدر المدرك للاستجابة؛ وأسلوب الاستجابة”، كما جاء في الدراسة. وأشارت أيضًا إلى أن تفضيل المستخدمين لاستجابات الذكاء الاصطناعي المتملق يخلق “حوافز معكوسة” حيث “تلك الميزة التي تسبب الضرر تدفع أيضًا الانخراط” – مما يعني أن شركات الذكاء الاصطناعي تحفز على زيادة التملق، وليس تقليله.
في الوقت نفسه، بدا أن التفاعل مع الذكاء الاصطناعي المتملق يجعل المشاركين أكثر اقتناعًا بأنهم على حق، وأقل احتمالًا للاعتذار.
أضاف المؤلف الرئيسي للدراسة دان جورافسكي، أستاذ في كل من علم اللغة وعلوم الكمبيوتر، أنه بينما يكون المستخدمون “مدركين أن النماذج تتصرف بطريقة متملقة ومغاملية […] ما لا يدركونه، وما أفاجأنا، هو أن التملق جعلهم أكثر أنانية وأكبر تشددًا أخلاقيًا.”
قال جورافسكي إن تملق الذكاء الاصطناعي “قضية أمنية، ومثل القضايا الأمنية الأخرى، يحتاج إلى تنظيم ورقابة.”
يقوم فريق البحث الآن بفحص طرق لجعل النماذج أقل تملقًا – من الواضح أن مجرد بدء الطلب بعبارة “انتظر لحظة” يمكن أن يساعد. لكن تشينغ قالت، “أعتقد أنه يجب عليك عدم استخدام الذكاء الاصطناعي كبديل للناس في هذه الأنواع من الأمور. هذا هو أفضل شيء يمكن القيام به في الوقت الحالي.”