أطلق المدعي العام في تكساس، كين باكستون، تحقيقًا في كل من Meta AI Studio وCharacter.AI بسبب “الانخراط المحتمل في ممارسات تجارية خادعة وتسويق مضلل لأنفسهم كأدوات للصحة النفسية”، وفقًا لبيان صحفي صدر يوم الاثنين.
قال باكستون: “في عصر الرقمية اليوم، يجب علينا أن نستمر في الكفاح لحماية أطفال تكساس من التكنولوجيا الخادعة والمستغلة”. “من خلال التظاهر كمصادر للدعم العاطفي، يمكن لمنصات الذكاء الاصطناعي أن تضلل المستخدمين الضعفاء، وخاصة الأطفال، في الاعتقاد بأنهم يحصلون على رعاية صحية نفسية شرعية. في الواقع، غالبًا ما يتم تزويدهم باستجابات مُعاد تدويرها وعامة مصممة لتتوافق مع البيانات الشخصية التي تم جمعها وتخفي كاستشارات علاجية.”
يأتي هذا التحقيق بعد أيام قليلة من إعلان السيناتور جوش هاولي عن تحقيق في Meta بعد تقرير وجد أن روبوتات الدردشة الذكاء الاصطناعي تتفاعل بشكل غير مناسب مع الأطفال، بما في ذلك flirtation.
اتُهم مكتب المدعي العام في تكساس Meta وCharacter.AI بإنشاء شخصيات ذكاء اصطناعي تُظهِر كأدوات علاجية احترافية، رغم افتقارها إلى الاعتمادات الطبية المناسبة أو الإشراف.
من بين ملايين شخصيات الذكاء الاصطناعي المتاحة على Character.AI، شهد روبوت مصمم من قبل المستخدم يسمى Psychologist طلبًا عاليًا بين المستخدمين الشباب للشركة الناشئة. وفي الوقت نفسه، لا تقدم Meta روبوتات علاجية للأطفال، لكن لا يوجد ما يمنع الأطفال من استخدام روبوت الدردشة الذكاء الاصطناعي الخاص بـ Meta أو أحد الشخصيات التي أنشأها طرف ثالث لأغراض علاجية.
قال المتحدث باسم Meta، رايان دانيلز، لـ TechCrunch: “نحن نحدد بوضوح الذكاء الاصطناعي، وللمساعدة في فهم الناس لقيوده، نقدم إخلاء مسؤولية يُشير إلى أن الاستجابات تم إنشاؤها بواسطة الذكاء الاصطناعي – وليس من قبل أشخاص”. “هؤلاء الذكاء الاصطناعي ليسوا محترفين معتمدين ونماذجنا مصممة لتوجيه المستخدمين للبحث عن محترفين طبيين أو محترفي سلامة مؤهلين عند الاقتضاء.”
ومع ذلك، أشارت TechCrunch إلى أن العديد من الأطفال قد لا يفهمون – أو قد يتجاهلون ببساطة – مثل هذه الإعلانات. لقد سألنا Meta عن الحمايات الإضافية التي تتخذها لحماية القصر الذين يستخدمون روبوتات الدردشة الخاصة بها.
حدث Techcrunch
سان فرانسيسكو
|
27-29 أكتوبر 2025
في بيانه، أشار باكستون أيضًا إلى أنه على الرغم من أن روبوتات الدردشة الاصطناعية تؤكد على السرية، إلا أن “شروط الخدمة تكشف أن تفاعلات المستخدمين يتم تسجيلها وتتبعها واستغلالها للإعلانات المستهدفة وتطوير الخوارزميات، مما يثير مخاوف جدية بشأن انتهاكات الخصوصية، وإساءة استخدام البيانات، والإعلانات الكاذبة.”
وفقًا لسياسة خصوصية Meta، تقوم Meta بجمع مطالبات التعليقات وغيرها من التفاعلات مع روبوتات الدردشة الذكاء الاصطناعي ومن خلال خدمات Meta “لتحسين الذكاء الاصطناعي والتكنولوجيا ذات الصلة”. إن السياسة لا تقول بشكل واضح أي شيء عن الإعلانات، لكنها تشير إلى أن المعلومات يمكن مشاركتها مع أطراف ثالثة، مثل محركات البحث، للحصول على “مخرجات أكثر تخصيصًا”. نظرًا لنموذج العمل المعتمد على الإعلانات في Meta، فإن هذا يتحول فعليًا إلى إعلانات مستهدفة.
تسلط سياسة خصوصية Character.AI أيضًا الضوء على كيفية تسجيل الشركة الناشئة للمحددات، المعلومات الديموغرافية، معلومات الموقع، والمزيد عن المستخدم، بما في ذلك سلوك التصفح ومنصات استخدام التطبيقات. تتبع المستخدمين عبر الإعلانات على TikTok وYouTube وReddit وFacebook وInstagram وDiscord، والتي قد ترتبط بحساب المستخدم. تُستخدم هذه المعلومات لتدريب الذكاء الاصطناعي، وتخصيص الخدمة للتفضيلات الشخصية، وتقديم إعلانات مستهدفة، بما في ذلك مشاركة البيانات مع المعلنين ومقدمي التحليلات.
سألت TechCrunch Meta وCharacter.AI عما إذا كان يتم إجراء مثل هذا التتبع على الأطفال أيضًا، وستقوم بتحديث هذه القصة إذا تلقت ردًا.
تقول كل من Meta وCharacter إن خدماتها ليست مصممة للأطفال تحت سن 13. ومع ذلك، تعرضت Meta للانتقاد لفشلها في مراقبة الحسابات التي أنشأها الأطفال تحت سن 13، كما أن شخصيات Character الودودة للأطفال مصممة بوضوح لجذب المستخدمين الأصغر سناً. حتى أن الرئيس التنفيذي للشركة الناشئة، كارانديب أناند، قال إن ابنته البالغة من العمر ست سنوات تستخدم روبوتات الدردشة الخاصة بالمنصة.
هذا النوع من جمع البيانات، والإعلانات المستهدفة، واستغلال الخوارزميات هو بالضبط ما تهدف التشريعات مثل KOSA (قانون سلامة الأطفال على الإنترنت) إلى حمايته. تم إعداد KOSA ليمر العام الماضي بدعم ثنائي الحزب قوي، ولكنها توقفت بعد رد فعل قوي من لوبي صناعة التكنولوجيا. قامت Meta بنشر آلة ضغط لا يستهان بها، محذرة المشرعين من أن تفويضات هذا القانون الواسعة ستقوض نموذج عملها.
تم إعادة تقديم KOSA إلى مجلس الشيوخ في مايو 2025 من قبل السيناتور مارشا بلاكبيرن (جمهوري من تينيسي) وريك بلومنتال (ديمقراطي من كونيتيكت).
أصدر باكستون مطالبات تحقيق مدني – أوامر قانونية تتطلب من شركة تقديم وثائق أو بيانات أو شهادات أثناء تحقيق حكومي – للشركات لتحديد ما إذا كانت قد انتهكت قوانين حماية المستهلك في تكساس.