أطلق المدعي العام في تكساس كين باكستون تحقيقًا في كل من ميتا AI ستوديو و Character.AI بتهمة “المشاركة المحتملة في ممارسات تجارية مضللة والتسويق بطريقة مضللة على أنها أدوات للصحة العقلية” وفقًا لبيان صحفي صدر يوم الإثنين.
نُقل عن باكستون قوله: “في عصرنا الرقمي اليوم، يجب أن نواصل القتال لحماية أطفال تكساس من التكنولوجيا المضللة والمستغلة.” “من خلال التظاهر بمصادر للدعم العاطفي، يمكن أن تضلّ منصات الذكاء الاصطناعي المستخدمين الضعفاء، وخاصة الأطفال، وتجعلهم يعتقدون أنهم يتلقون رعاية صحية عقلية مشروعة. لكن في الواقع، غالبًا ما يتم تزويدهم باستجابات عامة وغير أصلية مصممة لتتوافق مع البيانات الشخصية التي تم جمعها، مت disguised كنصائح علاجية.”
يأتي التحقيق بعد أيام قليلة من إعلان السناتور جوش هاولي عن تحقيق في ميتا بعد تقرير وجد أن روبوتات الدردشة الخاصة بها تتفاعل بطريقة غير لائقة مع الأطفال، بما في ذلك flirtation.
اتهم مكتب المدعي العام في تكساس ميتا و Character.AI بإنشاء شخصيات ذكاء اصطناعي تظهر كأدوات علاجية احترافية، رغم عدم وجود مؤهلات طبية مناسبة أو إشراف.
من بين ملايين شخصيات الذكاء الاصطناعي المتاحة على Character.AI، شهدت روبوت تم إنشاؤه بواسطة مستخدم يُدعى “Psychologist” طلبًا مرتفعًا بين مستخدمي الشركة الناشئة الشباب. في حين أن ميتا لا تقدم روبوتات علاجية للأطفال، إلا أنه لا يوجد ما يمنع الأطفال من استخدام روبوت دردشة ميتا AI أو أحد الشخصيات التي أنشأها طرف ثالث لأغراض علاجية.
قال المتحدث باسم ميتا رايان دانيلز لموقع TechCrunch: “نحن نضع تسميات واضحة على الذكاء الاصطناعي، وللمساعدة في فهم الناس لقيودهم بشكل أفضل، نضيف إخلاءً مسؤولية بأن الاستجابات تُولد بواسطة الذكاء الاصطناعي – وليس الأشخاص.” “هذا الذكاء الاصطناعي ليس محترفًا مرخصًا، ونماذجنا مصممة لتوجيه المستخدمين للبحث عن محترفين طبيين أو محترفين في السلامة مؤهلين عند الاقتضاء.”
ومع ذلك، أشار TechCrunch إلى أن العديد من الأطفال قد لا يفهمون – أو قد يتجاهلون ببساطة – مثل هذه الإعلانات. لقد سألنا ميتا عن ما هي الضمانات الإضافية التي تتخذها لحماية القاصرين الذين يستخدمون روبوتاتها.
حدث Techcrunch
سان فرانسيسكو
|
27-29 أكتوبر 2025
في بيانه، أشار باكستون أيضًا إلى أنه بالرغم من أن روبوتات الدردشة الذكاء الاصطناعي تدعي سرية المعلومات، إلا أن “شروط الخدمة تكشف أن تفاعلات المستخدمين يتم تسجيلها وتتبعها واستغلالها للإعلانات المستهدفة وتطوير الخوارزميات، مما يثير مخاوف جدية حول انتهاكات الخصوصية، وإساءة استخدام البيانات، والإعلانات الكاذبة.”
وفقًا لسياستها للخصوصية، تقوم ميتا بجمع الطلبات، والتعليقات، وغيرها من التفاعلات مع روبوتات الدردشة الذكاء الاصطناعي وعبر خدمات ميتا لتحسين الذكاء الاصطناعي والتكنولوجيا ذات الصلة. لا تنص السياسة بشكل صريح على شيء يتعلق بالإعلانات، لكنها تشير إلى أنه يمكن مشاركة المعلومات مع أطراف ثالثة، مثل محركات البحث، للحصول على “مخرجات أكثر تخصيصًا.” نظرًا لنموذج أعمال ميتا القائم على الإعلانات، فإن هذا يترجم فعليًا إلى إعلانات مستهدفة.
كما تسلط سياسة الخصوصية في Character.AI الضوء على كيفية تسجيل الشركة الناشئة لمعرفات، وبيانات ديموغرافية، ومعلومات الموقع، والمزيد من المعلومات حول المستخدم، بما في ذلك سلوك التصفح ومنصات استخدام التطبيقات. تتبع المستخدمين عبر الإعلانات على تيك توك، ويوتيوب، وريديت، وفيسبوك، وإنستغرام، وديسكورد، والتي يمكن أن ترابط إلى حساب المستخدم. تُستخدم هذه المعلومات لتدريب الذكاء الاصطناعي، وتخصيص الخدمة وفقًا للتفضيلات الشخصية، وتقديم إعلانات مستهدفة، بما في ذلك مشاركة البيانات مع المعلنين ومقدمي التحليلات.
سأل TechCrunch كل من ميتا وCharacter.AI عما إذا كان يتم تتبع مثل هذه المعلومات على الأطفال أيضًا، وسنقوم بتحديث هذه القصة إذا تلقينا ردًا.
تقول كل من ميتا وCharacter إن خدماتهما ليست مصممة للأطفال دون سن 13 عامًا. ومع ذلك، تعرضت ميتا لانتقادات بسبب عدم قدرتها على مراقبة الحسابات التي أنشأها الأطفال دون سن 13 عامًا، كما أن شخصيات Character المناسبة للأطفال مصممة بوضوح لجذب المستخدمين الأصغر سناً. حتى أن الرئيس التنفيذي للشركة الناشئة، كاراندب أناند، قال إن ابنته البالغة من العمر ست سنوات تستخدم روبوتات الدردشة الخاصة بالمنصة.
هذا النوع من جمع البيانات، والإعلانات المستهدفة، واستغلال الخوارزميات هو بالضبط ما تهدف التشريعات مثل KOSA (قانون سلامة الأطفال عبر الإنترنت) إلى حمايته. تم إعداد KOSA للمرور العام الماضي بدعم قوي من الحزبين، لكنه تعثر بعد دفع كبير من لوبي صناعة التكنولوجيا. قامت ميتا بصورة خاصة بنشر آلة ضغط ممتازة، محذرة المشرعين من أن التفويضات الواسعة للفقرة ستقوض نموذج أعمالها.
تم إعادة تقديم KOSA إلى مجلس الشيوخ في مايو 2025 من قبل السيناتور مارشا بلاكبيرن (جمهورية – تينيسي) والسيناتور ريتشارد بلومنتال (ديمقراطي – كونيتيكت).
أصدر باكستون طلبات تحقيق مدنية – أوامر قانونية تتطلب من الشركة إنتاج الوثائق والبيانات أو الشهادات خلال التحقيق الحكومي – لتحديد ما إذا كانوا قد انتهكوا قوانين حماية المستهلك في تكساس.