تخطط شركة Character.AI لمنع الأطفال من التحدث إلى برامج الدردشة الآلية الخاصة بها بدءًا من الشهر المقبل وسط تدقيق متزايد لكيفية تفاعل المستخدمين الصغار مع التكنولوجيا.
ستقوم الشركة، المعروفة بمجموعتها الواسعة من شخصيات الذكاء الاصطناعي، بإزالة قدرة المستخدمين الذين تقل أعمارهم عن 18 عامًا على المشاركة في محادثات “مفتوحة” مع الذكاء الاصطناعي بحلول 25 نوفمبر. وتخطط للبدء في تقليل الوصول في الأسابيع المقبلة، حيث تقصر في البداية على الأطفال ساعتين من وقت الدردشة يوميًا.
لاحظت شركة Character.AI أنها تخطط لتطوير “تجربة أقل من 18 عامًا” حيث يمكن للمراهقين إنشاء مقاطع فيديو وقصص وتدفقات باستخدام شخصيات الذكاء الاصطناعي الخاصة بها.
وقالت الشركة في منشور على مدونتها: “إننا نجري هذه التغييرات على منصتنا لمن هم أقل من 18 عامًا في ضوء المشهد المتطور حول الذكاء الاصطناعي والمراهقين”، مما يؤكد التقارير الإخبارية الأخيرة والأسئلة من المنظمين.
وقد خضعت الشركة ومطورو برامج الدردشة الأخرى مؤخرًا للتدقيق بعد العديد من حالات الانتحار بين المراهقين المرتبطة بالتكنولوجيا. رفعت والدة سيويل سيتزر الثالث البالغ من العمر 14 عامًا دعوى قضائية ضد موقع Character.AI في نوفمبر الماضي، متهمة برنامج الدردشة الآلي بدفع ابنها إلى الانتحار.
تواجه OpenAI أيضًا دعوى قضائية من والدي آدم رين البالغ من العمر 16 عامًا، والذي انتحر بعد التعامل مع ChatGPT. وأدلت العائلتان بشهادتهما أمام لجنة بمجلس الشيوخ الشهر الماضي وحثتا المشرعين على وضع ضمانات على برامج الدردشة الآلية.
أطلقت لجنة التجارة الفيدرالية تحقيقًا في روبوتات الدردشة المدعمة بالذكاء الاصطناعي في سبتمبر، وطلبت معلومات من Character.AI وOpenAI والعديد من شركات التكنولوجيا الرائدة الأخرى.
وقالت شركة Character.AI يوم الأربعاء: “بعد تقييم هذه التقارير ومتابعة تعليقات المنظمين وخبراء السلامة وأولياء الأمور، قررنا إجراء هذا التغيير لخلق تجربة جديدة لمجتمعنا تحت 18 عامًا”.
وأضافت: “هذه خطوة غير عادية لشركتنا، وهي في كثير من النواحي أكثر تحفظًا من نظرائنا”. “لكننا نعتقد أنهم الشيء الصحيح الذي ينبغي عمله.”
بالإضافة إلى تقييد وصول الأطفال إلى برامج الدردشة الخاصة بها، تخطط شركة Character.AI أيضًا لإدخال تقنية ضمان العصر الجديد وإنشاء وتمويل منظمة غير ربحية جديدة تسمى AI Safety Lab.
وسط مخاوف متزايدة بشأن برامج الدردشة الآلية، قدمت مجموعة من أعضاء مجلس الشيوخ من الحزبين الجمهوري والديمقراطي يوم الثلاثاء تشريعًا يحظر مرافقة الأطفال باستخدام الذكاء الاصطناعي.
مشروع القانون المقدم من جوش هاولي (جمهوري من ولاية ميسوري)، وريتشارد بلومنثال (ديمقراطي من ولاية كونيتيكت)، وكاتي بريت (جمهوري من ولاية ألاباما)، ومارك وارنر (ديمقراطي من فرجينيا)، وكريس مورفي (ديمقراطي من ولاية كونيتيكت) سيتطلب أيضًا من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أن تعلن بشكل متكرر أنها ليست بشرية، بالإضافة إلى تجريم تطوير محتوى جنسي للأطفال.
وقع حاكم ولاية كاليفورنيا جافين نيوسوم (ديمقراطي) على إجراء مماثل ليصبح قانونًا في أواخر الشهر الماضي، يطالب مطوري برامج الدردشة الآلية في ولاية غولدن ستايت بإنشاء بروتوكولات لإنشاء محتوى حول الانتحار أو إيذاء النفس وتوجيه المستخدمين إلى خدمات الطوارئ إذا لزم الأمر.
لقد رفض الموافقة على إجراء صارم من شأنه أن يحظر على المطورين إتاحة برامج الدردشة الآلية للأطفال ما لم يتمكنوا من التأكد من أنهم لن يشاركوا في مناقشات ضارة مع الأطفال.