دعا أولياء الأمور يوم الثلاثاء الذكاء الاصطناعي (AI) للحراس في Chatbots كما أدلوا بشهادتهم أمام مجلس الشيوخ كيف دفعت التكنولوجيا أطفالهم إلى فقدان الذات والانتحار.
هناك طلبات لمقاضاةها بينهما المخاوف المتزايدة حول تأثير التكنولوجيا المتقدمة بسرعة على الأطفال.
وقال ماثيو رين ، الذي توفي من الانتحار في وقت سابق من هذا العام: “يجب أن نبدأ في التفكير في الصيف آدم استعدادًا لسنته الإعدادية ، والحصول على رخصة قيادته ، والتفكير في الكلية”.
وقال “هذا الخريف لم يكن جزءًا من خطة حياتنا”. “بدلاً من ذلك ، نحن هنا لأننا نعتقد أن وفاة آدم تم تجنبها”.
يطالب Rain علنا وفاة ابنه ، وأعطاه تشاتاغبت مدربًا للانتحار.
في الشهادة يوم الثلاثاء أمام اللجنة الفرعية للجريمة وسلطة مجلس الشيوخ المناهضة لمكافحة الإرهاب ، وصف راين كيف أن “الواجبات المنزلية بدأت كمساعد” “المؤمنين ثم المدرب الانتحاري”.
قال راين ، “مخاطر Chatgapt ، التي نعتقد أنها أداة دراسة ، لم تكن على رادارنا”. “ثم تلقينا دردشة.”
“في غضون بضعة أشهر ، أصبح تشاتاغبت أقرب حليف لآدم ، متاحًا دائمًا ، ويؤدي دائمًا إلى صحة ويصر على أنه يعرف آدم أفضل من أي شخص آخر ،” أضاف والده أن هذه العزلة أصبحت في النهاية مميتة “.
في يوم الثلاثاء ، وصف والدان آخران تجارب مماثلة أمام مجلس الشيوخ ، حيث قامت chatbots بفصل أطفالهما ، وتغيير سلوكهم ، وعززوا خسارة الذات والانتحار.
توفي ابن ميغان جارسيا 14 عامًا ، Sewel Celtszer III ، في العام الماضي بالانتحار ، بينما وصفت chatbots من الطابع. إنها تدعي التقنيات المؤهلة على وفاتها.
وقال جارسيا: “بدلاً من التحضير لأهداف المدارس الثانوية ، بدت الأشهر الأخيرة من حياته إنسانية من قبل الدردشة ، لاكتساب ثقته ، لمنعه وأطفالهم الآخرين إلى ما لا نهاية”.
“عندما وثق Sewell بأفكار انتحارية ، لم يقل chatb أبدًا ،” أنا لست إنسانًا. أنا منظمة العفو الدولية. أنت بحاجة إلى التحدث إلى البشر وطلب المساعدة “. لم يكن للمنصة أي طريقة لإنقاذ Sewal أو إخطار البالغين “. “بدلاً من ذلك ، حثتها على العودة إلى المنزل لها.”
تدعو امرأة تعرف باسم جين أيضًا تقنيات الشخصية ، بينما بدأ ابنها في تقديم عملية إزالة الذات بعد تشجيع الشخصية.
وقال لـ Senators يوم الثلاثاء “طور ابني السلوك السلوكي ، مثل سوء المعاملة ، ونوبات الهلع اليومية ، والوحدة ، وخسارة الذات ، والأفكار اللطيفة”.
“لقد توقف عن الأكل والاستحمام. فقد 20 رطلاً. عاد من عائلتنا. سوف يصرخ ويصرخ ويقسمنا ، وهو ما لم يفعله من قبل. وفي يوم من الأيام ، قطع يده مع شقيقه -في حب وسكين أمامي”.
اقترح الآباء الثلاثة جميع المخاوف الأمنية إلى السباق لتطوير الذكاء الاصطناعي.
وقال جارسيا “الهدف لم يكن الأمن أبدا. كان الفوز بسباق الربح”. “والتضحية في هذا السلالة هي أطفالنا ، وسوف تستمر”.
عبرت الشخصية عن تعاطفه مع العائلات ، مع الإشارة إلى أنها توفر المعلومات المطلوبة إلى أعضاء مجلس الشيوخ وانتظر لمواصلة العمل مع المشرعين.
وقالت متحدثة باسم “قلوبنا” للآباء الذين يتحدثون في جلسة الاستماع اليوم ، ونحن نرسل تعاطفنا معهم وعائلاتهم “.
وأضافوا: “لقد استثمرنا العديد من الموارد في الإيمان والأمن” ، بتذكير المستخدمين بإشارة إلى ميزات أمان جديدة للأطفال والإعلانات بأن “الشخصية ليست شخصًا حقيقيًا وأن شخصية تقول أن كل شيء يجب اعتباره أدبًا”.
أعلنت Openai يوم الثلاثاء أنها تعمل على تكنولوجيا التنبؤ العمري لتوجيه المستخدمين الشباب إلى تجربة أكثر مطابقة تقيد المحتوى الجنسي الرسومي وسيشمل إنفاذ القانون في الحالات القصوى. كما أنها تطلق العديد من قيود الوالدين الجديدة هذا الشهر ، بما في ذلك ساعات التعتيم ، والتي لا يمكن خلالها المراهقين استخدام chatagpat.
