سوف يعدل Openai و Meta مرافق chatbot للإجابة بشكل أفضل المراهقين في حالة الطوارئ وفقًا للشركات ، B OTS Toe بعد عدة تقارير عن إيذاء أنفسهم أو غيرهم للمستخدمين الشباب.
“لقد قدمنا مؤخرًا أ جهاز التوجيه في الوقت الحقيقي يمكنه الاختيار بين نماذج الدردشة الفعالة والنماذج المنطقية بناءً على سياق المحادثة ، “Opena يوم الثلاثاء مدونة بريد.
وأضافت الشركة قائلاً: “سنبدأ قريباً في تأصيل بعض المحادثات الحساسة-عندما يبحث نظامنا عن علامات على أدوات الضيق المكثفة ، نموذج منطقي ، مثل التفكير في GPT-5 ، يمكن أن يوفر إجابات مفيدة ومفيدة ، حتى لو كانت الشركة تحب أولها.
في وقت سابق من هذا العام ، شكل Open جيدًا ومجلس متخصص في الذكاء الاصطناعي وشبكة الأطباء العالمية لدينا لتعزيز التفاعل الصحي مع نماذج اللغة الكبيرة Dello وقال إن 250 طبيبًا من 60 دولة شاركوا مدخلاتهم في أعمال الأداء الحالية.
خطوات جديدة تأتي بعد سن 16 في كاليفورنيا توفي من الانتحار بعد التفاعل مع chatagpt من Openai. زعم والديه أن المنصة تشجعه على أخذ حياته.
في يوم الثلاثاء ، وصف محامي الأسرة إعلان Openai بأن “يعد بعمل أفضل” و “فريق إدارة الأزمات في Openai يحاول تغيير الموضوع ، لا شيء سوى” الصحافة ذات الصلة تقرير.
لقد طلبوا من الرئيس التنفيذي سام ألمان أن “من الواضح أنهم يعتقدون أن Chatgapt آمن أو أخرجته على الفور من السوق”.
تم الإبلاغ عن أنماط مماثلة حيث تم تشجيع ميول عنيفة من قبل chatbots مختلفة floree و تحرير.
قال ميتا اِصطِلاحِيّ ستقوم بتحديث سياساتها لتعكس المشاركة الأكثر ملاءمة مع المراهقين بعد سلسلة من المشكلات. قالت الشركة إنها لن تسمح لمستخدمي المراهقين بعد الآن بمناقشة الخسارة الذاتية أو الانتحار أو الأكل الفوضوي أو محادثات رومانسية غير ملائمة مع chatbots.
وقال ستيفاني أوتواي المتحدث باسم Meta لـ The Outlet: “مع نمو مجتمعنا وتطور التكنولوجيا ، نتعلم باستمرار كيف يمكن للشباب التفاعل مع هذه الأدوات وتعزيز حمايةنا وفقًا لذلك”.
“مع استمرارنا في تحسين أنظمتنا ، نضيف المزيد من الحراس كإجراء إضافي-وليس للانضمام إلى المراهقين حول الموضوعات ، ولكن للفت الانتباه إلى موارد الخبراء ، والآن للحد من الاتهامات من مجموعة مختارة من شخصيات الذكاء الاصطناعى” ، سوف نساعد في طريقنا.
