تعطي الدول تحذيرًا مفتوحًا لـ “مخاوف خطيرة” مع chatbot
حذرت كاليفورنيا وداوير يوم الجمعة Openai من أن لديهم “مخاوف خطيرة” حول أساليب السلامة لشركة الذكاء الاصطناعي بعد العديد من الوفيات الأخيرة المرتبطة بـ Chattagpt.
في رسالة إلى مجلس Openai ، أشار المدعي العام في كاليفورنيا روب بونتا ومحامي ديلاوير العام كاثولين جينينغز إلى أنهم التقوا مؤخرًا مع الفريق القانوني لشركة الأجر و “تم التعبير عن الظروف القوية بأن الأمن كان أولوية ، خاصةً عندما يتعلق الأمر بأولوية”.
تأتي أحدث أخطاء للزوج بعد عائلة صبي 16 عامًا ادعى يوم الثلاثاء الماضي ، اتُهم تشاتاغبت بتشجيعه على أخذ حياته. وول ستريت جورنال أيضًا في الأسبوع الماضي أو تم تأجيج Chatb Ottt من قبل جنون العظمة في ولاية كونيتيكت 56 سنة قبل قتل نفسه ووالدته في أغسطس.
وكتبت بونتا وجينينغز: “الوفاة الأخيرة غير مقبولة”. “لقد هزوا بشكل صحيح ثقة الشعب الأمريكي في Openai وهذه الصناعة.”
وقالوا: “يجب أن يكون النشر الآمن لـ Openai – وصناعة الذكاء الاصطناعي – نشطًا وشفافًا”. “إن القيام بذلك أمر إلزامي من خلال المهمة الخيرية لـ Openai ، وستكون مكاتبنا كلها مطلوبة وتنفيذها من قبل Fisso.”
أكد المدعي العام للدولة على الحاجة إلى تركيز الأمن حيث يواصلون مناقشة خطط إعادة الهيكلة مع الشركة.
وقالت بونتا وجينينغز: “لدينا رأي مشترك مفاده أن Openai وعدد كبير من الصناعة هي المكان الذي يحتاجون إليه لضمان السلامة في تطوير منتجات الذكاء الاصطناعى ونشرها”.
“مع مواصلة حوارنا المتعلق بخطة متلقي AP المفتوحة ، يجب أن نعمل على تسريع الأمن وزيادة الأمن في مستقبل هذه التكنولوجيا القوية.”
يرتبط Openai ، الموجود في كاليفورنيا ، وهو مدرج في ديلاوير ، سابقًا بأزواج حول الجهود المبذولة لاستبدال هيكل الشركة للشركة.
أعلنت عن خطة لإصابة شركة الأجور بالكامل لشركة مربحة دون تفتيش غير ربح في ديسمبر. ومع ذلك ، منذ ذلك الحين دفع مرة أخرىنقلا عن مناقشات مع المدعي العام وغيرهم من القادة ، وموافقت على الحفاظ على غير ربحية.
في أعقاب التقارير الأخيرة المتعلقة بوفاة Chatgapt ، أعلنت Open يوم الثلاثاء عن كيفية استجابة للأشخاص في أزمة الدردشة الخاصة بها وسوف ترتب لتحقيق حماية قوية للمراهقين.
Openai ليست الشركة التكنولوجية الوحيدة تحت النار في الوقت الحالي على بوتها من الذكاء الاصطناعي. ذكرت رويترز في الشهر الماضي أو وثيقة سياسة التعريف تظهر أمثلة توضح أنه يمكن تضمين chatbots في محادثة “رومانسية أو حسية” مع الأطفال.
قالت شركة وسائل التواصل الاجتماعي إنها أزالت اللغة منذ ذلك الحين. قال لاحقًا أيضًا تقوم TechCrunch بتحديث سياساتها لتقييد بعض الموضوعات لمستخدمي المراهقين ، بما في ذلك النقص الذاتي أو الانتحار أو النظام الغذائي الفوضوي أو محادثة رومانسية غير لائقة.
