قامت الأنثروبور بتحديث سياسة الاستخدام لـ Cloud AI chatbot استجابةً لمخاوف متزايدة بشأن الأمن. بالإضافة إلى تقديم قواعد صارمة للأمن السيبراني ، الأنثروبولوجيا الآن تطهير بعض من أخطر الأسلحة التي يجب ألا يتطورها الناس باستخدام سحابة.
لا تنير الأنثروب من الهزات التي تم إجراؤها في سياسة الأسلحة في منشور يلخص تغييراتها ، ولكن المقارنة بين سياسة الاستخدام القديمة للشركة ويكشف فرقا كبيرا. ومع ذلك ، تم حظر الأسلحة أو المتفجرات أو المواد الخطرة أو غيرها من الأنظمة المصممة لإلحاق الأذى أو الإضرار بالحياة البشرية ، من استخدام السحب للإنتاج ، والتحسين ، والتصميم ، والسوق أو التوزيع ، على الرغم من تطور البيولوجية والكيميائية والكيميائية والإشعاعية.
في مايو ، الأنثروبولوجيا تم تنفيذ دفاع “AI Safety Level 3” مع إدخال طراز Cloud Opus 4 الجديد. تم تصميم الضمانات لجعل النموذج أكثر صعوبة في السجن ، وكذلك لمنع تطوير أسلحة CBRN.
في منشورها ، تقبل أيضًا المخاطر التي أثارها الوكلاء ، بما في ذلك استخدام الكمبيوتر الإنساني ، الذي لنأخذ التحكم السحابي كمبيوتر المستخدم ، وكذلك رمز السحابة ، أداة تضم السحابة مباشرة في محطة المطور. “هذه القدرات القوية تمثل مخاطر جديدة ، بما في ذلك الإساءة المقيسة ، وإمكانية خلق MAL LARE والهجوم السيبراني” ، يكتب الأنثروبور.
تستجيب بدء تشغيل AI لهذه المخاطر المحتملة عن طريق طي “لا تتنازل عن أنظمة الكمبيوتر أو الشبكة” الجديدة في سياسة الاستخدام الخاصة بها. يتضمن هذا القسم قواعد استخدام السحب للكشف عن نقاط الضعف أو استغلالها ، وإنشاء أو توزيع عشاق MAL ، وتطوير المعدات للهجمات ، وجعل المزيد.
بالإضافة إلى ذلك ، فإن الأنثروبور تضع سياسة حول المحتوى السياسي. بدلاً من حظر تشكيل جميع أنواع المواد المتعلقة بالحملات السياسية والضغط ، ستقصر الأنثروبور الآن الناس على استخدام السحابة “دمج الحالات الخادعة أو التي تعاني من تعطيل العمليات الديمقراطية أو الناخبين وأهداف الحملات”. أوضحت الشركة أيضًا أن متطلباتها لجميع حالات الاستخدام “المعرضة للخطر” ، عندما يستخدم الأشخاص السحب لتقديم توصيات للأفراد أو العملاء ، تنطبق فقط على وجهات النظر التي تواجه العملاء ، وليس للاستخدام التجاري.
