لقد وجد الباحثون بالفعل ضعفًا حاسمًا. بروتوكول NLWEB الجديد قدمت Microsoft صفقة كبيرة قبل بضعة أشهر على البناء. إنه بروتوكول يعتبر “HTML لموقع ويب للوكيل” للبحث مثل موقع ويب أو تطبيق. تحقق Microsoft في المراحل المبكرة من نشر NLWB مع العيوب الأمنية المحرجة ، في المراحل المبكرة من نشر NLWB مع عملاء مثل Shopife و Snowlac و TripAdviser.
يسمح خطأ أي المستخدمين عن بُعد بقراءة ملفات تكوين النظام والملفات الحساسة ، بما في ذلك مفاتيح Openai أو Gemini API. أسوأ شيء هو أنه مسار كلاسيكي لخلف فيليه ، أي سهلة الاستغلال لزيارة عنوان URL الملوث. لقد تغلبت شركة Microsoft على هذا العيب ، لكنها تثير أسئلة مفادها أن هناك شيئًا ما لم يكن أساسيًا كما تم أخذ هذا micros. تركيز اهتمام جديد كبير على أمان السرقة.
“إن دراسة الحالة هذه بمثابة تذكير حاسم بأنه مع إنشاء أنظمة جديدة ذات قوة منظمة العفو الدولية ، يجب أن نعيد تقييم تأثير نقاط الضعف الكلاسيكية ، والتي من المحتمل الآن أن نتوافق مع” الدماغ “ليس فقط الخوادم ، ولكن أيضًا عوامل الذكاء الاصطناعي ،” مخروط يقولباحثون في الأمن (جنبا إلى جنب مع Lei Wang) الذين أبلغوا عن اللوم على micros. غوان هو مهندس أمن سحابي كبير في Wise (نعم ، من الحكمة) ولكن تم إجراء هذا البحث بشكل مستقل.
أبلغ جوان ووانغ عن اللوم على Micros. FAT في 28 مايو ، بعد أسابيع قليلة من كشف النقاب عن NLWEB. أصدرت Microsoft إصلاحًا في الأول من يوليو ، لكنها لم تصدر CVE لهذه القضية – معيار الصناعة لتصنيف نقاط الضعف. يجبر باحثو الأمن MICROS .FFT على إصدار CVE ، لكن الشركة مترددة في القيام بذلك. سيحذر CVE المزيد من الأشخاص من الإصلاح والسماح للأشخاص بالتتبع بشكل أوثق ، على الرغم من أن NLWEB لا يستخدم على نطاق واسع.
يقول بن هوب ، المتحدث باسم Micro. حافة. “لا تستخدم Micros .FT الكود المتأثر في أي من منتجاتنا. العملاء الذين يستخدمون المستودع آمنون تلقائيًا.”
يقول Guan أن مستخدمي NLWEB “يجب عليهم سحب إصدار بناء جديد لإزالة الخطأ وإعطاء” ، وإلا فإن أي نشر NLWEB الذي يواجه عامًا “مفاتيح API مع ملفات .NV لا تزال حساسة للقراءة”.
عند تسريب ملف .env في تطبيق الويب ، يجادل Guan بأنه “كارثي” لوكيل الذكاء الاصطناعي. يقول جوان ، وهو محرك Jugn الخاص بالوكيل: “تحتوي هذه الملفات على مفاتيح API لـ LLMs مثل GPT-4”. “لا يوجد مهاجم يسرق ببساطة أوراق الاعتماد ؛ إنهم يسرقون تفكير الوكيل وسببه وقدرته على العمل ، مما يؤدي إلى إنشاء قدر كبير من الخسارة الاقتصادية أو استنساخ ضار من تعاطي API.”
Micros .FAT تتحرك أيضًا مع الدعم الأصلي لـ بروتوكول مرجع النموذج (MCP) في Windowsكل ذلك عندما يكون باحثو الأمن تحذير مخاطر MCP في الأشهر الأخيرة. إذا كانت عيوب NLWB تتحرك أي شيء ، فستحتاج Microsoft إلى اتباع نهج دقيق إضافي لضبط وتيرة طرح ميزات الذكاء الاصطناعى الجديدة ، وهي الأولوية الأولى ضد التمسك بالسلامة.
