“أنظمة العوامل الذكاء الاصطناعى يتم صنع سلاح.”
إنه أحد الأسطر الأولى لتقرير ذكاء التهديد الجديد في الإنسان ، والذي يوفر فيه اليوم السحابة – وربما الآخرون مجموعة واسعة من وكلاء الذكاء الاصطناعى والدردشة الأخرى – العديد من وكلاء الذكاء الاصطناعي والدردشة الأخرى.
أولا: “التمسك بالحيوية”. إن حلقة الجريمة الإلكترونية المتحضرة التي تقول إنثرثروبور إنها تعطل مؤخرًا استخدام وكيل ترميز الذكاء الاصطناعى في الإنسان ، لتسليط الضوء على بيانات ما لا يقل عن 17 منظمة مختلفة في جميع أنحاء العالم في غضون شهر واحد. تشمل الأطراف المخترقة أيضًا مؤسسات الرعاية الصحية وخدمات الطوارئ والمؤسسات الدينية والمؤسسات الحكومية.
وقال جاكوب كلاين ، فريق الاستخبارات في الإنسان ، “إذا كنت ممثلًا متحضرًا ، وإلا ، وإلا ، فإن فريقًا من الجهات الفاعلة المتحضرة ، مثل قضية وضع أجواء ، كان من الضروري إجراء الآن ، بمساعدة الأنظمة الزراعية”. حافة في مقابلة. وأضاف أنه في هذه الحالة ، كانت السحابة “تشغيل العملية من طرف إلى طرف”.
يكتب أنثروبسي في التقرير أنه في مثل هذه الحالات ، تعمل الذكاء الاصطناعى كمستشار فني ومشغل نشط ، مما يتيح الهجمات التي تجعل الفنانين الأفراد أكثر صعوبة والوقت المطالب بالعمل أنفسهم “. على سبيل المثال ، تم استخدام الغيوم خصيصًا لكتابة “من الناحية النفسية. جميع متطلبات الابتزاز المستهدفة”. ثم ابحث عن الكريمات الإلكترونية. البيانات – التي تشمل بيانات الرعاية الصحية والمعلومات المالية وبيانات الاعتماد الحكومية وأكثر من ذلك – ستكون ذات قيمة على شبكة الويب المظلمة وتتطلب فدية تزيد عن 500000 لكل شيء.
وقال كلاين “هذا هو الاستخدام الأكثر عملية للعوامل التي رأيتها في الجريمة الإلكترونية”.
في دراسة الحالة الثانية ، سحابة لتمويل عمال تكنولوجيا المعلومات في كوريا الشمالية في برنامج الأسلحة في البلاد لتمويل الولايات المتحدة. ساعد في فورتشن 500 شركات للحصول على وظائف احتيالية. عمومًا ، في مثل هذه الحالات ، تحاول كوريا الشمالية الاستفادة من الأشخاص في ساق الكلية ، أو لديها بعض القدرة على التواصل لكل قادة باللغة الإنجليزية – ولكن في هذه الحالة ، في هذه الحالة ، فإن عائق شعب الكوريين الشماليين لتمرير المقابلات الفنية ثم الحفاظ على وظائفهم منخفضة للغاية.
بمساعدة Cloud ، قال Klein: “نرى أن الأشخاص الذين لا يعرفون كيفية كتابة التعليمات البرمجية ، لا يعرفون كيفية التواصل بشكل احترافي ، ويريدون القليل من المعرفة عن اللغة الإنجليزية أو الثقافة ، الذين يطلبون من السحابة أن يفعلوا كل شيء … وبعد أن يصلوا إلى الوظيفة ، يقومون بمعظم العمل حقًا.”
تتضمن دراسة الحالة الثانية فضيحة رومانسية. يعلن Telegram B OTT مع أكثر من 10،000 مستخدم شهريًا عن السحابة كـ “نموذج EQ عالي” ، للمساعدة في إنتاج رسائل ذكية عاطفيًا ، بوضوح للاحتيال. في الولايات المتحدة ، مكنت اليابان وكوريا ضحايا الضحايا واطلب منهم المال ، وكتابة المتحدثين الإنجليز غير الأصليين كتابة رسائل مقنعة ومثيرة للإعجاب. في مثال في التقرير ، قام المستخدم بتحميل صورة الرجل في ربطة عنق وسأل كيفية تقديرها.
في التقرير ، تقر الأنثروبور نفسها بأن الشركة قد طورت تدابير سلامة وأمن متطورة لمنع إساءة معاملة الذكاء الاصطناعي ، وعلى الرغم من أن الخطوات “فعالة بشكل عام” ، إلا أن الفنانين السيئين لا يزالون قادرين على العثور على الطرق المحيطة. تقول الأنثروبور إن AIA قد قللت من العقبات التي تحول دون دولة الجرائم الإلكترونية ، وأن الفنانين السيئين يستخدمون التكنولوجيا لضحايا الملف الشخصي ، وأتمتة ممارساتهم ، وصنع هويات كاذبة ، وتحليل البيانات المسروقة ، وسرقة معلومات بطاقة الائتمان والمزيد.
لا يمكن لشركات الذكاء الاصطناعى في كل من التقارير في التقرير أن تحتفظ بالمخاطر الاجتماعية المرتبطة بالتكنولوجيا التي تنشئها ووضعها في العالم. يقول التقرير “على الرغم من أن تدريس الحالة أدناه يعكس الطريقة المستمرة للسلوك في جميع نماذج AI الحدودية”.
وقالت أنثروبسي ، بالنسبة لكل دراسة حالة ، تم حظر الحسابات المرتبطة بها ، أو تصنيفات جديدة أو تدابير التحقيق الأخرى ، وأكدت المعلومات المشتركة مع الوكالات الحكومية المناسبة مثل وكالات الاستخبارات أو إنفاذ القانون. وقال أيضًا إن دراسات الحالة التي شاهدها فريقه كانت جزءًا من تغيير واسع النطاق في خطر الذكاء الاصطناعي.
وأضاف كلاين ، “لقد حان هذا التحول حيث لا تكون أنظمة الذكاء الاصطناعي مجرد chatbot لأنها يمكنها الآن اتخاذ خطوات متعددة ،” أضاف كلاين ، “قادرًا حقًا على اتخاذ إجراء أو نشاط كما يراه هنا.”
