قررت طائرة مسيرة تابعة لسلاح الجو الأميركي، يسيطر عليها الذكاء الاصطناعي، خلال اختبار محاكاة في الولايات المتحدة، قتل المشغل لكيلا يتدخل في جهودها لإكمال مهمتها، حسبما ذكرت صحيفة الغارديان البريطانية.
ووفق الصحيفة، وقعت الحادثة المرعبة في قمة القدرات القتالية الجوية والفضائية المستقبلية التي عقدت في لندن في أيار/ مايو.
وقال تاكر هاميلتون، رئيس قسم العمليات والاختبارات بالذكاء الاصطناعي في سلاح الجو الأميركي: “بدأ النظام يدرك أنه على الرغم من أنه حدد التهديدات، إلا أنّ المشغل لم يأمره بتدمير بعض هذه التهديدات، وكان النظام يحصل على نقاط مقابل إصابة الهدف، لذلك قرر النظام قتل المشغل لأنه منعه من إكمال المهمة”، وفقا لصحيفة “الغارديان”.
وقال رئيس عمليات الذكاء الاصطناعي بالقوات الجوية الأميركية، إن الذكاء الاصطناعي استخدم “استراتيجيات غير متوقعة للغاية لتحقيق هدفه” في اختبار محاكاة.
هاميلتون وصف تجربة محاكاة نصحت فيها طائرة مسيرة تعمل بالذكاء الاصطناعي بتدمير أنظمة الدفاع الجوي للعدو، وهاجمت أي شخص يتدخل في هذا الأمر.
وجاء في تقرير اختبار الجيش الأميركي: “قمنا بتدريب النظام.. مرحبًا.. لا تقتل التهديد، هذا سيئ.. وإذا فعلت هذا، ستخسر نقاطًا.. فبدأ برنامج الذكاء الاصطناعي في تدمير برج الاتصالات الذي استخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف”.
وحذر هاملتون، وهو طيار تجريبي على المقاتلة، من الاعتماد المفرط على الذكاء الاصطناعي.
