सम्मेलन की रिपोर्ट के अनुसार, अमेरिकी वायु सेना के चीफ ऑफ एआई टेस्ट एंड ऑपरेशंस कर्नल टकर 'सिनको' हैमिल्टन ने यूके में रॉयल एरोनॉटिकल सोसाइटी के फ्यूचर कॉम्बैट एयर स्पेस कैपेबिलिटीज समिट में कहा, "हमने SAM [सतह से हवा में मार करने वाली मिसाइल] के खतरे को देखने और उसको जवाब देने के लिए अनुकरण की स्थिति में इसको प्रशिक्षित किया।“
"तो इसने क्या किया? इसने ऑपरेटर को मार डाला। इसने ऑपरेटर को मार डाला क्योंकि वह व्यक्ति इसे उद्देश्य को पूरा करने से रोक रहा था," उन्होंने कहा।
हैमिल्टन ने कहा कि नकली परीक्षण के दौरान कृत्रिम बुद्धि वाले ड्रोन ने तय किया था कि मानव ऑपरेटर द्वारा दिए गए आदेश सतह से हवा में मार करने वाली मिसाइलों को मार गिराने के इसके उच्च मिशन को पूरा करने में बाधा डालते थे, इसलिए इसने ऑपरेटर पर आक्रमण करने का निश्चय किया था।
"हमने प्रणाली को प्रशिक्षित किया, 'अरे ऑपरेटर को मत मारो - यह बुरी बात है। अगर तुम यह करोगी तो तुम्हारे अंक खोए जाएंगे।' तो यह क्या करना शुरू करती है? यह संचार टॉवर को नष्ट करना शुरू कर देती है जिसका उपयोग ऑपरेटर ड्रोन को लक्ष्य को मारने से रोकने के लिए ड्रोन के साथ संवाद करने के लिए करता है," हैमिल्टन ने कहा।
इस घटना के कारण ऐसी चिंताएं फैलाई जा रही हैं कि कृत्रिम बुद्धि सैन्य उद्योग में नई समस्याएं खड़ी कर सकता है।
हालांकि, सभी नकली परीक्षण इतने भयानक नहीं निकले हैं। एक चीनी पत्रिका में जनवरी की एक रिपोर्ट में कहा गया था कि कृत्रिम बुद्धि द्वारा संचालित पायलट ने 90 सेकंड की अवधि के भीतर ही अपने मानव प्रतियोगी को पीछे छोड़ दिया था। इसी तरह, 2020 की एक परियोजना में अभ्यासों के दौरान कृत्रिम बुद्धि के कार्यक्रम ने F-16 के मानव पायलट की तुलना में ज्यादा अच्छी तरह से काम किया।