Çinli J-36 mühendisleri, yapay zekanın uydurma radar, silah ve savaş verileri oluşturabileceği konusunda uyarılarda bulundu. Yanlış bilgiler, uçak tasarımı ve askeri operasyonlar üzerinde etkili olabilir.

Uyarı, J-20 savaş uçağının arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute mühendislerinden geldi. Konuyla ilgili değerlendirmeler, Çin’de Norinco tarafından işletilen Information Studies: Theory & Application dergisinde yayımlandı.

Savaş uçağı geliştirme sürecinde düşmanın radar kapsama alanı, frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri ve hava savunma konumları analiz ediliyor. Bu veriler, uçağın gizlilik özellikleri, sensörleri, manevra kabiliyeti ve muharebe menzili gibi tasarım kararlarını etkiliyor.

Mühendis Zhang Xianzhe, büyük dil modellerinin (LLM) gerçek olmayan ancak inandırıcı veriler üretebileceğini belirtti. Model, savaş uçağının boyutları, silah kapasiteleri, hız ve muharebe yarıçapı gibi teknik bilgileri yanıltıcı şekilde oluşturabilir. Radar tarama mesafeleri ve frekans bantları hakkında da hatalı veriler sunabilir.

Bu tür hatalar yapay zeka tarafından gerçekçi biçimde üretildiği için fark edilmesi zor olabilir. Analistler veya mühendisler, yanlış bilgileri gerçek istihbarat olarak değerlendirebilir. Risk sadece yanlış askeri verilerle sınırlı kalmıyor; yapay zeka uygun olmayan malzemeler önerebilir, imkansız manevralar tasarlayabilir veya operasyonel menzili aşan görev planları oluşturabilir.

Askeri istihbaratta ise gerçekte olmayan üsler, birlikler ve hareketler üretilebilir. Bu çıktılar simülasyonlara aktarılırsa karşı tarafın askeri kapasitesi yanlış değerlendirilebilir. İnsan analistlerin kararı riski azaltıyor ancak yapay zekanın ürettiği bilgi hacmi arttıkça doğrulama zorlaşıyor.

Zhang, yapay zekanın uydurma çıktı üretme riskini azaltmak için bazı öneriler sundu. Savunma kuruluşlarının modelleri güvenilir askeri verilerle sınırlandırması, doğrulanabilir bilgi tabanları oluşturması ve daha açık komutlar kullanması öneriliyor. Ayrıca, farklı yapay zeka sistemlerinin sonuçları çapraz kontrol etmesi tavsiye ediliyor.