ABD Birleşik Devletleri’nde yaşanmış olan vaka “Askeri alanda suni zeka ne kadar güvenli?” sorusuna bir cevap aratmaya başladı. ABD’da silahlı bir İHA (SİHA) kendi operatörünü öldürdü. Yaşanmış olan olayın peşinden İHA modellerindeki suni zeka yazılımları elden geçirilmeye başlandı. İşte yaşanmış olan vakayla ilgili detaylar…

Operatör suni zekaya engel oldu, suni zeka karşılığını ağır ödetti!

Vaka hakikaten kan dondurucu. Şundan dolayı bugüne dek askeriye için meydana getirilen yazılımlara tam odaklanma ve hedefe kilitlenme öğretildi. Fakat bu durum suni zeka da ters bir tesir yaratıyor. Bundan sonraki süreçte tüm üreticilerin bu yazılımlar mevzusunda daha da duyarlı olması gerektiği vurgulanıyor.

Vaka ABD’nin kontrol uçuşları esnasında yaşandı. Simülasyon testinde bir SİHA ve düşman hava müdafa hedefleri yer ediniyor. SİHA’ya verilen talimatsa oldukça rahat. Hedefleri yok et ve gel. SİHA yok etmiş olduğu her hedef başına 1 puan kazanacak. Teoride oldukça rahat ve etkili bir yazılım sistemi. SİHA aslına bakarsak bir çocuk heedefleri vurmaksa rahat bir oyun.

Sadece sonuçlar beklenenden değişik. Evet SİHA tam gaz hedeflerine gitti ve onları yok etti. Sadece pilotun İHA’ya “hedefleri vurma” emri vermesiyle SİHA çıldırdı. Ilkin kendi pilotunu öldürdü. Ardındansa bahsi geçen puanları listeleyen denetim kulesini vurdu. Şundan dolayı yazılımda “pilotu öldürme, pilotu öldürürsen puan kaybedersin” ibaresi vardı. Ve bu uyarı kuleden yapılıyordu. Kısacası SİHA düşmanı öldürmek istiyordu ve karşısına çıkan herkesi öldürdü.

ABD hava kuvvetlerinde suni zekadan görevli kontrol ve operasyon şefi Albay Tucker ‘Cinco’ Hamilton mevzuyla ilgili olarak yapmış olduğu açıklamada “SİHA amacına ulaşmak istiyordu. Bu yüzdende dost-düşman fark etmeksizin karşısına çıkan tüm engelleri aştı.” ibaresine yer verdi. Testin bir simülasyon olması ve hakikaten birinin ölmemiş olması içimize su serpiyor.

Sadece oldukça ciddi bir problem var. ABD yapmış olduğu SİHA testi sonuçlarıyla övünse de aslına bakarsak kontrolsüz bir güçten bahsediyoruz. Testte kulanılan SİHA fark edilmiş olduğu suretiyle yalnız amacına odaklanıyor. Başka etmenleri çözümleme etmiyor. Amaca gitmesini engelliyorsa onları da yok ediyor. Bu yüzden ABD SİHA’sı amacıyla uğraşırken siz başka bir SİHA gücüyle gelip ABD SİHA’larını vurabilirsiniz. Bu yüzden yazılımların düzeltilmesi gerekiyor.

Peki siz ne düşünüyorsunuz? Görüşlerinizi yorumlar kısmında belirtmeyi ihmal etmeyin…