ABD Hava Kuvvetleri, operatöre saldırdığını yalanladı…

Servis, bir ABD Hava Kuvvetleri albayının, AI özellikli bir dronun görevini tamamlamak için operatörüne saldırmayı seçtiği bir deneyi anlatırken “yanlış konuştuğunu” söyledi.

ABD Hava Kuvvetleri’ndeki AI testi ve operasyonları şefi Albay Tucker Hamilton, Kraliyet Havacılık Topluluğu tarafından düzenlenen bir konferansta konuşuyordu.

Bununla ilgili bir haber viral oldu.

Hava Kuvvetleri böyle bir deneyin yapılmadığını söylüyor.

Konuşmasında, yapay zeka özellikli bir insansız hava aracının Karadan Havaya Füze alanlarını yok etme görevini yerine getirmesinin insan operatörü tarafından defalarca durdurulduğu bir simülasyonu anlatmıştı.

Sonunda, operatörü öldürmemek için eğitilmiş olmasına rağmen, insansız hava aracının iletişim kulesini yok ettiğini ve böylece operatörün artık onunla iletişim kuramayacağını söyledi.

Col Hamilton daha sonra Royal Aeronautical Society’ye yaptığı açıklamada, “Bu deneyi asla yapmadık ve bunun makul bir sonuç olduğunu anlamak için yapmamıza gerek yok,” dedi.

Bunun gerçekte gerçekleşmiş herhangi bir şeyden çok bir “düşünce deneyi” olduğunu da sözlerine ekledi.

Son zamanlarda sektörde çalışan kişiler tarafından AI’nın insanlık için oluşturduğu tehdit konusunda bir dizi uyarı yapıldı, ancak tüm uzmanlar bunun ne kadar ciddi bir risk olduğu konusunda hemfikir değil.

Çalışmalarıyla prestijli bir Turing Ödülü kazandıktan sonra yapay zekanın “babaları” olarak tanımlanan üç bilgisayar bilimciden biri olan Prof Yoshua Bengio, bu hafta başlarında verdiği demeçte, ordunun yapay zeka güçlerine sahip olmasına hiçbir şekilde izin verilmemesi gerektiğini düşündüğünü söyledi . .

Burayı “süper zeki bir yapay zeka koyabileceğimiz en kötü yerlerden biri” olarak tanımladı.

Bu sabah birkaç saatimi hem savunma hem de yapay zeka uzmanlarıyla konuşarak geçirdim, hepsi de Albay Hamilton’ın açıklamalarından önce geniş çapta rapor edilen iddiaları hakkında çok şüpheciydi.

Bir savunma uzmanı bana Albay Hamilton’ın orijinal öyküsünün, hiçbir şey olmasa bile, “önemli bağlam”dan yoksun göründüğünü söyledi.

Sosyal medyada böyle bir deneyin gerçekleştiğine dair öneriler de vardı, görev sırasında yapay zeka destekli dronun makine öğreniminden güç alması yerine önceden planlanmış bir senaryo olma olasılığı daha yüksekti – bu da temelde olmayacağı anlamına geliyor. daha önce olanlara dayanarak, ilerledikçe kendi sonuçlarını seçiyor.

West of England Üniversitesi’nde havacılık ve uzay mühendisliği profesörü ve insansız hava araçları konusunda uzman olan Steve Wright, kendisine hikaye hakkındaki düşüncelerini sorduğumda şaka yollu “Terminatör filmlerinin her zaman hayranı olduğunu” söyledi. .

“Uçak kontrol bilgisayarlarında endişe edilecek iki şey vardır: ‘doğru olanı yapın’ ve ‘yanlış şeyi yapmayın’, yani bu ikincisinin klasik bir örneğidir” dedi.

“Aslında, her zaman eski tarz teknikler kullanılarak programlanmış ikinci bir bilgisayarı dahil ederek bu sorunu çözüyoruz ve bu, ilk bilgisayar garip bir şey yaptığı anda fişi çekebilir.”