Hükümet uyardı güçlü yapay zeka yasağı mümkün

Hükümetin AI Konseyi’nin bir üyesi, bazı güçlü yapay genel zeka (AGI) sistemlerinin sonunda yasaklanmak zorunda kalabileceğini söylüyor.

Aynı zamanda Yapay Zeka Fakültesi’nin patronu olan Marc Warner, AGI’nin güçlü şeffaflık ve denetim gereksinimlerinin yanı sıra daha fazla dahili güvenlik teknolojisine ihtiyacı olduğunu söyledi.

Ve önümüzdeki altı aydan bir yıla kadar AGI konusunda “mantıklı kararlar” gerektirecektir.

Yorumları, AB ve ABD’nin ortaklaşa yapay zeka için yakında gönüllü bir uygulama kuralına ihtiyaç duyulduğunu söylemesini takip ediyor.

AI Konseyi, hükümete ve yapay zeka liderlerine tavsiyelerde bulunan bağımsız bir uzman komitesidir.

Fakülte AI, müşterilerinin ChatGPT ve diğer ürünlerini sistemlerine güvenli bir şekilde uygulamalarına yardımcı olan OpenAI’nin tek teknik ortağı olduğunu söylüyor.

Şirketin araçları, salgın sırasında NHS hizmetlerine olan talebi tahmin etmeye yardımcı oldu – ancak siyasi bağlantıları incelemeye alındı.

Bay Warner, adını, teknolojinin insanlığın yok olmasına yol açabileceği konusunda uyaran bir Yapay Zeka Güvenliği Merkezi’ne ekledi. Fakülte AI, temsilcileri Perşembe günü Downing Street’te Teknoloji Bakanı Chloe Smith ile güvenli ve sorumlu yapay zeka sağlamak için gereken riskleri, fırsatları ve kuralları tartışan teknoloji şirketleri arasında yer aldı.

AI, bilgisayarların tipik olarak insan zekası gerektiren görevleri gerçekleştirme yeteneğini tanımlar.

Warner, metin çevirmek veya tıbbi görüntülerde kanser aramak gibi belirli görevler için kullanılan “dar yapay zeka” sistemlerinin mevcut teknoloji gibi düzenlenebileceğini söyledi.

Ancak temelde yeni bir teknoloji olan AGI sistemleri çok daha endişe vericiydi ve farklı kurallara ihtiyaç duyuyordu.

Warner, “Bunlar, çok geniş bir görev alanında, esasen her görevde, bir insandan daha akıllı veya daha akıllı olmayı amaçlayan algoritmalar” diye ekledi.

İnsanlık, öncelikle zekası nedeniyle bu gezegendeki öncelik konumundaydı, dedi.

Warner, “Bizden daha akıllı veya daha akıllı nesneler yaratırsak, dünyada bunun neden güvenli olması gerektiğine dair iyi bir bilimsel gerekçe sunabilecek kimse yoktur” dedi.

“Bu, kesin olarak korkunç olduğu anlamına gelmiyor, ancak risk olduğu anlamına geliyor, bu, ona dikkatle yaklaşmamız gerektiği anlamına geliyor.”

“En azından, bu şeylere keyfi olarak atılabilecek bilgi işlem [işlem gücü] miktarında güçlü sınırlar olması gerekiyor.

“Bir noktada, yeterli olduğuna karar verebileceğimize ve belirli bir karmaşıklığın veya belirli bir hesaplama miktarının üzerindeki algoritmaları yasaklayacağımıza dair güçlü bir argüman var.

Ama açıkçası, bu teknoloji şirketleri tarafından değil, hükümetler tarafından alınması gereken bir karar” dedi.

Bazıları, AGI ile ilgili endişelerin dikkati mevcut teknolojilerle ilgili sorunlardan uzaklaştırdığını söylüyor – örneğin, AI işe alma veya yüz tanıma araçlarındaki önyargı.

Ancak Bay Warner, bunun “‘Arabaların mı yoksa uçakların mı güvenli olmasını istersiniz?’ İkisini de istiyorum.”

Diğerleri, çok fazla düzenlemenin İngiltere’yi yatırımcılar için daha az çekici hale getirebileceğini ve inovasyonu engelleyebileceğini söylüyor.

Ancak Bay Warner, İngiltere’nin güvenliği teşvik ederek rekabet avantajı bulabileceğini söyledi.

“Uzun vadeli bahse girerim ki, aslında teknolojiden değer elde etmek için güvenliğe ihtiyacınız var – aynı şekilde uçaktan değer elde etmek için motorların çalışmasına ihtiyacınız var” dedi.

Birleşik Krallık’ın yapay zekayı düzenlemeye ilişkin yakın tarihli Beyaz Kitabı , özel bir bekçi köpeği kuramadığı için eleştirildi .

Ancak Başbakan Rishi Sunak, “korkuluklara” duyulan ihtiyacı özetledi ve İngiltere’nin “liderlik rolü” oynayabileceğini söyledi.