Çocuklara yönelik istismar materyallerinin görüntülenmesini azaltmak için tasarlanan yeni uygulamanın geliştirilmesi, AB’den 1,8 milyon sterlinlik fon aldı.

Çocuklara yönelik cinsel istismar materyallerinin çevrimiçi olarak görüntülenmesini azaltmak için tasarlanan yeni bir uygulamanın geliştirilmesi, AB’den 1,8 milyon sterlinlik fon aldı.

Yasadışı görüntülere çekildikleri için yardım arayan ve arzularına göre hareket edemeyeceklerinden emin olmak isteyen gönüllülerle test edilecek.

Telefon gibi cihazlara yüklenen uygulama, zararlı resim ve videoların görüntülenmesini belirleyecek ve engelleyecektir.

Çocuk istismarı görüntüleri için “artan talep” ile mücadeleye yardımcı olabileceği umulmaktadır.

Protech projesi, AB ve Birleşik Krallık’tan kuruluşları içeren bir işbirliğidir.

Projenin Salus adlı uygulaması, olası çocuk cinsel istismarı malzemelerini belirlemek ve kullanıcıların bunları görmesini engellemek için yapay zeka kullanarak gerçek zamanlı olarak çalışmayı amaçlıyor. İçeriği engellemek için diğer daha geleneksel teknikleri de kullanacaktır.

Çocuk istismarı materyallerini bulmak, işaretlemek ve kaldırmak için çalışan bir kuruluş olan Internet Watch Foundation, İngiliz şirketi SafeToNet tarafından geliştirilen yapay zeka teknolojisinin eğitilmesine yardımcı olacak.

Emniyet teşkilatında 19 yıl çalışmış olan SafeToNet’ten Tom Farrell, uygulamanın kullanıcıları polise bildirmek için bir araç olarak tasarlanmadığını söyledi: “Çocukların cinsel istismarı ile ilgili materyalleri görmekten gönüllü olarak vazgeçmek isteyen insanlar açıkça bunu yapmazlardı.” Böyle bir çözümü, kendilerini kolluk kuvvetlerine şikayet edeceğine inanıyorlarsa kullanmıyorlar.”

Uygulamayı indiren gönüllüler, çevrimiçi çocuk istismarı görüntülerine çekildikleri için yardım arayan kişilerle çalışan kuruluşlar aracılığıyla işe alınacak.

Böyle bir kuruluş, yasa dışı görüntüleri indirebileceğinden korkan ve durdurmak isteyenler için bir yardım hattı işleten İngiliz yardım kuruluşu Lucy Faithfull Vakfı’dır. Bu, pedofil olduğunu kabul eden önemli sayıda insanı içerir ve bunlardan bazıları zaten hüküm giymiştir.

Vakfın Donald Findlater’ı, yeni uygulama gibi araçların bireylerin davranışlarını kontrol etmelerine yardımcı olabileceğini söyledi ve ekledi: “Kendilerinde bir güvenlik açığı fark eden insanlar için pratik bir yardım”.

Protech projesinin üyeleri, bunun “çevrimiçi ortamda çocuk cinsel istismarı materyallerine yönelik artan talebi” engelleyebileceğini umuyor.

NSPCC’ye göre, 2021/2022 yılında çocukların uygunsuz görüntülerinin bulundurulmasını ve paylaşılmasını içeren yeni bir rekor 30.925 suç işlendi.

Geçen yıl Polis Vakfı düşünce kuruluşu tarafından hazırlanan bir raporda , çevrimiçi çocuklara yönelik cinsel istismar suçlarının hacminin “uluslararası düzeyde kolluk kuvvetlerinin yanıt verme yeteneğini basitçe aştığını” söyledi.

konuşan proje üyeleri, polisliğin tek başına insanların görüntüleri indirmesini engellemeyeceğini öne sürdü.

Bay Farrell, Birleşik Krallık’ın 2014’ten bu yana dünyadaki diğer tüm ülkelerden daha fazla kişiyi çocuklara yönelik cinsel istismar materyali bulundurduğu için tutukladığını ve bu süreçte bazı çok ciddi suçluları tespit ettiğini savunuyor.

Ancak milyonlarca insan hala görüntüleri izliyor

“Yani tutuklama çözüm olmayacak. Önleme tarafında çalışıp talebi ve erişilebilirliği azaltabileceğimizi düşünüyoruz.”

Uygulamanın çalışmasına ilişkin birçok ayrıntının hâlâ üzerinde çalışılması gerekiyor. Hiçbir yapay zeka mükemmel değildir ve bir cihazın meşru kullanımını zorlaştıracak olan aşırı engelleme ile birçok kötüye kullanım görüntüsünü tespit edemeyen yetersiz engelleme arasında bir denge kurulması gerekir.

Bay Farrell, uygulamanın 11 aylık bir süre içinde en az 180 kullanıcıyla Almanya, Hollanda, Belçika, İrlanda Cumhuriyeti ve Birleşik Krallık olmak üzere beş ülkede “pilot aşamada” test edileceğini söylüyor.

Ve projede yer almayan uzmanlar, fikrin umut vaat ettiğini düşünüyor.

Nottingham Trent Üniversitesi’nden Profesör Belinda Winder, bunun “sağlıksız dürtülerine direnmelerine yardımcı olmak isteyen ve bu güvenlik ağından yararlanacak” insanları destekleyebilecek hoş bir gelişme olduğunu söyledi.

Tüm yeni teknoloji araçlarında olduğu gibi, şeytan ayrıntıda gizli olacaktı ve Prof Winder’ın pratikte nasıl çalışacağı hakkında soruları olmasına rağmen, “Doğru yönde atılmış olumlu bir adım” dedi.