Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ile Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, “Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi”nin güncel versiyonunu yayımladı. Raporda, yapay zekanın aşırılıkçı gruplar ve terör örgütleri tarafından kitle imha silahları üretiminde kullanılabileceğine dair güçlü uyarılar yer aldı.
Kitle imha silahları riski
Belgede, yapay zekanın gelişmiş bilgi işleme yeteneklerinin, sıradan kişilere bile yıkıcı silahların yapımını öğrenme fırsatı verebileceği kaydedildi. Nükleer, biyolojik ve kimyasal silahlarla füze sistemlerine dair verilerin yapay zeka eğitiminde kullanılmasının, kontrol kaybı durumunda ciddi güvenlik riskleri doğurabileceği ifade edildi.
Yetkililer, yeterli denetim yapılmadığı takdirde terörist grupların yapay zeka desteğiyle bu tür silahların tasarım, üretim ve kullanımına dair bilgiye erişebileceğini bildirdi.
Denetim ve insan kontrolü şart
Rapor, yapay zeka uygulamalarının “erişim destekli bilgi üretimi” tekniği sayesinde internetten büyük veri havuzlarını tarayabildiğini, bu durumun mevcut kontrol mekanizmalarını etkisiz kılabileceğini vurguladı.
Ayrıca, yapay zekanın insan gibi iletişim kurma veya öz-farkındalık kazanma ihtimalinin de barış ve güvenlik açısından riskler barındırdığına işaret edildi. Belgede şu değerlendirme yapıldı:
“İnsanlığın varlığını ve kalkınmasını tehdit edebilecek kontrolsüz riskleri önlemek için yapay zekanın her koşulda insan kontrolünde tutulduğundan emin olmalıyız.”
AA
