Çin’den yapay zeka uyarısı: Terör örgütleri kitle imha silahı üretmek için kullanabilir

0

BEĞENDİM

ABONE OL

News

0

Haberin Devamı

Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ile Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, “Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi”nin güncel versiyonunu yayımladı.

Yapay zeka teknolojisinin sağladığı gelişen bilgi işleme kabiliyetleriyle sıradan insanlara dahi yıkıcı silahların yapımını öğrenme şansı verebileceğine değinilen belgede, kitle imha silahları ve kritik silah sistemlerinin üretimine dair bilgi ve kabiliyetler üzerindeki kontrol kaybının risklerine işaret edildi.

Yapay zeka sistemlerinin eğitmek üzere aralarında nükleer, biyolojik ve kimyasal silahlar ile füze sistemlerine ilişkin temel teorik bilgilerin de yer aldığı içerik bakımından oldukça geniş derlemeler ve verilerden yararlandığına dikkat çekilen belgede, “Yeterli denetim yapılmazsa aşırılıkçı gruplar ve teröristler, yapay zeka vasıtasıyla bu tür silahların tasarımı, imalatı, sentezlenmesi ve kullanılmasına ilişkin bilgileri edinip bu kabiliyetleri geliştirebilirler.” uyarısına yer verildi.

Haberin Devamı

‘BARIŞA VE GÜVENLİĞE YÖNELİK RİSKLER ARTABİLİR’

Belgede, yapay zeka sistemlerinin “erişim destekli bilgi üretimi” adı verilen teknikle bir probleme yanıt vermeden önce internet üzerindeki geniş ölçekli güncel verileri taradığı hatırlatılarak, bunun mevcut kontrol sistemlerini etkisiz kılarak barışa ve güvenliğe yönelik riskleri yoğunlaştırabileceği vurgulandı.

Bir yapay zeka uygulamasının güvenilir olabilmesi için insan kontrolünün yitirilmemesinin temel ilke olması gerektiğinin altı çizilen belgede, yapay zekanın insan gibi iletişim kurmasının ve öz-farkındalık kazanmasının tehlikelerine dikkat çekilerek, “İnsanlığın varlığı ve kalkınmasını tehdit edebilecek kontrolsüz riskleri engelleyebilmek için yapay zekanın daima insan kontrolünde kalacağından emin olmalıyız.” değerlendirmesinde bulunuldu.