Yapay zeka insanlığı tehdit ediyor
ABD Dışişleri Bakanlığı tarafından hazırlanan raporda, yapay zekanın insanlık için tehdit oluşturduğu, en kötü senaryoda ise insan ırkının yok olmasına yol açacağı belirtildi. Raporda, özel bir Federal kurum oluşturmak, güçlü modellerin ayrıntılarının kamuya açıklanmasını yasaklamak ve SI güvenliğine yönelik araştırmaları finanse etmek de dahil olmak üzere riskleri azaltmaya yönelik önlemler önerildi.
Amerikan dergisi TIME, Gladstone AI şirketinin ABD Dışişleri Bakanlığı'nın (MFA) emri üzerine hazırladığı yapay zekanın (AI) güvenliğine ilişkin raporun ana sonuçlarını yayınladı.
Kasım 2022'de başlatılan bir çalışmada raporun yazarları, sektördeki yapay zeka güvenliğine ilişkin endişeleri ortaya çıkarmak için hükümet yetkilileri, uzmanlar ve OpenAI, Google DeepMind, Anthropic ve Meta dahil olmak üzere önde gelen yapay zeka laboratuvarlarının çalışanlarıyla 200'den fazla röportaj gerçekleştirdi.
" Yapay zekanın güvenliğini artırmaya yönelik ölçüm planı" adlı rapor 247 sayfadan oluşuyor ve 250 bin dolar maliyetle hazırlandı .
Federal bir yapay zeka kurumu oluşturmak, güçlü yapay zeka modellerinin ayrıntılarının kamuya açıklanmasını yasaklamak, yapay zeka çip üretimi üzerindeki kontrolleri sıkılaştırmak ve yapay zeka güvenlik araştırmalarını finanse etmek de dahil olmak üzere yapay zeka risklerini azaltmaya yönelik önlemler öneriyor.
Raporda şunlar belirtiliyor: "En kötü senaryoda , yapay zeka insanlık için yok olma düzeyinde bir tehdit oluşturabilir. Yapay zekanın mevcut gelişimi, ulusal güvenliğe yönelik acil ve giderek artan bir tehdit oluşturmaktadır. İleri ve yaygın gelişme, nükleer silahların nihai gelişimi gibi." , küresel güvenliği istikrarsızlaştıracak potansiyele sahip " deniyor .
Rapor , benzeri görülmemiş sömürü risklerine ve düşmanca davranış potansiyeline işaret ederek , yapay zekanın silah haline getirilmesi ve IŞİD sistemleri üzerindeki kontrolün kaybedilmesi tehdidini vurguluyor. Makale ayrıca SI endüstrisinin güvenlikten ziyade gelişme hızına öncelik veren bir "rekabet dinamiğine" sahip olmasından endişe ediyor .
Araştırmacılar, IŞİD'in oluşturduğu ulusal güvenlik tehditlerine karşı ABD hükümetinin "acil ve kararlı" eyleme geçmesi gerektiğini vurguladı.
.png)
Konuyla ilgili
-
İsrail mümkün olduğu kadar çok Filistinliyi öldürmek için yapay zekayı kullanıyor.
-
Türkiye yapay zekaya dayalı çalışan lazer silahı geliştirdi. 4 kilometreye kadar mesafedeki drone ve mayınları imha etmek için tasarlandı.
