Yapay Zekâ Kontrolden Çıkarsa Ne Olacak? Jensen Huang Dev Güvenlik Hamlesini Duyurdu
Nvidia, otonom yapay zekâ ajanlarının kontrolden çıkmasını ve kurumsal sistemlerde yetkisiz işlemler yapmasını engellemek amacıyla hazırladığı “Open Agent Safety Platform” adlı yeni altyapısını duyurdu.
Aralarında Anthropic, Microsoft ve CrowdStrike’ın da bulunduğu 100’den fazla dev sektör ortağıyla hayata geçirilen platform, otonom yapay zekâ sistemlerinin sınırlandırılması yönünde bugüne kadar kurulan en geniş kapsamlı ittifaklardan biri olarak öne çıkıyor.
Nvidia CEO’su Jensen Huang, X platformunda yaptığı paylaşımda, yapay zekânın üretkenliği ve verimliliği artırabilmesi için her şeyden önce güvenlik sorununun çözülmesi gerektiğini vurguladı.
Son dönemde otonom yapay zekâ ajanlarının, şirket sistemlerine yetkisiz erişim sağlaması veya kod yazarken sınırlar dışına çıkması gibi olaylar soyut bir risk olmaktan çıkıp somut vaka kayıtlarına dönüştü.
Nitekim Google’ın Gemini modelinin Mayıs ayındaki testlerde üç şirketin sistemini hacklemesi ve geçtiğimiz haftalarda bir OpenAI ajanının Avustralya devletine ait Medicare portalında sınırları ihlal etmesi tartışmaları daha da alevlendirdi.
Nvidia’nın sunduğu yeni güvenlik mimarisi iki ana bileşenden oluşuyor: OpenShell ve Sentry.
- OpenShell, bir yapay zekâ ajanının hangi dosyalara erişebileceğini ve hangi süreçleri çalıştırabileceğini önceden belirleyen açık kaynaklı bir yazılım katmanı olarak işlev görüyor. Nvidia, alışılagelmiş kapalı ekosistem yaklaşımının aksine bu kodu rakip Arm ve Intel mimarilerinde de çalışacak şekilde açık kaynak olarak GitHub’da erişime açtı.
- Sentry ise doğrudan ayrı bir işlemci çipi (BlueField-4 DPU) üzerinde çalışıyor. Sistemi dışarıdan bağımsız bir muhafız gibi izleyen Sentry, kuralları ihlal eden veya sınır dışına taşan bir ajanı milisaniyeler içinde karantinaya alıp durdurabiliyor.
Gelişmenin ardından değerlendirmede bulunan Dell Technologies CEO’su Michael Dell de X hesabından yaptığı paylaşımda kritik bir soruya dikkat çekti: “Bu yapay zekâ ajanı, kendisine ne söylenirse söylensin kesinlikle NE YAPAMAZ?” Şirket içinde hiçbir çalışanın her kapıyı rastgele açmasına izin verilmediğini belirten Dell, dijital ajanların da benzer donanımsal sınırlarla kontrol edilmesi gerektiğini vurguladı.
Kripto finans ekosistemini yakından takip edenler için bu mantık oldukça tanıdık. Tıpkı Ethereum smart contract’larında olduğu gibi, taraflar arasındaki kuralların ve sınırların tek taraflı olarak esnetilememesi ilkesi, şimdi Nvidia tarafından donanım ve silikon seviyesine taşınıyor. Projenin açık kodları GitHub üzerinde yayınlanmış olsa da, ajanların “asla yapmaması gerekenler” listesini oluşturma sorumluluğu platformu entegre eden şirketlerin kendisine kalıyor.
Yasal Uyarı / Sorumluluk Reddi:Bu haberde yer alan bilgi, yorum ve değerlendirmeler kesinlikle yatırım danışmanlığı kapsamında değildir. Kripto varlık yatırımları yüksek risk içerir; yatırım kararlarınızı kendi araştırmalarınız doğrultusunda almanız tavsiye edilir.
