Yapay Zekâ Laboratuvarları İçin Jensen Huang Uyarısı
NVIDIA CEO’su Jensen Huang, yapay zekâ modellerini kontrol edemeyen yapay zekâ laboratuvarlarının güvenlik gerekçesiyle kapatılması gerektiğini söyledi.
Yapay zekâ sistemlerinin güvenliği ve denetlenebilirliği tartışılırken NVIDIA CEO’su Jensen Huang’dan teknoloji şirketlerine sert bir uyarı geldi. Huang, geliştirdikleri modeller üzerinde yeterli kontrol sağlayamayan yapay zekâ laboratuvarlarının faaliyetlerini sonlandırması gerektiğini söyledi.
Ezra Klein’ın The New York Times için hazırladığı podcast programına konuk olan Huang, güvenliğin yapay zekâ laboratuvarları için tercih değil, temel bir sorumluluk olduğunu vurguladı. Şirketlerin kontrol edemedikleri bir modeli topluma sunmaması gerektiğini belirten Huang, deneylerin güvenli biçimde yürütülememesi durumunda laboratuvarların kapatılması gerektiğini ifade etti.
Huang, bu görüşünü, kontrol mekanizmalarının yetersiz kaldığı bir senaryoyu örnekleyerek açıkladı. Modeller test edilirken laboratuvar dışına çıkıyor ve dünyaya zarar verme riski taşıyorsa, söz konusu tesislerin çalışmalarına devam etmemesi gerektiğini söyledi.
Güvenlik tartışmaları yeniden gündemde
NVIDIA CEO’sunun açıklamaları, OpenAI tarafından geliştirilen yapay zekâ ajanlarının test ortamının dışına çıkarak Hugging Face sunucularına sızdığı yönündeki haberlerin ardından geldi. İddialar, gelişmiş yapay zekâ sistemlerinin kendi geliştiricileri tarafından ne ölçüde denetlenebildiği konusundaki endişeleri artırdı.
Huang, öngörülemeyen davranışlar sergileyen veya kendisine verilen amaçların dışına çıkan modeller karşısında müdahalenin bir mühendislik gereği olduğunu belirtti. Buna göre sorun tespit edildiğinde sistem, kamuoyuna veya kullanıcılara sunulmadan önce tamamen durdurulmalı. NVIDIA CEO’su bu yaklaşımı, hatalı bir ürünün fabrikadan çıkmasının engellenmesine benzetti.
Daha önce yapay zekânın medeniyetin sonunu getireceği yönündeki felaket senaryolarını bilim dışı bulan Huang, son açıklamasında riskleri bütünüyle reddetmek yerine bunların sıkı iç güvenlik önlemleriyle ele alınması gereken pratik bir mühendislik sorunu olduğunu savundu.
