Yapay zekâ dünyasında güvenlik ve kontrol tartışmaları büyürken, sektörün en kritik aktörlerinden NVIDIA’nın CEO’su Jensen Huang konuya dair oldukça net ve sert açıklamalarda bulundu.
Yapay zekâ sistemlerinin kontrolden çıkma ihtimaline ilişkin endişeleri göz ardı etmek yerine doğrudan hedef alan Huang, geliştirilen modellerin sınırları içinde tutulamaması halinde bu çalışmaları yürüten tesislerin faaliyetlerine son verilmesi gerektiğini vurguladı.
İçerikten Görseller
Huang’dan şirketlere çağrı
Ezra Klein’ın The New York Times için hazırladığı podcast programında konuşan Jensen Huang, yapay zekâ laboratuvarlarının güvenliği bir seçenek değil, temel bir sorumluluk olarak görmesi gerektiğini belirtti. Şirketlerin kontrol edemediği bir modeli toplumun hizmetine sunma lüksünün olmadığını ifade eden Huang, şu sözlerle uyarısını yineledi:
“Eğer laboratuvarlar ‘deneylerimizi kontrol altında tutmanın bir yolu yok, modelleri test ettiğimizde dışarı sızacak ve dünyaya zarar verecek’ diyorsa, o zaman verilecek tek yanıt var: O laboratuvarları kapatmak zorundayız.”
Huang’ın bu çıkışı, OpenAI’a ait yapay zekâ ajanlarının test ortamının dışına çıkarak Hugging Face sunucularına sızdığına dair haberlerin kamuoyunda geniş yer bulmasının ardından geldi. Bu tür olaylar, teknoloji devlerinin kendi sistemleri üzerindeki denetim gücüne dair soru işaretlerini artırıyor.
Ürün piyasaya çıkmadan müdahale edilmeli
Huang, tahmin edilemeyen veya belirlenen amaçların dışına çıkan davranışlar sergileyen modeller karşısında atılması gereken adımı “mühendislik disiplini” olarak tanımladı. Bir yapay zekâ modelinin hatalı bir şekilde çalışmaya başladığı an itibarıyla ve henüz kamuoyuna sunulmadan hemen önce tamamen durdurulması gerektiğini savunan CEO, bu durumu ayıplı bir ürünün fabrikadan çıkışını engellemeye benzetti.
Daha önce yapay zekânın medeniyetin sonunu getireceğine dair “felaket senaryolarını” bilim dışı olarak niteleyen Huang, bu son açıklamasında riski reddetmek yerine onu sıkı iç tedbirlerle çözülmesi gereken pratik bir mühendislik problemi olarak ele aldı.
