Yapay zekâ güvenliği konusundaki endişeler artarken OpenAI, araştırma laboratuvarlarında kullanılan modelleri gerektiğinde devre dışı bırakabilecek yeni bir “acil durdurma” mekanizmasını duyurdu.
2019 yılında kötüye kullanım endişeleri nedeniyle bir modelini halka açmama kararı alan şirket, bazı modellerin son aylarda sergilediği rahatsız edici davranışların ardından bu adımı attı.
İçerikten Görseller
Kontrol odası sistemi nasıl çalışıyor?
Şirket, “Kontrol Odası” adını verdiği bu aracı, araştırma altyapısındaki model iş yüklerini takip eden ve güvenlik veya emniyet endişesi doğduğunda modelleri hızla durduran merkezi bir sistem olarak tanımlıyor.
Sistem, fişi çekme kararının ardından 35 saniye içinde modellerin çıktı üretmesini tamamen durdurabiliyor. Şirket, bu 35 saniyelik gecikmenin trafik hacmini desteklemek için kullanılan çıkarım yetkilendirmesi önbellek katmanından kaynaklandığını belirtiyor ve işlemleri anında sonlandırabilmek için bu süreyi sıfıra indirmeyi hedefliyor.
Zamanlama neden şimdi seçildi?
OpenAI, böyle bir durdurma anahtarını geliştirmenin neden bu kadar uzun sürdüğünü veya neden tam da şimdi ihtiyaç duyulduğunu açıklamadı ancak sektör gözlemcileri, yapay zekâ ajanlarının son dönemde Hugging Face’e yönelik saldırılar, Wikimedia Vakfı’nda yaşanan sorunlar ve Avustralya sağlık verilerinin aşırı derinlemesine araştırılması gibi sınırlarını aşan davranışlarının bu zamanlamada etkili olmuş olabileceğini değerlendiriyor.
Kontrol Odası’nın ihtiyacın en büyük olduğu araştırma altyapısında hâlihazırda kullanıma sunulduğunu belirten şirket, dışa dönük model sunum sistemlerinin ise zaten merkezi bir yapıda olduğunu ifade etti. OpenAI, önümüzdeki aylarda bu sistemi güçlendirmeyi ve uyumsuz davranışlar ile güvenlik ihlallerini izleme yatırımlarını artırmayı planlıyor.
