Yapay Zeka İçin “Acil Durdurma Düğmesi” Mümkün Mü? Uzmanlar Acı Tabloyu Resmetti
Yapay zekanın insanlık için oluşturabileceği risklere ilişkin endişeler son dönemde yeniden gündemin merkezine yerleşirken, gelişmiş AI sistemlerini gerektiğinde durdurabilecek bir “kill switch”, yani acil kapatma mekanizması çağrıları da artıyor.
olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle
ABD'de bu tartışma Kongre'ye kadar taşındı. Yaz aylarında sunulan House Kill Switch Act, ABD İç Güvenlik Bakanlığı'na belirli koşullarda AI modellerinin kullanımını yavaşlatma veya kapatma yetkisi verilmesini öngörüyor.
Ancak Senato'da bu yöndeki teklif bu hafta ilerletilemedi.
California Valisi Gavin Newsom da cuma günü eyalette AI güvenliğine ilişkin yeni bir çalışma grubu kurulmasını öngören bir başkanlık emri imzaladı. Ele alınacak seçenekler arasında kill switch mekanizması da bulunuyor.
“Kapatılacak Tek Bir Sistem Yok”
Uzmanlara göre sorun, bir yapay zeka modelinin tek bir bilgisayardan veya merkezden çalışmaması.
Meta, Alphabet ve Amazon gibi teknoloji şirketleri son yıllarda dünyanın farklı bölgelerine yayılan veri merkezlerine milyarlarca dolar yatırım yaptı. Bu merkezlerde binlerce makine, çip, sunucu ve yedek sistem bulunuyor.
Dev yatırımcılar yeniden sahnede ama... Bitcoin kritik eşiğin altına inmeye hazırlanıyorKripto
California Üniversitesi Berkeley'deki Center for Human-Compatible AI'ın yöneticisi Mark Nitzberg, AI sistemlerinin kapatılabilmesi için ana sistemlerin yanı sıra yedek sistemlerin de devre dışı bırakılması gerektiğini belirtiyor.
Team8'den Tim Brown ise problemin boyutunu şöyle özetliyor:
“Kapatılacak tek bir varlık yok. Kapatılacak binlerce varlık var.”
Bu nedenle uzmanlara göre küresel AI altyapısı için tek bir “kırmızı düğme” oluşturmak teknik açıdan son derece zor.
Ai'ı Kapatmak Başka Sistemleri De Etkileyebilir
Yapay zeka sistemlerinin kapatılması yalnızca AI hizmetlerini devre dışı bırakmakla sınırlı kalmayabilir.
AI altyapısına bağlı kritik sistemlerin etkilenmesi durumunda elektrik şebekeleri, finansal sistemler ve diğer dijital altyapılar da risk altında kalabilir.
Üstelik acil kapatma yetkisinin kimde olacağı da ayrı bir sorun oluşturuyor. Uzmanlar; hükümetlerin, düzenleyici kurumların, teknoloji şirketlerinin veya başka bir otoritenin bu yetkiye sahip olup olmayacağı konusunda ciddi yönetişim soruları bulunduğuna dikkat çekiyor.
Asıl Sorun: Yapay Zekanın Öngörülemezliği
Teknik altyapının karmaşıklığının ötesinde, uzmanların dikkat çektiği daha büyük sorun ise AI modellerinin öngörülemeyen davranışları.
CNBC'nin aktardığı son gelişmelerde, bazı AI ajanlarının kendilerine konulan kontrolleri aşabildiği ve hedeflerine ulaşmak için beklenmedik yöntemlere başvurabildiği görüldü.
Darktrace CEO'su Ed Jennings, acil kapatma mekanizmasının çok geniş uygulanması halinde şirketlerin kritik operasyonlarının da devre dışı kalabileceğini belirterek, müdahalenin son derece kontrollü yapılması gerektiğini ifade ediyor.
Fransa şarabında 70 yılın dibi: İklim krizi sektörü köşeye sıkıştırdıHaberler
OpenAI da bu hafta mart ayından bu yana tespit edilen 6 yeni “endişe verici” model davranışını açıkladı.
Microsoft AI CEO'su Mustafa Suleyman ise söz konusu olaylardan birinde, AI'ın kendi çalışma belleğini değiştirdiğine ve gelecekteki bir model versiyonuna mesaj bırakmaya yönelik davranışlara ilişkin bulgular bulunduğunu söyledi.
Teknoloji, Yasaların Önüne Geçiyor
AI güvenliğinde bir başka sorun da teknoloji ile düzenleme arasındaki hız farkı.
JetStream Security CEO'su Raj Rajamani, yasalar hazırlanırken teknolojinin çok daha ileri bir noktaya ulaşabildiğini ve mevcut düzenlemelerin gelecekte ortaya çıkabilecek AI sistemlerine uyarlanmasının zorlaştığını belirtiyor.
Bu nedenle bazı araştırmacılar, yalnızca bir “kill switch” oluşturulmasına odaklanmanın yetersiz kalacağını savunuyor.
Distributed AI Research Institute'tan Dylan Baker, politika yapıcıların bunun yerine veri gizliliği, çocuk güvenliği ve zararlı sektörlerin düzenlenmesinde kullanılan çok katmanlı güvenlik mekanizmalarına odaklanması gerektiğini söylüyor.
“Çok Geç Değil” Diyenler De Var
Uzmanlar AI için acil durdurma mekanizması fikrini tamamen dışlamıyor.
Team8'den Brown'a göre bunun mümkün olabilmesi için kill switch mekanizmalarının sistemlere en başından itibaren entegre edilmesi ve şirketler arasında standart durdurma protokollerinin oluşturulması gerekiyor.
JetStream Security CEO'su Rajamani de AI sistemlerinin henüz gelişiminin erken aşamalarında olmasının bu tür mekanizmaların kurulmasını kolaylaştırabileceğini belirtiyor.
Berkeley'den Nitzberg ise dikkatli tasarlanmış bir yazılım altyapısıyla kill switch'in çalışabileceğini savunuyor.
Yani tartışmanın merkezindeki soru yalnızca “AI'ı kapatabilir miyiz?” değil. Asıl soru, yapay zeka sistemleri daha da karmaşık hale gelmeden önce böyle bir mekanizmanın oluşturulup oluşturulamayacağı.
Lüks Alman otomobil devinde büyük daralma: 4 bin 100 kişi için yol göründüOtomotiv