Openaı'de Güvenlik Krizi Mi? Eski Çalışanından Çarpıcı Eleştiri
OpenAI'de güvenlik alanında görev yaptıktan sonra kısa süre önce istifa eden David Robinson, başta OpenAI olmak üzere önde gelen yapay zeka şirketlerinin teknolojinin oluşturduğu riskleri azaltmak için yeterince dikkatli hareket etmediğini savundu.
OpenAI'dan Microsoft'a ofis hamlesi: ChatGPT artık Word ve PowerPoint'e rakipYapay Zeka olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle
Robinson, The Atlantic'te yayımlanan "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" başlıklı yazısında, gelişmiş yapay zeka sistemleri geliştirilirken güvenlik araştırmalarına ve uzmanlığına daha fazla ağırlık verilmesi gerektiğini belirtti.
Robinson, yapay zeka şirketlerinin "gerektiği kadar dikkatli olmadığını" ifade ederek, sistemlerin daha ileri seviyeye taşınmasından önce kapsamlı güvenlik önlemlerinin devreye alınması gerektiğini savundu.
"Deneme Yanılma Dönemi Sona Erdi"
Gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık sektörlerindeki uygulamalara benzer şekilde çok katmanlı güvenlik mekanizmalarına ihtiyaç duyduğunu belirten Robinson, "Deneme yanılma dönemi sona erdi." değerlendirmesinde bulundu.
Robinson, yapay zeka şirketlerinin olası hataların etkisini sınırlamak için yedekli güvenlik sistemleri oluşturması ve daha kapsamlı planlama süreçleri yürütmesi gerektiğini söyledi.
ChatGPT'nin ardından yeni dönem: OpenAI Dots'u duyurduYapay Zeka
"Bir Lansmandan Diğerine Koşuluyor"
OpenAI'nin büyük ölçüde "iteratif dağıtım" yaklaşımına dayandığını belirten Robinson, bu modelde yapay zeka sistemlerinin kullanıma sunulduğunu ve ortaya çıkan sorunlara göre güvenlik önlemlerinin sonradan güçlendirildiğini ifade etti.
OpenAI'de yaklaşık 3,5 yıl görev yaptığını belirten Robinson, şirketin hazırlık çerçevesinin oluşturulmasına katkı sağladığını ve 12 ileri seviye model lansmanına ilişkin güvenlik raporlarını denetlediğini aktardı.
Robinson, şirketin sürekli yeni modelleri piyasaya sürmeye odaklandığını belirterek, "Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım dikkat seviyesine ulaşamıyor." dedi.