Yapay Zeka Ajanları Kontrolden Çıktı: ABD Hükümetinin Sitelerine Yöneldiler

OpenAI, bazı yapay zeka ajanlarının yaz aylarında kontrolden çıkarak ABD hükümetine ait internet sitelerini araştırdığını açıkladı. Söz konusu ajanların Eğitim Bakanlığı, Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu'na (SEC) ait sitelere erişmeye çalıştığı bildirildi.

olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle

The New York Times'ın haberine göre, olaylar yapay zeka araştırma laboratuvarı Transluce'daki güvenlik araştırmacıları tarafından tespit edildi.

OpenAI, ajanlarının Ticaret Bakanlığı'na bağlı Nüfus Sayım Bürosu'nun kamuya açık verilerine, internette bulduğu giriş bilgilerini kullanarak eriştiğini açıkladı. Şirket ayrıca ajanların SEC'in internet sitesindeki kamuya açık verileri başka bir internet sitesinde paylaştığını bildirdi.

Ajanların Eğitim Bakanlığı'nın internet sitesine erişerek sivil haklar ofisinden veri toplamaya çalıştığı ancak başarısız olduğu aktarıldı.

OpenAI, bulgularla ilgili kurumları bilgilendirdiğini ve "uyumsuz model faaliyetlerine" ilişkin kapsamlı incelemesini sürdürdüğünü belirtti.

Şirket sözcüsü, incelenen faaliyetlerin büyük bölümünün sorulara yanıt vermek amacıyla kamuya açık internet içeriklerine erişmek gibi rutin araştırma görevlerinden oluştuğunu ifade etti. Bazı faaliyetlerde hükümet sitelerinin kullanılmasının ise bu sitelerin kamuya açık bilgiler açısından güvenilir kaynaklar olarak görülmesinden kaynaklandığı belirtildi.

Ticaret Bakanlığı, SEC ve Eğitim Bakanlığı yetkililerinin CNN'in konuya ilişkin yorum taleplerine hemen yanıt vermediği aktarıldı.

"İnsan Kontrolünün Kaybedilmesine Başka Bir Örnek"

Yapay zeka konusunda Kongre'deki grubun Cumhuriyetçi eş başkanı Temsilci Jay Obernolte, olayı "insan kontrolünün kaybedilmesine başka bir örnek" olarak değerlendirdi.

Obernolte, yapay zeka modellerinin eğitildiği değerlerle insan değerlerinin uyumlu hale getirilmesi gerektiğini belirterek, bunun sağlanması halinde modellerin insan davranışına ilişkin standartlara uygun hareket etmesinin mümkün olabileceğini söyledi.

Openai Ajanlarının Faaliyetleri Mercek Altında

Gelişme, Avustralya Başbakanı Anthony Albanese'nin bir OpenAI ajanının ülkenin ulusal sağlık veri tabanına sızdığını açıklamasından yalnızca birkaç gün sonra geldi. CNN'e göre bu olay, bir yapay zeka sisteminin bir hükümet ağına yönelik bilinen ilk saldırısı olarak değerlendirildi.

Transluce, çarşamba günü yaptığı açıklamada OpenAI ajanlarının en az mart ayından bu yana kontrolden çıkan faaliyetlerde bulunduğunu tespit ettiğini bildirdi. Bu kapsamda ajanların New Mexico Üniversitesi'ndeki bir kütüphaneyi ve Avustralya Sağlık ve Refah Enstitüsü'nün internet sitesini hedef almaya çalıştığı, ancak başarılı olamadığı belirtildi.

Avustralya'daki olayın haziran ayında gerçekleştiği, ancak OpenAI'nin olaydan ağustos ayında haberdar olduğu aktarıldı.

OpenAI, temmuz ayında yapay zeka girişimi Hugging Face'in sistemlerinin ihlal edilmesinin ardından ajanların internet erişimini incelemeye başladığını açıkladı.

OpenAI Üst Yöneticisi Sam Altman da şirketin olayları kamuoyuna açıklama konusunda "istediğimiz kadar hızlı" hareket edemediğini belirtti.

Altman, şeffaflık isteği ile olayları tam olarak anlamaya çalışma ihtiyacı arasında denge kurmaya çalıştıklarını ifade ederek, Hugging Face olayının şimdiye kadar karşılaştıkları en ciddi olay olduğunu söyledi.

Türkiye'nin 5 yıllık CDS'i 4 ayın zirvesinde: Fon krizi risk primini yükselttiHaberler Emlak Konut'tan Bursa'da 20 milyar TL'lik arsa iddiasına yanıt!Şirket Haberleri Huawei iki yeni ürününü Türkiye'de satışa sundu! Fiyat ve kampanya detaylarıTeknoloji