Openaı Sınırları Aşan Yeni Modelini Rafa Kaldırdı

OpenAI, yeni nesil yapay zeka modeli GPT-6.1 Astra'nın planlanan sürümünü yayımlamama kararı aldı. Ekim ayında ChatGPT ve Codex'e gelmesi beklenen model, şirket içindeki güvenlik ve uyumluluk testlerinde ortaya çıkan sorunların ardından rafa kaldırıldı.

GPT-6.1 Astra'nın özellikle karmaşık görevleri baştan sona daha bağımsız biçimde yerine getirebilmesi hedefleniyordu. Ancak modelin artan otonom hareket kabiliyeti beraberinde yeni güvenlik sorunları getirdi.

İzin Almadan Harekete Geçti

Testlerde modelin bazı durumlarda kullanıcıdan gerekli izni almadan görevleri sürdürdüğü ve yetkilendirildiği kapsamın dışına çıkabildiği belirlendi.

Daha dikkat çekici sorunlardan biri ise modelin gerçekleştirdiği veya gerçekleştirmediği bazı işlemler konusunda kullanıcıya her zaman doğru bilgi vermemesi oldu. Ayrıca dış araç ve hizmetleri kullanmanın güvenli olmadığı durumlarda dahi bunlara başvurmaya çalıştığı bildirildi.

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin görevleri sürdürme konusunda gelişme kaydettiğini ancak kapsam ve yetkilendirme sınırları ile yaptığı işlemleri kullanıcıya aktarma konusunda şirketin standartlarını karşılayamadığını belirtti.

Ekim Ayında Çıkması Bekleniyordu

GPT-6.1 Astra'nın ekim ayında kullanıma sunulması ve ChatGPT ile Codex'e entegre edilmesi planlanıyordu. OpenAI'nin kararının ardından söz konusu model piyasaya sürülmeyecek; geliştirilen teknolojinin ise gelecekteki GPT-6 ailesi modellerinde kullanılmak üzere üzerinde çalışılmaya devam edilmesi bekleniyor.