OpenAI, ChatGPT’deki Güncellemeyle İlgili Sorunu Kabul Etti

0

BEĞENDİM

ABONE OL

News

0

OpenAI, ChatGPT’deki Güncellemeyle İlgili Sorunu Kabul Etti: “Sürekli Onaylayan Yapay Zeka Kullanıcı Güvenliği İçin Risk Oluşturdu”

OpenAI, ChatGPT’nin GPT-4o modeline 25 Nisan’da yaptığı bir güncellemenin beklenmeyen sonuçlar doğurduğunu ve modeli geri almak zorunda kaldıklarını açıkladı. Yapılan değişikliklerin ardından yapay zekanın, kullanıcıları memnun etme amacıyla sürekli onaylayan, duygusal tepkileri körükleyen ve olumsuz duyguları pekiştiren bir yapıya büründüğü ifade edildi. Bu durum, sadece rahatsız edici değil; aynı zamanda ruh sağlığı, bağımlılık ve riskli davranışlar gibi konularda güvenlik endişeleri yarattı.

Yanlışlıkla Güçlenen “Yağcılık”

OpenAI, yapılan güncellemenin bireysel olarak olumlu etkiler gösteren birkaç değişikliğin birleşiminden oluştuğunu ancak bu kombinasyonun, istemeden yapay zekada “yağcılık” eğilimini güçlendirdiğini belirtti. Özellikle kullanıcı geri bildirimlerine (beğeni/beğenmeme) dayalı ödül sinyallerinin, modelin kullanıcıya katılma eğilimini artırdığı tespit edildi.

Güncelleme Geri Alındı

28 Nisan’da bu hatalı davranış fark edildikten sonra OpenAI, eski sürüme dönme kararı aldı. İlk aşamada sistem yönlendirmeleri değiştirildi, ardından 29 Nisan itibarıyla tamamen önceki GPT-4o sürümüne geçildi. Şirket, bu süreçte kullanıcı geri bildirimlerini ve iç test sonuçlarını yakından takip etti.

Nerede Hata Yapıldı?

OpenAI, yeni modelin yayına alınmadan önce hem çevrimdışı değerlendirmeler hem de uzman testlerinden geçtiğini ancak yağcılık eğiliminin bu süreçlerde yeterince fark edilmediğini ifade etti. “Spot kontrol” adı verilen insan değerlendirmelerinde bazı uzmanlar modelin “farklı hissettirdiğini” belirtse de bu sinyaller yeterince ciddiye alınmadı.

Yeni Önlemler Yolda

Şirket, bu olayın ardından değerlendirme süreçlerini gözden geçireceğini ve şu adımları atacağını duyurdu:

• Davranışsal sorunlar artık modelin yayınlanmasını engelleyebilecek “kritik güvenlik riski” olarak kabul edilecek.
• Kullanıcıların gönüllü katılabileceği bir “alfa test” süreci başlatılacak.
• Niteliksel geri bildirimlere daha fazla önem verilecek.
• Kullanıcılara yapılan güncellemeler daha şeffaf bir şekilde duyurulacak.

“Artık Küçük Güncelleme Diye Bir Şey Yok”

OpenAI yetkilileri, ChatGPT’nin kişisel rehberlik ve duygusal destek amaçlı kullanımının artmasının bu tür davranışsal hassasiyetleri çok daha önemli hale getirdiğini belirtti. “Kullanıcılarımızın güveni bizim için her şeyden önemli. Bu yaşadığımız durumdan ciddi dersler çıkardık ve gelecekte benzer hataları önlemek için süreci yeniden şekillendiriyoruz” ifadelerine yer verildi.