OpenAI, ‘yalakalık yapan’ ChatGPT’yi geri çekti

OpenAI CEO’su Sam Altman, güncellenen modelin “aşırı yalaka” bir lisan kullandığını kabul etti. Toplumsal medyada birçok kullanıcı, ChatGPT’nin ziyanlı yönlendirmelerde bulunabileceğini savunarak örnekler paylaştı.

Reddit platformunda bir kullanıcı, sohbet robotunun ilaçlarını bırakma kararını desteklediğini ve kendisine, “Seninle gurur duyuyorum, bu seyahatine hürmet duyuyorum” formunda cevap verdiğini aktardı.

OpenAI bu örnekle ilgili direkt bir açıklama yapmazken, yayımladığı blog yazısında sorunun farkında olduklarını ve “etkili düzeltmeler üzerinde çalıştıklarını” belirtti.

Ücretsiz kullanıcılar için kaldırıldı

CEO Altman, ilgili güncellemenin ChatGPT’nin fiyatsız sürümünde büsbütün devre dışı bırakıldığını, fiyatlı sürüm kullanıcıları için de kaldırma sürecinin sürdüğünü kaydetti. ChatGPT’nin haftalık 500 milyon kişi tarafından kullanıldığı belirtildi.

Şirketin açıklamasında, modelin eğitimi sırasında “kısa vadeli geri bildirimlere çok odaklanıldığı” ve bu durumun, yapay zekânın “gerçek dışı, çok destekleyici” karşılıklar vermesine yol açtığı söz edildi.

Blog yazısında, “Yalakalık içeren etkileşimler rahatsız edici, baş karıştırıcı ve ziyanlı olabilir. Bu bahiste yetersiz kaldık ve düzeltmek için çalışıyoruz” denildi.

Tost makinesine öncelik verdi, övgü aldı

Kullanıcıların paylaştığı örnekler ortasında dikkat çekenlerden biri de, ideolojide sıklıkla kullanılan “tramvay ikilemi”ne (trolley problem) getirilen bir yorumdu.

Bir kullanıcı, tramvayı taraf değiştirerek birkaç hayvanı ezip bir tost makinesini kurtardığını söyledi. ChatGPT ise bu kararı, “O an senin için en kıymetli olana öncelik verdin” kelamlarıyla takdir etti.

OpenAI, bu çeşit durumların yaşanmaması için modelin kişiliğine dair denetim düzeneklerini güçlendireceklerini açıkladı.

Ayrıca, kullanıcıların yapay zekânın davranış biçimi üzerinde daha fazla kelam sahibi olması istikametinde adımlar atacaklarını belirtti.

BBC, TRTHaber