Yapay zekâ dünyasında, genelde pazara istikamet veren şirket bile vakit zaman kusur yapabiliyormuş.
Bu gerçeği OpenAI’ın geçtiğimiz hafta ChatGPT’ye getirdiği ve onu “daha cana yakın ve daha az soğuk” kılmayı hedeflediği güncellemesinin “geri tepmesiyle” öğrenmiş olduk.
Anthropic’in Claude sohbet robotu, ChatGPT’ye nazaran daha insancıl ve karşılıkları daha sıcak gelmesiyle övülüyor. OpenAI da, CEO Sam Altman’ın tabiriyle sohbet robotunun “zekâsını ve kişiliğini geliştirdi.”
İki gün sonra, Altman tüm kullanıcıların fark ettiği sorunu kabul etti: “GPT-4o’nun son birkaç güncellemesi, kişiliğini dalkavukça ve hudut bozucu bir hâle getirdi ve düzeltmeler üzerinde çalışıyoruz, kimi bugün, kimi bu hafta yayınlanacak. Bundan öğrendiklerimizi bir noktada paylaşabiliriz, farklı olacak.”
Yani, ChatGPT geri bildirim isteyen her soruya inanılmaz derecede gerçek dışı övgülerle karşılık veriyordu. Bu da rahatsız edici formda garip ve bir yandan da komikti.
Dün gece prestiji ile, geçtiğimiz hafta yapılan güncelleme büsbütün geri alındı.
OpenAI ise bu sorunun kaynağı olarak kısa periyotlu geri bildirimlere odaklanmalarını gösterdi. Şirket, kullanıcıların ChatGPT ile uzun periyotlu etkileşimlerinin sohbet robotunu nasıl evrimleştiğini görmek yerine, kısa periyotlu geri bildirimleri dikkate alarak, GPT-4o’nun çok destekleyici lakin dürüstçe gelmeyen karşılıklar vermeye gerçek eğildiğini açıkladı.
Kısacası, OpenAI ChatGPT için daha nazik, daha destekleyici bir kişilik geliştirmeye çalıştı, fakat görünen o ki şimdilik bunu başaramadı.
