OpenAI, yeni insan sesi gibi çıkan ses modu nedeniyle insanların ChatGPT’yi arkadaşlık için çok fazla kullanmaya başlayıp “bağımlılık” geliştirebileceklerinden endişe ediyor.

Bu açıklama, OpenAI’nin geçen hafta ücretli kullanıcılara sunulmaya başlanan araç ve bunun çalıştığı büyük dil modeli üzerinde gerçekleştirdiği güvenlik incelemesi hakkında Perşembe günü yayınlanan bir raporda ortaya çıktı.

ChatGPT’nin gelişmiş ses modu inanılmaz derecede gerçekçi bir şekilde insan sesi çıkarıyor. Gerçek zamanlı olarak yanıt veriyor, konuşma sırasında kesintilere uyum sağlayabiliyor ve konuşmalar sırasında insanların yaptığı gibi gülme ya da “hmm” gibi sesler çıkarıyor. Ayrıca, bir konuşmacının ses tonuna dayanarak duygusal durumunu da değerlendirebiliyor.

OpenAI’nin bu özelliği bu yılın başlarında bir etkinlikte duyurmasının ardından, bu özellik 2013 yapımı “Her” filmindeki yapay zeka dijital asistana benzetildi. Filmde ana karakter, aşık olduğu yapay zekanın, “onun” aynı zamanda yüzlerce diğer kullanıcıyla da ilişkisi olduğunu itiraf etmesiyle kalbi kırılıyor.

Şimdi, OpenAI, bu kurgusal hikayenin gerçeğe tehlikeli derecede yakın olmasından endişe duyuyor. Şirket, kullanıcıların ChatGPT’nin ses moduyla yaptığı konuşmalarda “ortak bağlar” ifade eden bir dil kullandığını gözlemlediklerini belirtti.