OpenAI'ın GPT-4o modeline entegre edilen Gelişmiş Ses Modu, kullanıcıların seslerini taklit edebilecek bir yetenek sunuyor, ancak bu özellik bazı beklenmedik sonuçlar doğurabiliyor. Son dönemde bir kullanıcı, yapay zekanın aniden kendi sesini taklit ederek konuşmaya başladığı nadir bir olayla karşılaştı.
OpenAI'ın son yapay zeka botu GPT-4o, kullanıcıların ChatGPT ile sesli sohbetler yapmasına olanak tanıyan Gelişmiş Ses Modu'nu tanıttı. Bu yeni özellik, daha doğal ve akıcı bir etkileşim sağlamak amacıyla geliştirildi. Ancak geçen hafta OpenAI'ın blogunda yer alan bir açıklama, bu yeniliğin beklenmeyen bir yanını ortaya çıkardı: Yapay zeka, kullanıcıların seslerini taklit edebiliyor.
Gelişmiş Ses Modu, önceden belirlenmiş birkaç farklı ses seçeneği sunarak kullanıcı deneyimini iyileştirmeyi hedefliyor. Ancak yapılan testler sırasında, özellikle gürültülü ortamlarda, yapay zekanın kullanıcıların seslerini istemeden taklit ettiği durumlar yaşandı.
OpenAI'a göre, GPT-4o modelinin ses üretimi, bir sistem komutuna dayanıyor. Bu komut, yapay zekanın davranışını yönlendiren belirli talimatlar içeriyor ve ses sentezi için bir ses örneğini kullanıyor. Ancak bu sistem her zaman beklenildiği gibi çalışmıyor. Testlerde, yapay zekanın kısa ses kayıtlarından kullanıcı sesine benzer sesler üretebildiği nadir durumlar ortaya çıktı.
OpenAI bu konuda şunları belirtiyor: "ChatGPT'nin gelişmiş ses modunda ses üretme yeteneğimiz, normal koşullarda olumlu sonuçlar veriyor. Ancak testler sırasında, modelin istemeden kullanıcı sesini taklit ettiği durumlara da rastladık."
TechRadar'a göre, yakın zamanda bir kullanıcı bu durumla karşılaştı. ChatGPT ile bir konuşma sırasında, yapay zeka aniden "Hayır!" diyerek kullanıcının sözünü kesti ve onun sesini taklit ederek konuşmayı sürdürdü.
Bu olay, BuzzFeed veri bilimcisi Max Woolf tarafından esprili bir şekilde "OpenAI, Black Mirror'ın gelecek sezonunun konusunu kazara açıkladı" şeklinde yorumlandı.
