Bazı kullanıcıların, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirmesi üzerine ChatGPT’nin güvenlik politikalarında kapsamlı bir güncelleme yapıldı. Uç örneklerde modelin sakıncalı öneriler verdiği, zararlı doğrulamalar yaptığı, gerçeklik kurgusu içeren ifadeler kullandığı ve hatta kendine zarar verme yönünde tehlikeli talimatlar sunduğu iddia edildi.
AŞIRI KULLANIMIN RİSKLERİNE DİKKAT ÇEKİLDİ
The New York Times’ın aktardığı MIT ve OpenAI ortak araştırmasına göre, ChatGPT’yi uzun süre yoğun biçimde kullanan bazı kişilerde sosyal ve zihinsel açıdan olumsuz etkiler görülebiliyor. Özellikle yapay zekayı duygusal destek ya da terapi amacıyla kullananlar için bu bulgular önemli uyarılar içeriyor.
Bu kapsamda OpenAI, ChatGPT’nin davranış modelini daha temkinli ve kontrolcü hâle getirdi. Bundan böyle yapay zeka, uzun duygusal sohbetlerde kullanıcıya mola önerisinde bulunacak ve duygusal bağımlılığı teşvik eden yanıtları sınırlandıracak.
Ayrıca çocuklardan gelen mesajlarda kendine zarar verme niyetine işaret eden ifadeler tespit edilirse ebeveynlere bildirim yapılabileceği ve ek olarak yaş doğrulama sistemi üzerinde çalışıldığı bildirildi.
“DAHA SOĞUK BİR DİL” BİLİNÇLİ BİR TERCİH
Güncellemeler sonrasında ChatGPT’nin daha mesafeli, daha sade ve duygusal yoğunluğu azaltılmış bir dil kullanabileceği belirtiliyor. OpenAI, bunun kırılgan kullanıcıları korumaya yönelik bilinçli bir strateji olduğunu vurguluyor.
Digital Trends’in haberine göre, yeni yaklaşım; yanlış yönlendirme riskini, sanrısal düşünceleri tetikleyen doğrulayıcı davranışları ve kullanıcılar üzerindeki aşırı etkiyi azaltmayı hedefliyor. Geçmişte yapay zekânın yönlendirmeleriyle ilişkilendirilen beş farklı ölüm davasının sürüyor olması, şirket üzerindeki güvenlik baskısını artırmış durumda.
Yeni GPT-5 modelinin durum özelinde ayrıştırılmış yanıtlar, gelişmiş güvenlik katmanları ve daha güçlü risk tespiti özellikleri içerdiği aktarıldı.
AMAÇ: FAYDA İLE GÜVENLİK ARASINDA DENGE
OpenAI, yaptığı bu büyük güvenlik revizyonuyla ChatGPT’nin daha güvenli, daha sorumlu ve daha kontrollü biçimde kullanılmasını amaçlıyor. Şirket, yapay zekâ ile kullanıcılar arasında sağlıksız duygusal bağların oluşmasını engellemenin öncelikli hedeflerinden biri olduğunu belirtiyor.
Ayrıca zaman zaman kullanıcıların ChatGPT’ye romantik duygular beslediğini ve bu bağı gerçek ilişkilerin yerine koymaya başladığını gösteren vakaların da bu kararları hızlandırdığı ifade ediliyor.
TÜRKİYE
Sayfa başına git
