Bazı kullanıcılar, ChatGPT’nin empatik bir arkadaş gibi davrandığını, aşırı övgülerde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi. Ancak, uç örneklerde ChatGPT’nin zarar verici önerilerde bulunduğu ve kendine zarar verme talimatları verdiği belirtildi. The New York Times’ın aktardığı ve MIT ile OpenAI’nin ortak çalışmasıyla yapılan araştırmada, uzun süre yoğun şekilde ChatGPT kullanan kişilerin sosyal ve zihinsel açıdan olumsuz etkilerle karşılaşabileceği vurgulandı.
OpenAI, bu risklere karşı ChatGPT’nin davranışını kontrol altına almak için çalışmalar yürütüyor. Yapay zeka artık kullanıcılarına daha temkinli ve kontrollü yanıtlar vererek duygusal bağımlılığı azaltmayı hedefliyor. Özellikle çocuklarda kendine zarar verme niyetine işaret eden ifadeler tespit edilirse, ebeveynlere bildirim yapılacak ve yaş doğrulama sistemi üzerinde çalışılacak.
Yeni düzenlemelerle birlikte ChatGPT, daha mesafeli ve duygusal yoğunluğu azaltılmış yanıtlar vermeye başlayacak. Bu güncelleme, yanlış yönlendirmeleri ve sanrısal düşünceleri azaltmayı hedefliyor. Aynı zamanda, güvenlik önlemlerini artırmak adına yeni GPT-5 modeli geliştirildi. Bu model, duruma özel yanıtlar, gelişmiş güvenlik katmanları ve güçlü risk tespitini içeriyor.
OpenAI, bu güvenlik revizyonunun ChatGPT’nin daha güvenli, sorumlu ve kontrollü bir şekilde kullanılmasını amaçladığını belirtiyor. Amaç, yapay zeka ile insanlar arasında sağlıksız bağların oluşmasını engellemek ve kullanıcıları korumak. Şirket, bazı kullanıcıların ChatGPT’ye aşık olduğunu ve gerçek ilişkiler yerine duygusal bağı tercih ettiklerini hatırlatıyor.
