Investing.com — OpenAI, Aralık ayından itibaren doğrulanmış yetişkin kullanıcıların ChatGPT’de erotik içerik oluşturmasına izin vermeyi planlıyor. CEO Sam Altman Salı günü bu açıklamayı yaptı. Bu karar, bir zamanlar cinsel veya romantik içerikler konusunda katı sınırlar koyan şirket için önemli bir politika değişikliğini işaret ediyor.
Altman X platformunda şöyle yazdı: “Ruh sağlığı konularında dikkatli olmak için ChatGPT’yi oldukça kısıtlayıcı hale getirdik. Artık bu riskleri azaltabildik ve yeni araçlarımız var. Böylece çoğu durumda kısıtlamaları güvenle gevşetebiliriz.”
OpenAI daha önce kullanıcılar arasında duygusal bağımlılık ve ruh sağlığı endişelerini azaltmak için cinsel içerikler konusunda sıkı sınırlar koymuştu. Altman, bu yeni hamlenin daha güçlü güvenlik sistemlerine olan güveni ve “yetişkin kullanıcılara yetişkin gibi davranma” ilkesini yansıttığını belirtti.
Bununla birlikte, OpenAI merkezi bir zorlukla karşı karşıya: Kısıtlamaları gevşetirken koruma önlemlerini nasıl yerinde tutacak? Şirket, yaş doğrulama, isteğe bağlı kişilik ayarları ve yükseltilmiş moderasyon araçlarına güvenerek kötüye kullanımı önlemeyi ve çocukları korumayı hedefliyor.
Bu değişiklik, Elon Musk liderliğindeki xAI’ın 18+ “baharatlı” modunu ve flörtöz yapay zeka arkadaşlarını piyasaya sürmesinin ardından geliyor. Bu özellikler, samimiyet için tasarlanmış yapay zeka ekosisteminin büyüdüğünü gösteriyor.
Buna karşılık, Claude yapay zeka modellerinin arkasındaki güvenlik odaklı laboratuvar Anthropic daha analitik bir yaklaşım benimsedi. Şirketin iç araştırması, Claude konuşmalarının %0,1’inden daha azının romantik veya cinsel rol yapma içerdiğini ortaya koydu. Bu da yapay zeka samimiyeti kavramı büyük ilgi çekse de, pratikte marjinal bir davranış olarak kaldığını gösteriyor.
Altman son zamanlarda ChatGPT için verimliliğin ötesine geçen daha geniş bir vizyon ortaya koydu. ChatGPT’nin “tüm hayatınızı hatırlamasını” istediğini söyledi. Bu adımı, ömür boyu bir yardımcı hatta bir arkadaş olarak hizmet edebilecek bir sistem kurmanın kritik bir parçası olarak görüyor.
Ancak bu hedef beraberinde gerilim de getiriyor. Altman ayrıca kullanıcıların, özellikle de “herhangi bir karar vermeden önce ChatGPT’ye her şeyi anlatamayan” genç insanların yapay zekaya duygusal olarak çok bağımlı hale gelmesi konusunda uyardı. Yetişkin içeriğin ve ifade edici kişiliklerin tanıtılması, OpenAI’ın yardımseverlik, arkadaşlık ve kullanıcı seçimi arasında denge kurma becerisini test edecek. Ayrıca yapay zekasının gerçekten ne kadar insansı hissetmesi gerektiğine karar vermesi gerekecek.
Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.
