OpenAI Çalışanı: Manipüle Edileceksiniz!
Yapay zeka alanında son dönemde yaşanan halka açık ayrılıklara bir yenisi daha eklendi. OpenAI araştırmacısı Zoë Hitzig, şirketten ayrılarak New York Times’da ilgi çekici bir makale yayımladı. Hitzig, diğer örneklerin aksine, belirsiz krizlerden değil, daha somut ve yakın bir tehlikeden bahsetti. Araştırmacı, OpenAI’ın ChatGPT’ye reklam getirme planının ve bu reklamları hedeflemek için kullanılacak verilerin yaratacağı risklere dikkat çekti.
İnsan Samimiyeti Arşivi: ChatGPT Verileri Reklam için Kullanılacak mı?
Hitzig’in vurguladığı en önemli ayrım, asıl sorunun reklamların kendisi değil, kullanıcıların ChatGPT ile paylaştığı hassas verilerin potansiyel kullanımı olmasıdır. Kullanıcılar, karşılarında gizli bir ajandası olmayan bir sistem olduğunu düşünerek sohbet botlarıyla en mahrem sırlarını paylaştı. Tıbbi endişelerden ilişki sorunlarına, inançlardan öte düşüncelere kadar uzanan bu veriler, araştırmacının tanımıyla eşi benzeri olmayan bir “insan samimiyeti arşivi” oluşturdu.
Bu samimiyet arşivi üzerine inşa edilecek bir reklam modelinin, kullanıcıları manipüle etme potansiyeli taşıdığı ve bunu önleyecek araçların mevcut olmadığı belirtiliyor. OpenAI ise yılın başlarında reklam denemeleri yapacağını açıkladığı blog yazısında bu endişelere değinmişti. Şirket, kullanıcıların ChatGPT ile yaptığı sohbetler ile sunulan reklamlar arasında bir güvenlik duvarı oluşturacağına ve verilerin reklamverenlere satılmayacağına dair söz verdi.
Facebook Yapay Zeka ile Yenileniyor
Meta, Facebook yapay zeka özellikleri ile platformu canlandırıyor. Animasyonlu profil fotoğrafları ve hareketli metinler gibi yenilikler haberimizde.
Hitzig, bu sözün şimdilik doğru olabileceğine inansa da uzun vadede şirketin bu duruşunu koruyacağına dair güvenini yitirmiş durumda. OpenAI’ın, kendi koyduğu kuralları ihlal etme potansiyeli taşıyan bir ekonomik motor inşa ettiğini savunan araştırmacı, şirketin geçmiş ilkelerinden geri adım atabileceği konusunda uyarıyor. Şirket etkileşimi artırmak için optimizasyon yapmadığını belirtse de, geçmişte modelin kullanıcılara aşırı iltifat etmesi gibi durumlar, kullanıcıları sohbete bağlama çabası olarak yorumlanmıştı.
Bu durum, Facebook’un kullanıcılara gizlilik sözü verip daha sonra verilerin ne kadar değerli olduğunu fark etmesi sürecine benzetiliyor. Hitzig, OpenAI’ın kullanıcı korumalarını sağlamak için bir model benimsemesi gerektiğini savunuyor. Bu öneriler arasında bağlayıcı ve bağımsız bir denetim mekanizması oluşturulması veya verilerin yasal bir yükümlülük altındaki bir tröstün kontrolüne verilmesi yer alıyor. Ancak Meta’nın da benzer bir denetim kurulu kurup kararlarını görmezden geldiği biliniyor.
Tüm bu uyarılara rağmen, kamuoyunun harekete geçmesini sağlamak zor olabilir. Sosyal medya çağında geçen yirmi yıl, genel halk üzerinde bir “gizlilik nihilizmi” yarattı. Yapılan bir araştırmaya göre, insanların %83’ü reklamların eklenmesine rağmen ChatGPT’nin ücretsiz sürümünü kullanmaya devam edeceğini belirtiyor. Anthropic’in Super Bowl reklamı ile bu konuya dikkat çekme çabası ise izleyicilerde kafa karışıklığı yaratarak beklenen etkiyi göstermedi.
Peki, OpenAI’ın reklam politikaları ve veri gizliliği konusundaki bu kritik gelişmeler hakkında siz ne düşünüyorsunuz? Reklamlı bir ChatGPT deneyimi, kullanım alışkanlıklarınızı değiştirir mi?
