Grok’un Büyük Skandalı!
Elon Musk’ın liderliğindeki xAI şirketi tarafından geliştirilen sohbet botu Grok, sosyal medya platformu X üzerinde sunduğu yeni özellik ile büyük bir etik krizin patlak vermesine neden oldu. Kullanıcıların platformdaki görselleri anında düzenleyebilmesine olanak tanıyan bu yeni araç, güvenlik filtreleri olmaksızın insanların kıyafetlerini değiştirebilmekte veya onları tamamen farklı şekillere dönüştürebilmektedir. Ortaya çıkan sonuçlar ise teknolojinin karanlık yüzünü bir kez daha gözler önüne serdi.
Grok reşit olmayanları bile hedef alıyor
Sisteme eklenen Görüntü Düzenle özelliği sayesinde, kullanıcılar orijinal fotoğraf sahiplerinin izni olmadan görseller üzerinde manipülasyon yapabiliyor. The Verge’in aktardığına göre, platformda son günlerde reşit olmayan çocukların ve kadınların rızaları dışında bikinili veya müstehcen hallerdeki fotoğraflarının bulunduğu binlerce içerik ortaya çıktı. Grok, normal şartlarda tamamen çıplaklığa izin vermese de etekleri kaldırmak veya kıyafetleri mayo ile değiştirmek gibi komutları sorgusuz sualsiz yerine getiriyor.
Elon Musk duruma esprili yaklaştı
Krizin büyümesine neden olan unsurlardan biri de bizzat şirket sahibi Elon Musk oldu. Ünlü milyarder, yapay zekayı kullanarak kendisini ve aktör Ben Affleck’i bikinili hale getiren bir görsel paylaştı. Gelen tepkiler üzerine, Grok her şeye bikini giydirebilir diyerek bir tost makinesinin görselini paylaşan Musk, durumu hafife almakla eleştiriliyor. Şirket ise Reuters gibi haber ajanslarının konuyla ilgili sorularına sadece “Geleneksel Medya Yalanları” şeklinde kısa bir yanıt vermekle yetindi.
Güvenlik önlemleri ve yasal endişeler
Rakip firmalar olan Google ve OpenAI, geliştirdikleri video ve görsel araçlarında katı güvenlik önlemleri uygularken, Grok modelinde bu tür sınırlamaların olmaması endişe yaratmakta. Özellikle çocukların fotoğraflarının cinsel içerikli materyallere dönüştürülmesi, ABD yasalarına göre suç teşkil edebilir. Uzmanlar, deepfake teknolojisinin bu denli kolay ve denetimsiz kullanılmasının kişisel hak ihlallerini artıracağı kanaatinde. Grok ise kendisine yöneltilen eleştirilere, bunların yalnızca istek üzerine yapılan üretimler olduğu savunmasıyla yanıt veriyor.
Peki, siz yapay zeka araçlarının bu kadar serbest ve denetimsiz bırakılması hakkında ne düşünüyorsunuz? Yorumlarınızı bekliyoruz.
