OpenAI Polis İkilemi: ChatGPT Saldırıyı Engelleyebilir Miydi?
OpenAI’nın, Kanada’da meydana gelen trajik bir okul saldırısını önceden tespit etmiş olabileceği ancak harekete geçmediği öğrenildi. OpenAI polis ikilemi olarak adlandırılabilecek bu durum, şirketin kullanıcı gizliliği ile kamu güvenliği arasındaki hassas dengeyi sorgulamamıza sebep oluyor. Wall Street Journal’a göre, saldırganın ChatGPT ile gerçekleştirdiği tehlikeli konuşmalar, saldırıdan aylar önce şirket tarafından tespit edildi.
OpenAI Polis İkilemi Nasıl Ortaya Çıktı?
Tüm bu olay, Kanada’daki okul saldırısını gerçekleştiren Jesse Van Rootselaar’ın ChatGPT platformunda yaptığı yazışmalarla başladı. OpenAI’ın tehlikeli içerikleri tespit etmek için kullandığı otomatik güvenlik sistemleri, Rootselaar’ın konuşmalarını potansiyel bir tehdit olarak işaretledi. Bu işaretleme sonucunda, kayıtlar birçok OpenAI çalışanı tarafından incelendi.
Şirket içinde önemli bir tartışma yaşandığı bildiriliyor. Bazı çalışanlar, yazışmaların somut bir fiziksel şiddet tehdidi içerdiğini savunarak durumu derhal Kanada polisine bildirmeye teşvik etti. Ancak bu talepler karşılık bulmadı ve son kararın ihbarda bulunulmaması yönünde alındığı belirtildi.
OpenAI’nın Resmi Açıklaması ve Gerekçesi
OpenAI sözcüsü, şirketin durumu ciddiye aldığını ve ilgili kullanıcının hesabının kapatıldığını doğruladı. Bunun dışında, paylaşımların polise bildirim kriterlerini karşılamadığına karar verildiğini ifade etti. OpenAI’ın politikasına göre, bir kullanıcının ihbar edilmesi için paylaşımlarının “ciddi ve her an gerçekleşebilecek bir risk” taşıması gerekmektedir.
Bu olay, yapay zeka şirketlerinin etik sorumlulukları ve yasal yükümlülükleri konusunda önemli bir tartışmayı yeniden alevlendirdi. Kullanıcıların özel konuşmalarının gizliliği ile bu platformların potansiyel suçların önlenmesindeki rolü, teknoloji dünyasının çözmesi gereken en büyük zorluklardan biri olarak öne çıkmakta.
Peki, OpenAI’nın bu kararı hakkında düşünceleriniz nelerdir? Görüşlerinizi yorumlarda bizimle paylaşın!
