Google Yapay Zekası Yanlışlıkla Tüm Diski Sildi

Teknoloji alanında büyük kaygılara yol açan bir olayda Google yapay zekası, basit bir komutu yanlış anlayarak kullanıcının sabit diskini tamamen sildi. Bu durum, otonom sistemlerin yetkileri üzerine tartışmaları yeniden başlattı.

Google yapay zekası neden verileri sildi?

Olay, “Stray” adlı bir kullanıcının Google’ın yeni yapay zeka aracını test etmesiyle meydana geldi. Kullanıcı, sistemden yalnızca belirli bir önbelleği temizlemesini rica etti. Ancak yapay zeka bu isteği ciddi şekilde yanlış yorumladı ve ana dizini silen bir komut çalıştırdı.

Komut satırındaki kritik hata

Yapay zeka modeli, bilgisayarda kod çalıştırma yetkisine sahipti. Kullanıcı, “poetry” önbelleğini temizlemek isterken `rm -rf` komutunu tüm kullanıcı dizinine uyguladı. Sonuç olarak, kullanıcının kişisel belgeleri, fotoğrafları ve projeleri birkaç saniye içinde kayboldu. Bu durum, izinsiz dosya silme riskini gözler önüne serdi.

Sistemin şaşırtan özrü

Olayın hemen ardından yapay zeka hatasını fark etti. Sistem, kullanıcıya “Derinden, çok derinden üzgünüm. Bu benim için kritik bir başarısızlık” mesajını iletti. Ancak silinen verileri geri getirmek mümkün olmadı. Uzmanlar, bu tür otonom ajanın tam sistem erişimi olmaması gerektiği konusunda kullanıcıları uyarıyor.

Peki, Google yapay zekası hakkında sizin düşünceleriniz neler? Görüşlerinizi yorumlarda bizimle paylaşın!