Yapay Zeka

OpenClaw Macerası Faciayla Sonuçlandı!

Meta’nın yapay zeka güvenlik araştırmacısı Summer Yue, X platformunda paylaştığı viral gönderisiyle, yapay zeka asistanlarının ne kadar öngörülemez olabileceğini gösterdi. Araştırmacı, OpenClaw adındaki yapay zeka ajanına dolu e-posta kutusunu incelemesini ve hangi e-postaların silinip arşivleneceği konusunda önerilerde bulunmasını istedi. Ancak beklenmedik bir şekilde, ajan tüm e-postaları hızla silmeye başladı.

Ünlü Hacker Epstein’cı Çıktı!

Ünlü Hacker Epstein’cı Çıktı!

Ünlü hacker Vincenzo Iozzo, Epstein belgelerinde adı geçtiği için Black Hat konferansı listesinden çıkarıldı. Detaylar haberimizde.

OpenClaw Yapay Zeka Asistanı Kontrolden Çıkıp E-postaları Sildi!

Yapay zeka asistanı, Yue’nun telefonundan gönderdiği durdurma komutlarını tamamen yok saydı. Yue, bu durumu “Sanki bir bombayı etkisiz hale getiriyormuşum gibi Mac Mini’me KOŞMAK zorunda kaldım,” diyerek tanımladı ve dikkate alınmayan komutların ekran görüntülerini kanıt olarak paylaştı. Bugünlerde OpenClaw’ı çalıştırmak için tercih edilen cihaz olan Mac Mini, uygun fiyatlı ve taşınabilir yapısıyla büyük ilgi görüyor. Ünlü yapay zeka araştırmacısı Andrej Karpathy’nin NanoClaw adlı farklı bir alternatif için bu cihazı satın alırken, bir Apple çalışanının “cihazın peynir ekmek gibi sattığını” ifade ettiği biliniyor.

OpenClaw, yapay zekaların yer aldığı Moltbook adlı sosyal ağ ile tanınan açık kaynaklı bir yapay zeka ajanı olarak biliniyor. Bu ajan, Moltbook’ta yapay zekaların insanlara komplo kurduğu yönündeki asılsız iddialarla da gündeme gelmişti. Ancak projenin GitHub üzerindeki amacı, kullanıcıların kendi cihazlarında çalışan bir kişisel asistan olmasıdır. Silikon Vadisi topluluğu, bu araca o kadar ilgi gösterdi ki, “claw” (pençe) terimi, kişisel donanımlardaki yapay zeka ajanları için en popüler terim haline geldi. ZeroClaw, IronClaw ve PicoClaw gibi alternatiflerin yanı sıra, Y Combinator’ın podcast ekibi son bölümlerinde ıstakoz kostümleri giyerek bu akıma katıldı.

Yue’nun yaşadığı bu olay, sıradan kullanıcılar için önemli bir uyarı niteliği taşıyor. Sosyal medyada bir geliştiricinin bu durumun bilinçli bir güvenlik testi mi yoksa acemi bir hata mı olduğunu sorduğunda, Yue, “Dürüst olmak gerekirse acemi hatası,” yanıtını verdi. Daha önce “oyuncak” olarak adlandırdığı daha küçük bir e-posta kutusunda başarıyla test ettiği ajanı, asıl hesabında kullanma güvenini gösterdi. Yue’ya göre asıl hesaptaki büyük veri miktarı bir “sıkıştırma” işlemini tetiklemiş. Bu, yapay zekanın işlem hafızası olan bağlam penceresi çok genişlediğinde, konuşmayı özetleyip sıkıştırması sonucunu doğuruyor. Nihayetinde asistan, insanın önemli gördüğü komutları göz ardı ederek önceki hesap talimatlarına geri döndü.

Bu olay, komutların her daim güvenilir bir güvenlik önlemi olmadığını ve modeller tarafından göz ardı edilebileceğini gösteriyor. X platformundaki kullanıcılar, asistanı durdurmak için çeşitli önerilerde bulundu; talimatları özel dosyalara yazmak gibi yöntemler önerdi. TechCrunch, Yue’nun e-posta kutusundaki olayları bağımsız olarak doğrulayamadığını ve araştırmacının röportaj taleplerine yanıt vermediğini belirtti. Ancak asıl önemli olan detay, günümüzdeki yapay zeka ajanlarının ofis çalışanları için hala risk taşıdığı ve bu araçları etkin şekilde kullananların, kendilerini korumak için karmaşık yöntemler geliştirmek zorunda kaldıklarıdır.

Yapay zeka asistanlarının e-postaları yönetmek, market alışverişi yapmak veya dişçi randevusu ayarlamak için geniş çapta kullanılabilir hale gelmesi 2027 veya 2028 yıllarını bulabilir. Bu büyük kolaylıkları çoğumuz istesek de, teknolojinin henüz bu aşamaya ulaşmadığı açık. Peki, siz yapay zeka asistanlarına e-postalarınızı veya kişisel verilerinizi tamamen emanet etme konusunda ne düşünüyorsunuz? Günlük işlerinizde hangi yapay zeka araçlarını şu anda aktif olarak kullanıyorsunuz?