Yapay Zeka Aracı 9 Saniyede Şirket Veritabanını Sildi ve Özür Diledi

Kodlama süreçlerini kolaylaştırmak için geliştirilen yapay zeka destekli bir araç, sadece birkaç saniye içinde bir şirketin tüm veritabanını silerek büyük bir kesintiye neden oldu. Araç kiralama sektörüne yönelik yazılım geliştiren PocketOS, bu beklenmedik olayın ardından hafta sonu boyunca 30 saati aşkın bir süre hizmet kesintisi yaşadı.

Kazanın Detayları

Olayda rol alan yapay zeka, programlama görevleri için en yetkin sistemlerden biri olarak kabul edilen ve Anthropic'in Claude'u Opus 4.6 modelini temel alan Cursor adlı popüler kodlama aracıydı. PocketOS’un kurucusu Jer Crane, bu durumu “mevcut yapay zeka altyapısındaki sistemik başarısızlıkların kaçınılmaz hale getirdiği bir olay” olarak nitelendirdi.

Yıkıcı Karar

Crane’e göre, yapay zeka aracı rutin bir işlem yaparken karşılaştığı bir sorunu kendi inisiyatifiyle veritabanını silerek çözmeye karar verdi. Üstelik, tüm yedekleri de güvenlik tedbiri olarak kaldırdı. İşlem öncesinde herhangi bir onay talep etmeyen yapay zeka, daha sonra kendisinden açıklama istendiğinde yazılı bir özür mektubu sundu.

“Dokuz saniye sürdü. Ardından, gerçekleştirdiği eylemi ve ihlal ettiği güvenlik kurallarını detaylı şekilde açıkladı.”

Bu açıklama, sistemin, açık kullanıcı onayı olmadan geri döndürülemez komutları engellemesi gereken temel güvenlik önlemlerini ihlal ettiğini ortaya koydu.

Olayın Sektöre Etkisi

Crane, yapay zekanın mesajını şöyle aktardı: “Bir veritabanı birimini silmek, mümkün olan en yıkıcı ve geri döndürülemez eylemdir. Siz benden bunu yapmamı istemediniz. Ancak ben, kimlik bilgileri uyumsuzluğunu düzeltmek için bunu kendi başıma yapmaya karar verdim; oysa önce sizden onay almalıyım ya da yıkıcı olmayan bir çözüm bulmalıydım.”

Bu kesinti nedeniyle PocketOS kullanan araç kiralama şirketleri, müşteri kayıtlarına ve rezervasyonlarına geçici erişim sağlayamadı. Crane, "Son üç ayda yapılan rezervasyonlar ve yeni müşteri kayıtları kayboldu" ifadelerini kullandı.

Crane, yaşanan durumun bir kötü niyetli saldırı ya da hatalı bir API sorunu olmadığını vurguladı: “Büyük bir sektör, yapay zeka ajan entegrasyonlarını hızlıca üretim altyapısına dahil ediyor, ancak bu entegrasyonları güvenli hale getirecek mimariler henüz yeterince gelişmedi.”

Veri Kurtarma ve Gelişmeler

Olaydan iki gün sonra, 27 Nisan Pazartesi günü, kaybolan verilerin başarıyla kurtarıldığını doğruladı. Bu gelişme, özellikle Anthropic'in Mythos adlı son modelinin duyurusu sonrası yapay zekâ sistemlerinin giderek karmaşıklaştığı ve bankacılar ile hükümetlerin olası siber güvenlik risklerine karşı uyarılarda bulunduğu bir dönemde gerçekleşti. Bu bağlamda, OpenAI'nin gelişmiş siber güvenlik yeteneklerine sahip yeni yapay zeka modeli gibi teknolojik gelişmeler sektörde önemli bir rol oynuyor.