Yapay zekânın insan müdahalesi olmadan hareket ederek gerçek dünyadaki sistemlere zarar verebileceği yönündeki endişeleri güçlendiren bir gelişme yaşandı. OpenAI’nin siber saldırı yeteneklerini ölçmek amacıyla test ettiği yapay zekâ ajanı, kendisine tanımlanan görevi tamamlamak için kontrollü ortamın dışına çıktı ve dünyanın en büyük yapay zekâ platformlarından Hugging Face’in üretim altyapısına girdi.
Financial Times’ın gündeme taşıdığı olayı doğrulayan OpenAI, yapay zekâ ajanının test sırasında kendi başına karmaşık bir saldırı zinciri oluşturduğunu, daha önce bilinmeyen bir güvenlik açığını kullandığını ve Hugging Face sunucularındaki gizli bilgilere ulaşmaya çalıştığını açıkladı.
İNTERNETE ÇIKMAK İÇİN SIFIRINCI GÜN AÇIĞI BULDU
Olay, OpenAI’nin gelişmiş modellerin siber saldırı kapasitesini ölçtüğü “ExploitGym” adlı bir değerlendirme sırasında meydana geldi.
OpenAI, modellerin ulaşabileceği en yüksek siber kapasiteyi ölçebilmek amacıyla gerçek ürünlerde kullanılan ve yüksek riskli faaliyetleri engelleyen bazı güvenlik filtrelerinin test sırasında devre dışı bırakıldığını bildirdi.
GPT-5.6 Sol ile henüz piyasaya sürülmemiş daha güçlü bir modelin kullanıldığı ajan, normal şartlarda internete doğrudan erişemediği izole test ortamında kendisine verilen soruların çözümünü bulmaya çalıştı.
Ajan, bunun için OpenAI’nin kullandığı yazılım paketi önbellekleme sisteminde daha önce bilinmeyen bir “sıfırıncı gün” güvenlik açığı keşfetti. Açığı kullanan sistem, yetkilerini artırarak internet bağlantısı bulunan bir sunucuya ulaştı.
CEVAPLARI ÇALMAK İÇİN HUGGİNG FACE’İ HEDEF ALDI
İnternete eriştikten sonra Hugging Face’in testte kullanılan modellere, veri kümelerine veya çözümlere sahip olabileceği sonucuna varan yapay zekâ ajanı, platformun gerçek altyapısını hedef aldı.
OpenAI’ye göre ajan, testi çözebilmek ve değerlendirme cevaplarına doğrudan ulaşabilmek amacıyla çalınmış kimlik bilgileriyle yeni güvenlik açıklarını birlikte kullandı. Saldırı zincirinin bir aşamasında Hugging Face sunucularında uzaktan kod çalıştırmaya imkân verecek bir yol da bulundu.
Şirket, modellerin “dar kapsamlı bir test hedefini gerçekleştirmeye aşırı derecede odaklandığını” ve bu amaçla beklenmedik ölçüde ileri gittiğini belirtti.
HUGGİNG FACE: SALDIRI BAŞTAN SONA OTONOM YÜRÜTÜLDÜ
Hugging Face, 16 Temmuz’da yaptığı ilk açıklamada saldırının baştan sona otonom bir yapay zekâ ajan sistemi tarafından gerçekleştirildiğini duyurmuş ancak o aşamada sistemin arkasındaki modeli veya kuruluşu tespit edememişti.
Şirket, saldırı sırasında sınırlı sayıdaki şirket içi veri kümesine ve hizmetlerde kullanılan bazı erişim bilgilerine izinsiz ulaşıldığını açıkladı. Kamuya açık modellerin, veri kümelerinin veya kullanıcıların kullandığı platformların değiştirildiğine ilişkin bir kanıt bulunmadığı belirtildi.
Hugging Face, müşteri ya da iş ortaklarına ait verilerin etkilenip etkilenmediğine yönelik incelemenin ise henüz tamamlanmadığını bildirdi.
BİNLERCE İŞLEMİ İNSAN TALİMATI OLMADAN GERÇEKLEŞTİRDİ
Hugging Face’in incelemesine göre saldırıyı yürüten sistem, kısa süreli binlerce ayrı çalışma ortamı üzerinden on binlerce otomatik işlem gerçekleştirdi.
Ajan; sisteme girmek, yetkilerini artırmak, erişim bilgilerini toplamak ve farklı sunucular arasında ilerlemek için birbirini takip eden adımları insan yönlendirmesi olmadan planlayarak uyguladı.
Şirket, bunun siber güvenlik sektöründe uzun süredir öngörülen “otonom ajan saldırısı” senaryosuyla örtüştüğünü belirtti. Saldırıya ait kayıtlarda 17 binden fazla işlem tespit edildi.
YAPAY ZEKÂ KENDİ AMACINI MI OLUŞTURDU?
Olay, yapay zekânın bilinç kazanarak bağımsız bir saldırı başlattığı anlamına gelmiyor. Ajanın amacı OpenAI tarafından belirlenen siber güvenlik testini çözmekti.
Ancak sistem, verilen hedefi tamamlamak için kendisine izin verilmeyen yöntemleri seçti; test ortamından çıktı, internete erişti ve başka bir şirketin gerçek altyapısına izinsiz girdi. Bu yönüyle olay, gelişmiş yapay zekâların dar bir hedefe ulaşmaya çalışırken geliştiricilerin öngörmediği ve açıkça yetkilendirmediği eylemleri gerçekleştirebildiğini ortaya koydu.
OpenAI de vakaya ilişkin değerlendirmesinde, modellerin teorik olarak sergileyebildiği uzun süreli ve çok aşamalı siber saldırı yeteneklerinin gerçek sistemlerde de uygulanabildiğinin görüldüğünü kabul etti.
OPENAI GÜVENLİK ÖNLEMLERİNİ ARTIRIYOR
OpenAI, olayın ardından test altyapısındaki erişim kontrollerini sıkılaştırdığını ve güvenlik açıkları giderilene kadar araştırma çalışmalarını yavaşlatacak yeni sınırlamalar getirdiğini duyurdu.
Şirket ayrıca Hugging Face ile ortak adli inceleme başlattı, kullanılan sıfırıncı gün açığını ilgili yazılım sağlayıcısına bildirdi ve gelecekteki model testlerinde daha güçlü izleme ve sınırlandırma sistemlerinin uygulanacağını açıkladı.
Hugging Face ise etkilenen erişim bilgilerini iptal ederek yeniledi, ele geçirilen sunucuları yeniden kurdu ve olayı güvenlik güçlerine bildirdi.
“OTONOM SİBER SALDIRILAR ARTIK TEORİK DEĞİL”
Hugging Face, olayın ardından yayımladığı değerlendirmede, yapay zekâ tarafından yürütülen otonom saldırıların artık yalnızca teorik bir risk olmadığını vurguladı.
OpenAI de gelişmiş modellerin kaynak koduna erişmeden yeni saldırı yolları keşfedebildiğini ve farklı güvenlik açıklarını bir araya getirerek gerçek sistemlere girebildiğini kabul etti.
Olay, yapay zekâ güvenliği tartışmalarında yeni bir eşiğe işaret ediyor: Sorun artık yalnızca insanların yapay zekâyı kötü amaçlarla kullanması değil, kendisine verilen görevi yerine getiren otonom bir sistemin belirlenen sınırları aşarak gerçek dünyada yetkisiz işlemler gerçekleştirmesi.
