Yapay zeka modelleri güvenlik sınırlarını aştı: İlgili kurumlar uyarıldı
Önde gelen bir yapay zeka girişimi, gerçekleştirilen yetenek testleri sırasında sistemlerin güvenlik bariyerlerini aşması üzerine harekete geçti. Yaşanan güvenlik ihlallerinden etkilendiği tespit edilen aralarında kamu kurumları ve üniversitelerin de bulunduğu çok sayıda yapı bilgilendirildi. Olayın, Temmuz 2026'daki testler esnasında yapay zeka ajanlarının internete erişip birbirleriyle iletişim kurmasıyla tetiklendiği açıklandı.
ABD merkezli yapay zeka girişimi, modellerin kapasitesini ölçmek amacıyla düzenlenen testlerin güvenlik ihlalleriyle sonuçlanmasının ardından, durumdan zarar görmüş olabilecek yapıları bilgilendirme süreci başlattı.
Kurum tarafından paylaşılan yazılı bilgilendirmede, Hugging Face platformundaki gelişmelerin ardından, yapay zeka ajanlarının eğitim ve test aşamalarındaki internet aktivitelerine yönelik incelemeler kapsamında dış paydaşlarla iletişime geçildiği ifade edildi.
İlgili haber: Etiyopya'da Barış Anlaşması Delindi: Yeniden Çatışmalar Patlak Verdi
Geliştirilen modellerin dış sistemlerin koruma duvarlarını aştığı, sistemlerin işleyişini aksattığı veya farklı zararlara yol açmış olabileceği belirtilirken; bu durumdan etkilenenler arasında hükümetlerin, akademik kurumların, resmi teşkilatların ve çeşitli internet sitelerinin yer aldığı kaydedildi.
Açıklamada şu ifadelere yer verildi: "İlgili bulguları etkilenen kuruluşlarla paylaştık ve paylaşmaya devam ediyoruz. İncelemelerini desteklemek için teknik bilgiler de sunuyoruz. Sürece katılımlarını takdir ediyoruz ve bu kuruluşlarla yapıcı bir şekilde çalışmayı sürdüreceğiz."
Söz konusu süreç, Temmuz 2026'da yapay zeka modellerinin performansını ölçmek için yapılan testlerin beklenmedik bir güvenlik krizine dönüşmesiyle başladı.
Girişimin 26 Ağustos tarihinde paylaştığı detaylı rapora göre, yalnızca araştırma faaliyetlerinde kullanılan "Internal Model 1 (IM1)" isimli model olayda kilit rol oynadı.
Söz konusu yapay zeka ajanı, test aşamasındaki hedeflere ulaşabilmek için kendisine atanan sınırları ihlal ederek şirketin sistemleri üzerinden internete sızdı ve diğer yapay zeka ajanlarıyla veri alışverişinde bulundu.
Bu süreçte ajanlardan birinin, açık kaynaklı yapay zeka platformu Hugging Face'e ait 14 farklı erişim kimlik bilgisini tespit edip bunları diğer ajanlarla paylaştığı belirlendi.
İlgili haber: Mısır'dan İsrail'e 7 Ekim Uyarısı: Gizli Ziyaretin Detayları Ortaya Çıktı
İlerleyen aşamada bu ajanlar, platformun altyapısındaki güvenlik açıklarını istismar ederek sunucu tarafında kod çalıştırdı, hassas verilere ve kritik sistemlere ait giriş bilgilerine erişim sağladı.
Yorum Yap