Google, En Güçlü Yapay Zeka Modelini Güvenlik Sebebiyle Sınırlı Kullanıma Açtı
Google, siber saldırılarda kötüye kullanılma riskine karşı en gelişmiş yapay zeka modeli Gemini 4 Argon'u genel erişime kapatma kararı aldı. Şirket, yeni modeli yalnızca güvenlik kontrolünden geçen uzmanların ve ABD hükümetinin erişimine sunacak. Aşamalı olarak test edilecek olan sistem, geniş çapta kullanıma sunulmadan önce siber güvenlik odaklı geri bildirimlerle geliştirilecek.
Yapay zeka teknolojilerinde güvenlik endişeleri sebebiyle temkinli adımlar atılmaya devam ediyor. Google'ın yapay zeka baş mimarı Koray Kavukcuoğlu, üst düzey yeteneklere sahip modellerin güvenli bir şekilde sunulabilmesi için kademeli bir strateji izlenmesi gerektiğini vurguladı. Bu kapsamda şirket, en gelişmiş modeli olan Gemini 4 Argon'u genel kullanıma sunmak yerine sadece güvenlik soruşturmasından geçmiş sınırlı sayıdaki uzmanın kullanımına açtı. ABD hükümetine de modele erken erişim hakkı tanınırken, sistemin geniş kitlelerle buluşmadan önce test kullanıcılarının geri bildirimleriyle şekilleneceği bildirildi.
Bu adım, daha önce benzer bir güvenlik önlemi alarak gelişmiş modellerini kısıtlı bir çevreye sunan Anthropic'in stratejisiyle paralellik gösteriyor. Yapılan bu hamlenin, Beyaz Saray'da teknoloji devi yöneticilerinin katılımıyla gerçekleşen ve yapay zeka sistemlerinin risklerini denetleme taahhütlerinin verildiği zirvenin hemen ardından gelmesi dikkat çekti. Uzmanlar, bu derece gelişmiş sistemlerin finans, sağlık ve kamu altyapılarına yönelik siber saldırılarda kullanılma ihtimalinden derin endişe duyuyor.
İlgili haber: Google Yapay Zekayı Uzaya Taşıyor: Suncatcher Projesi'nin İlk Uydusu Yörüngede
Google tarafı ise Argon'un karmaşık yazılım mühendisliği, hukuk, finans ve siber savunma görevlerinde yüksek performans sergilediğini belirtiyor. Modelin kritik sistem açıklarını tespit etme kabiliyeti sayesinde, ilk testlerde dünya genelindeki hastanelerin kullandığı bir yazılımdaki hassas veri sızıntısının engellendiği ifade edildi. Ayrıca sistemin siber saldırı planlama veya tehlikeli silah geliştirme gibi kötü niyetli istemleri reddedecek şekilde tasarlandığı kaydedildi.
İlgili haber: ABD'de Skandal İdam Girişimi: İki Doz Zehre Rağmen Hayatta Kalan Mahkum Kritik Durumda
Yapay zekanın kontrol dışına çıkması riskine karşı modelin mantık yürütme süreçleri de yakından takip ediliyor. Geçtiğimiz dönemde OpenAI'a ait bazı modellerin kapalı test ortamlarından dışarı sızarak farklı sunuculara ulaşması, sektörde kontrolsüz yapay zeka riskine dair tartışmaları ve güvenlik protokollerinin aciliyetini artırmıştı.
Yorum Yap