Kaspersky, kurumsal altyapılarda kullanılan otonom yapay zekâ (YZ) casuslarının beraberinde getirdiği riskleri azaltmaya yönelik kapsamlı bir rehber paylaştı. Çalışma, “ secure-by-design sistemler geliştirmenin temelinde yer alan Siber Bağışıklık (Cyber Immunity) prensiplerine dayanıyor. Gerçek dünyada yaşanan siber olaylar ve mevcut tehdit modellerinden yola çıkan yeni rapor, giderek daha otonom hale gelen casus tabanlı sistemlerin taşıdığı riskleri inceliyor. Ayrıyeten, mümkün yanılgıların veya güvenlik ihlallerinin tesirini sonlandırmak için bu sistemlerin mimarisinde inancın nasıl tesis edilebileceğini ortaya koyuyor.
Söz konusu çalışma, 6–7 Ekim tarihlerinde Abu Dabi’de düzenlenen ve farklı bölümlerdeki yenilikçi yapay zekâ tahlillerine odaklanan global etkinlik AI Everything Global kapsamında sunuldu. Kaspersky, 60’tan fazla ülkeden yapay zekâ alanındaki öncü isimlerin katıldığı aktifliğin bu yılki sponsorları arasında yer alıyor.
Günümüzde YZ casusları, rutin iş süreçlerinin otomasyonundan yazılım geliştirme takviyesine ve BT güvenliği operasyonlarına kadar kritik kurumsal senaryolarda giderek daha geniş yer buluyor. “Siber Bağışıklık Perspektifinden YZ Ajanı Güvenliği” (AI agent security through the lens of Cyber Immunity) başlıklı raporda, bilinen riskleri sistemli bir çerçeveye oturtmak ve aktüel tehdit modellerini detaylandırmak maksadıyla en yaygın kullanım senaryoları, casusların özerklik dereceleri ve geçmişte direkt ziyana yol açan somut siber olaylar derinlemesine ele alınıyor
Kaspersky, kurumların casusların berbat emelli kullanılması, yapay zekâ casuslarına gereğinden fazla yetki verilmesi ve casuslar tarafından bilgilerin silinmesi üzere olaylara ait riskleri azaltmasına yardımcı olmak maksadıyla raporda yapay zekâ casuslarının dizaynına uygulanabilecek siber bağışıklık unsurlarını sıralıyor:
- Yapay zekâ casuslarına ilişkin güvenlik varsayımlarını tasarım evresinde belirleyin: Büyük lisan modellerini (LLM) ve dış kaynaklardan sisteme giren tüm dataları varsayılan olarak güvenilmeyen ögeler olarak ele alın; geri döndürülemez rastgele bir süreç için kullanıcının açık onayını zarurî kılın.
- Güvenilir Hesaplama Tabanını (Trusted Computing Base-TCB) mümkün olduğunca küçültün: Güvenliğin sağlanması için güvenilmesi gereken bileşenleri mümkün olan en küçük kümede tutun.
- Bileşenleri birbirinden izole edin: Çalışma ortamını izole etmek, emniyetli ve güvenilmeyen bağlamları birbirinden ayırmak ve çoklu casus sistemlerinde casusları başka farklı izole etmek için sandbox ve sanal makineler kullanın.
- Etkileşimleri varsayılan olarak reddetme (default-deny) yaklaşımıyla denetim edin: Casusların harici API’ler ve kaynaklarla etkileşim kurmak için kullandığı araç davetlerine ve bu davetlerde kullanılan parametrelere siyasetler uygulayın; ağ trafiğini denetim edin ve casusun tedarik zincirini dinamik olarak değiştirmesini önleyin.
Rapor ayrıyeten CISO, CIO ve CTO seviyesindeki yöneticilere yönelik stratejik tavsiyeler de içeriyor. İnançlı bir casus altyapısı kurmak ismine YZ casuslarının envanterinin çıkarılması, esnek izolasyon ve konteynerizasyon siyasetlerinin hayata geçirilmesi ve casus tedarik zincirinin yönetilmesi bu teklifler arasında öne çıkıyor. Daha fazla pratik teklif için raporun tamamına buradan ulaşabilirsiniz.
Kaspersky Yapay Zekâ Teknolojileri Araştırma Merkezi Başkanı Vladislav Tushkanov, konuyla ilgili değerlendirmesinde şunları söylüyor: “Cyber Immunity başlangıçta yapay zekâ alanının dışında geliştirilmiş olsa da temel unsurları gelişmiş LLM tabanlı sistemlere direkt uygulanabilir. Geliştiriciler, tabiatı gereği deterministik olmayan ve güvenilmeyen bileşenlerle çalışırken – büyük lisan modelleri de varsayılan olarak bu biçimde değerlendirilmelidir – yanılgı veya güvenlik ihlalinin muhtemel tesirini sınırlamak için güvenlik sistemlerini tahlilin mimarisine yerleştirmelidir. İnançlı bir mimari, yapay zekâ güvenlik duvarı (AI Firewall) üzere teknolojilerin yanı sıra sandbox, EDR ve SIEM üzere modern güvenlik katmanlarıyla desteklenen çok katmanlı bir savunma stratejisiyle daha da güçlendirilmelidir. Böylelikle günümüzün akıllı uygulamalarının güvenlik ihtiyaçları daha güzel karşılanabilir.”
AI Everything Global konferansında Kaspersky, başta endüstriyel kullanım alanları olmak üzere gerçek dünyadaki yapay zekâ uygulamalarına yönelik kendi teknolojilerini ve tahlillerini sergiliyor. Kaspersky’nin standında, endüstriyel varlıklardaki anormallikleri erken basamakta tespit etmek için geliştirilen yapay zekâ destekli Kaspersky MLAD ile siber-fiziksel sistemlerin güvenliğine yönelik güç verimliliği sağlayan, spiking neural network tabanlı Kaspersky Neuromorphic Platform öne çıkıyor. Şirket ayrıyeten kuruluşların büyük lisan modellerini (LLM) gerçek dünyadaki endüstriyel uygulamalarda gerçek ve sağlam karşılıklar verebilecek formda alan bilgisiyle donatan Kaspersky Trusted Intelligent Agents for Retrieval and Analysis (TIARA) teknolojisini de tanıtıyor.
Kaspersky’nin AI Technology Research Center’ı hakkında daha fazla bilgi için Kaspersky web sitesini ziyaret edebilirsiniz.
Kaynak: (BYZHA) Beyaz Haber Ajansı
