Aspen Güvenlik Forumu sırasında yeni bir endüstri kuruluşu olan Coalition for Secure AI (Güvenli Yapay Zeka Koalisyonu – CoSAI) duyuruldu. CoSAI’ın kurucu ana sponsorları arasında Google, IBM, Intel, Microsoft, NVIDIA ve PayPal gibi devler bulunuyor. Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz de kurucu sponsorlar arasında.
Coalition for Secure AI (CoSAI) Neyi Amaçlıyor?
Açık kaynak girişimi; açık kaynak metodolojileri, standartlaştırılmış çerçeveler ve araçlar aracılığıyla rehberlik sunmayı ve geliştiricilerin Tasarım Yoluyla Güvenli Yapay Zeka sistemleri oluşturmasını sağlamayı amaçlıyor. CoSAI özellikle yapay zeka sistemlerinin güvenli geliştirilmesine, entegrasyonuna, konuşlandırılmasına ve işletilmesine odaklanacak ve model hırsızlığı, veri zehirlenmesi, anında enjeksiyon, ölçekli kötüye kullanım ve çıkarım saldırıları gibi riskleri azaltmak hedefinde.
CoSAI ayrıca, genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu ve çeşitli iş akışlarını denetlemek için akademi ve endüstriden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi oluşturacak.
CoSAI ilk çalışması ile şunlara odaklanacak:
- Yapay zeka sistemleri için yazılım tedarik zinciri güvenliği: Yapay zeka uygulamalarını güvence altına almak için kompozisyon ve kaynak takibinin geliştirilmesi.
- Savunucuları değişen siber güvenlik ortamına hazırlamak: Yapay zeka ve klasik sistemlerdeki yatırımları ve entegrasyon zorluklarını ele almak.
- Yapay zeka güvenlik yönetimi: Yapay zeka güvenliği için en iyi uygulamaları ve risk değerlendirme çerçevelerini geliştirmek.
CoSAI’ın yapay zeka güvenliğine açık kaynaklı bir yaklaşım oluşturma misyonu, hızla gelişen bu yapay zeka endüstrisinde güven oluşturma ve sorumlu gelişimi teşvik etme yönünde önemli bir adım. Girişim, mevcut güvenlik uygulamalarının parçalı yapısını ele alarak ve açık, standartlaştırılmış yönergeler sağlayarak geliştiricilere ve kuruluşlara doğası gereği güvenli yapay zeka sistemleri oluşturma yetkisi vermeyi amaçlıyor.
