Kaspersky, ChatGPT’nin kullanımının yaygınlaşmasının siber güvenliğin yerleşik kurallarını nasıl değiştirebileceğini araştırıyor. OpenAI’nin bugüne kadarki en güçlü AI modellerinden biri olan ChatGPT3’ü piyasaya sürmesiyle birlikte araştırmalara hız verdi. ChatGPT-3, karmaşık bilimsel kavramları birçok iyi açıklayabiliyor, şarkı sözleri yazabiliyor ve kullanıcının isteğine göre hemen hemen her türlü metni oluşturabiliyor.
ChatGPT-3, insanlar tarafından yazılanlardan ayırt edilmesi oldukça zor metinler oluşturabilen bir yapay zeka dil modeli olarak tanımlanıyor. Bu nedenle, siber suçlular bu teknolojiyi hedef odaklı kimlik avı saldırılarına uyarlamaya çalışıyor. Daha önce, kitlesel hedefli kimlik avı kampanyaları düzenlemekten suçluları alıkoyan ana engel, hedeflenen her bir kişiselleştirilmiş e-postayı yazmanın oldukça zahmetli olmasıydı. ChatGPT, saldırganların endüstriyel ölçekte ikna edici ve kişiselleştirilmiş kimlik avı e-postaları oluşturmasına izin verebileceğinden, oyunun kurallarını değiştirebileceği öngörülüyor. Hatta yazışmaları stilize ederek, bir çalışandan diğerine yazılmış gibi gözüken hayli inandırıcı -sahte- e-postalar bile oluşturabiliyor. Ne yazık ki bu, başarılı kimlik avı saldırılarının sayısının artabileceği anlamına geliyor.
Birçok kullanıcı, ChatGPT’nin kod yazabildiğini fark etti ve buna maalesef kötü amaçlı kodlar da dahil. Basit bir Infostealer virüsü oluşturmak, herhangi bir programlama becerisine sahip olmadan mümkün olacak gibi gözüküyor. Ancak, ChatGPT’nin dürüst kullanıcıların korkması için hiçbir sebep yok. Bir bot tarafından yazılan kod gerçekten kullanılıyorsa, güvenlik çözümleri bunu, geçmişte insanlar tarafından oluşturulan tüm kötü amaçlı yazılımlarda olduğu gibi hızlı bir şekilde algılayıp etkisiz hale getiriyor. Bazı analistler, ChatGPT’nin her belirli kurban için benzersiz kötü amaçlı yazılım oluşturabileceğinden endişe duysa da, bu örnekler de büyük olasılıkla bir güvenlik çözümleri tarafından fark edilecek davranışlar sergiliyor. Dahası, bot tarafından yazılan kötü amaçlı yazılımın ince hatalar ve mantıksal kusurlar içerdiği ve bunun da kötü amaçlı yazılım kodlamasının henüz tam anlamıyla optimize edilemediği anlamına geliyor.
ChatGPT bu yönleriyle saldırganlar için yararlı olsa da güvenliği sağlayanlar da bundan yararlanabiliyor. Örneğin, ChatGPT belirli bir kod parçasının ne yaptığını hızlı bir şekilde açıklama yeteneğine sahip. Bu yönüyle, yoğun mesai koşullarında çalışmak zorunda kalan analistlerin olaylara minimum miktarda zaman ayırmak zorunda kaldığı SOC koşullarında, kendi yarattığı problemin çözümü haline gelebiliyor. Kısaca, süreci hızlandırmak için herhangi bir araç memnuniyetle karşılanacak. Gelecekte, kullanıcıların kodu daha iyi anlamak için bir tersine mühendislik modeli, bir CTF çözme modeli, bir güvenlik açığı araştırma modeli ve daha fazlası gibi çok sayıda özel ürünle karşılaşacağı öngörülüyor.
Kaspersky’nin Güvenlik Analisti Vladislav Tushkanov, “ChatGPT tamamen kötü niyetli yazılımlar anlamında direkt olarak kötü niyetli bir şey yapmasa da saldırganlara çeşitli senaryolarda yardımcı olabilir; örneğin ikna edici hedefli kimlik avı e-postaları yazmak. Bununla birlikte, ChatGPT şu anda kesinlikle bir otonom hacker yapay zekası olma yeteneğine sahip değil. Sinir ağının (Neural Network) ürettiği kötü amaçlı kod, mutlaka bir miktar zarar verebilme yeteneğine sahip olacaktır ama yine de onu geliştirmek ve dağıtmak için yetenekli ve işinde uzman bir saldırgan gerekiyor. ChatGPT’nin endüstri üzerinde şimdilik hemen bir etkisi olmamasına ve siber güvenlik konusunda bir “oyun değiştirici” olmamasına rağmen, bu durum gelecek nesillerle beraber mutlaka değişecektir. Önümüzdeki birkaç yıl içinde, hem doğal dil hem de programlama kodu üzerine eğitilmiş büyük dil modellerinin siber güvenlikteki özel durumlara nasıl uyarlandığını görebiliriz. Bu değişiklikler, tehdit avcılığından olay müdahalesine kadar çok sayıda siber güvenlik faaliyetinin doğasını etkileyebilir. Bu nedenle, siber güvenlik şirketleri, bu teknolojinin siber suçlulara nasıl yardımcı olabileceğinin farkına vardıkları gibi, yeni araçların sağlayacağı olasılıkları da keşfetmek isteyeceklerdir.” yorumunu yapıyor.
