Accelerated Computing olarak bilinen hızlandırılmış bilgi işlem, yapay zekâ(AI)’dan veri analitiğine oradan da simülasyonlara ve görselleştirmelere kadar olan zorlu uygulamaların çalışmasını hızlandırmak için paralel işlemeyi kullanır.
Evde geçen sessiz gecelerde dahi arka planda usulca çalışan hızlandırılmış bilgi işlem her geçen gün hayatımızı daha da iyi hale getiriyor.
Örneğin, izlemek istediğiniz bir filmi satın almak istediğinizde sizi kredi kartı sahtekârlığından kurtarması, hoşlandığınız bir akşam yemeğini size önermesi veya hızlı sipariş verebilmenizi sağlaması hatta belki bir yönetmenin Oscar kazanmasına bile vesile olmuş olabilir.
Öyleyse, Nedir Bu Hızlandırılmış Bilgi İşlem?
Hızlandırılmış bilgi işlem, genellikle sık meydana gelen görevleri bir araya getiren paralel işleme ile işi büyük bir ölçüde hızlandırmak amacıyla özel donanımların kullanılmasına denilmektedir. Bununla birlikte, seri şekilde görevleri uygulayan işlemcilerle CPU’ları tıkayabilecek zorlu işleri ortadan kaldırır.
Bilgisayar içinde doğan hızlandırılmış bilgi işlem, süper bilgisayarlar döneminde olgunlaşmış, bugün kullandığımız akıllı telefonlarda ve tüm bulut servislerinde ömrünü sürdürüyor. Ve şu an her türden şirket, işletmelerini verilerle dönüştürmek için bu fikri benimsiyor.
Hızlandırılmış bilgisayarlar, bazen heterojen bilgi işlem olarak adlandırılan bir mimaride CPU’ları ve diğer işlemci türlerini eşit olarak bir araya getirir.
Hızlandırılmış Bilgisayarlara (Accelerated Computers) Yakından Bakalım
GPU’lar en yaygın kullanılan hızlandırıcılardır. Veri işleme birimleri (DPU’lar), gelişmiş, hızlandırılmış ağ iletişimi sağlamakla birlikte hızla gelişen bir sınıftır. Birleşik, dengeli bir sistem oluşturmak için her birinin ana bilgisayar CPU’su ile bağlantılı bir rolü vardır.
Günümüzde hem ticari hem de teknik sistemler, makine öğrenimi, veri analitiği, simülasyonlar ve görselleştirmeler gibi işlerin üstesinden gelmek için hızlandırılmış bilgi işlem teknolojisini benimsiyor. Buna, yüksek performans ve enerji verimliliğini sağlayan modern bir bilgi işlem tarzı diyebiliriz.
Peki Bilgisayarlar, Hızlandırılmış Bilgi İşlemi Nasıl Bu Kadar Popüler Hale Getirdi?
Bir ana bilgisayar CPU’sunun çalışmasını hızlandırmak için bilgisayarlarda yardımcı işlemciler adı verilen özel donanımlar ortaya çıkmıştı. İlk olarak 1980’lerde bilgisayara ileri düzey matematik yetenekleri katan kayan noktalı işlemcilerle ön plana çıktılar.
Önümüzdeki on yıl içinde yükselişe geçen video oyunları ve grafik kullanıcı ara yüzleri, grafik hızlandırıcılara olan talebi ortaya çıkarmıştır. 1993 yılına kadar yaklaşık 50 şirket grafik yongaları veya kartları üretiyordu.
NVIDIA, 1999’da 3D görüntüleri işlemek için ilk GPU çipi GeForce 256’yı piyasaya sürdü. Aynı zamanda paralel işleme için dört grafik işlem hattı ilk kez bu dönemde kullanıldı.
NVIDIA buna grafik işlem birimi (GPU) adını vererek yeni bir bilgisayar hızlandırıcı kategorisine zemin hazırladı.
Araştırmacılar Paralel İşlemeden Nasıl Yararlandı?
NVIDIA, 2006 yılına kadar 500 milyon adet GPU sevk etmiştir. Sadece üç grafik satıcısından oluşan bir alana öncülük etmesi onun ufuktaki büyük fırsatı görmesini sağlamıştır.
Bazı araştırmacılar zaten GPU’ların gücünü CPU’ların erişemeyeceği görevlere uygulamak için kendi kodlarını geliştiriyorlardı. Örneğin, Stanford’da paralel işleme için popüler olan C dilini yaymak amacıyla geniş kitlelerce benimsenen ilk programlama modeli olan Brook, Ian Buck liderliğindeki bir ekip tarafından tanıtıldı.
NVIDIA’da stajyer olarak başlayan Buck, şu anda hızlandırılmış bilgi işlemden sorumlu başkan yardımcısı olarak görev yapıyor. 2006 yılında, GPU içindeki herhangi bir görev için paralel işlem motorlarını kullanmaya yarayan programlama modeli CUDA’nın piyasaya sürülmesine öncülük etti.
2007’de bir G80 işlemciyle bir araya gelen CUDA, genişleyen endüstriyel ve bilimsel uygulamalar dizisine hızlandırılmış bilgi işlemi getiren yeni bir NVIDIA GPU serisinin güçlenmesine vesile oldu.
HPC + GPUs = Hızlandırılmış Bilim (Accelerated Science)
Veri merkezi için tasarlanan bu GPU ailesi, Tesla, Fermi, Kepler, Maxwell, Pascal, Volta, Turing, Ampere gibi yenilikçilerin adını taşıyan bir dizi yeni mimariyle düzenli bir tempoda genişledi.
1990 yıllarının grafik hızlandırıcıları gibi, bu yeni GPU’lar Inmos’un mikroişlemcisi (transputer) gibi yeni paralel işlemciler de dahil olmak üzere birçok rakiple karşılaştı.
Tirias Research’te bir analist olan Kevin Krewell, “Diğerlerinin yazılım ekosisteminin olmayışı onların sonunu getirirken bu alanda hayatta kalabilen tek GPU bu oldu” dedi.
Bilime öncülük etmek amacıyla dünyanın dört bir yanından gelen yüksek performanslı bilgi işlem uzmanları, GPU’lu hızlandırılmış HPC sistemleri oluşturmuştur. Bugün çalışmaları, kara deliklerin astrofiziğinden genom dizilimine dek pek çok alanı kapsamaktadır.
Bu arada, Oak Ridge National Lab, hızlandırılmış bilgi işlem için bir rehber bile yayınladı.
Hızlandırılmış Ağların Hızını Arttıran InfiniBand
Bu süper bilgisayarların çoğu, büyük, dağıtılmış GPU ağları oluşturmak için ideal hızda, düşük gecikme süreli bir bağlantı sağlayan InfiniBand’ı kullanır. Hızlandırılmış ağ oluşturmanın önemini gören NVIDIA, Nisan 2020’de InfiniBand’ın öncüsü olan Mellanox’u satın aldı. BlueField DPU’ların yol haritası, şimdiden süper bilgisayarlar, bulut hizmetleri, OEM sistemleri ve üçüncü parti yazılımlar tarafından ilgi görmeye başladı.
2021 yılının Haziran ayına kadar dünyanın en hızlı 500 süper bilgisayarının 342’si ve tüm yeni sistemlerin yüzde 70’i ve ilk 10’dan sekizi de dahil olmak üzere NVIDIA teknolojilerini kullanıyordu.
Bugüne kadar CUDA ekosistemi ilaç keşfi, afet müdahalesi ve hatta Mars’a yapılacak görev planları gibi zorlu işlere girişerek 700’den fazla hızlandırılmış uygulama üretmiştir.
Bu arada, hızlandırılmış bilgi işlem, grafiklerde olacak büyük bir adıma da ön ayak oldu. İlk ray tracing (ışın izleme) teknolojisini bizlere getiren, oyunlara ve simülasyonlara yüksek derecede gerçekçilik katan harika görsel teknolojisiyle GeForce RTX GPU‘ları, NVIDIA’nın Turing mimarisi tarafından 2018 yılında güç kazanmıştır.
Hızlandırılmış Bilgi İşlemin Gözde Uygulaması “Yapay Zekâ”
2012’de teknoloji dünyasında Big Bang gibi patlayan, yeni ve güçlü bilgi işlem biçimimizin “yapay zekâ” olacağı sinyallerini almıştık.
Aslında bu aşamanın özünde “paralel işleme” yatmaktadır. Bu nedenle, derin öğrenmenin ilk günlerinden itibaren araştırmacılar ve bulut hizmeti sağlayıcıları, sinir ağlarını eğitmek ve çalıştırmak için GPU hızlandırmalı bilgisayarları kullanmaya başladı.
Lider şirketler, hızlandırılmış bilgisayarlarda yapay zekânın önemini hızla görmüştür.
- American Express, bunu kredi kartı dolandırıcılığını önlemek için kullanıyor.
- Bulut hizmetleri, bunu satışları yönlendiren öneri sistemlerinde kullanıyor.
- Birçok şirket, müşteri hizmetlerini geliştirmek için konuşma tabanlı yapay zeka kullanıyor.
- Telcos, akıllı 5G hizmetleri sunmak için yapay zekâ’yı araştırıyor.
- Film yapımcıları bunu The Irishman’de Robert De Niro ve Al Pacino’yu daha genç göstermek için kullandılar.
- Akşam yemeğinizi yerken veya sipariş teslim alırken size büyük kolaylık sağlayan Domino’s ve DashDoor’un akıllı yapay zekâ uygulamaları da bunlara birer örnektir.
Şunu söylemeliyiz ki, “Bir gün her şirket bir veri, her sunucu ise hızlandırılmış bilgisayar haline gelecek.”
Aslında bu, ürünlerini hızlandırılmış bilgi işlem için uyarlayan VMware ve Red Hat gibi başlıca BT yazılım şirketlerinin liderleri tarafından paylaşılan bir vizyondur. Sistem üreticileri şimdiden her işletme için çalışmaya hazır, hızlandırılmış düzinelerce NVIDIA Sertifikalı Sistem bilgisayarları teslim etmeye başladı.
Bunlar genellikle kurumsal alanda hızlandırılmış bilgi işlem yolculuğuna yönelik araçlardır. Aşamanın daha hzılı gerçekleşmesi için NVIDIA, NGC kataloğunda olduğu gibi hazır, hızlandırılmış uygulamalar ve NVIDIA AI Enterprise, Base Command, Fleet Command gibi tam kapsamlı çözümler sunmaktadır.
Enerji Verimli Bir Gelecek
John Hennessey ve David Patterson gibi bilgi işlem alanında ustalaşmış kişilere göre, hızlandırılmış bilgi işlem “ileriye giden tek yoldur”. Bilgi işlemde Nobel’e eşdeğer sayılan 2017 Turing ödülünün anısına yapılan bir konuşmada, bu trendi “etki alanına özgü mimarilere” bir hareket olarak tanımladılar.
Bununla birlikte, geleceği temsil etmesi, enerji verimliliği yaklaşımının en önemli nedenidir. Örneğin GPU’lar, AI çıkarımında CPU’lardan 42 kat daha iyi enerji verimliliği sağlar.
Gerçekten de öyle, eğer dünya çapında AI çalıştıran tüm CPU taraflı çalışan sunucuları GPU hızlandırmalı sistemlere geçirirseniz, yılda 10 trilyon watt saat enerji tasarrufu yapabiliyorsunuz.
Hızlandırılmış bilgi işlem uzmanları bu avantajlardan yararlanmaya başladı bile.
Dünyanın enerji açısından en verimli süper bilgisayarlarının yer aldığı Green500 listesindeki ilk 40 sistemin otuz beşi ayrıca ilk 10’dan dokuzu da dahil olmak üzere NVIDIA teknolojileri üzerinde çalışmaktadır. Listedeki NVIDIA GPU’ları kullanan süper bilgisayarlar, kullanmayanlara göre 3,5 kat daha fazla enerji verimi sağlamaktadır.
Daha fazla bilgi için, GTC’den hızlandırılmış bilgi işlemle ilgili konuşmalardan oluşan bir örnekleyiciyi ve aşağıdaki kurumsal alanda hızlandırılmış bilgi işlem hakkındaki video’yu izleyebilirsiniz.
