Yapay Zeka Terimleri Sözlüğü: GPU, NPU, CUDA, TOPS ve Daha Fazlası

Yapay zeka (AI) dünyasında donanım ve performans terimleri her geçen gün daha karmaşık hale geliyor. İster yerel bir yapay zeka modeli çalıştırmak isteyin ister günlük kullanıma uygun bir AI bilgisayarı arayın; bu kavramları bilmek doğru donanımı seçmenize yardımcı olur.

İşte her teknoloji meraklısının ve yapay zeka geliştiricisinin bilmesi gereken 10 temel yapay zeka terimi:


1. GPU (Graphics Processing Unit / Grafik İşlem Birimi)

Bilgisayarın devasa matematiksel işlemleri aynı anda yapmasını sağlayan "kas gücüdür". Normal bir CPU işlemleri sırayla yaparken, GPU paralel işlem mimarisi sayesinde binlerce küçük matris ve vektör hesabını aynı anda tamamlar.

Örnek: DALL-E ile görsel üretirken veya ChatGPT benzeri bir modeli bilgisayarınızda çalıştırırken asıl yükü GPU üstlenir.

2. NPU (Neural Processing Unit / Yapay Sinir Ağı İşlem Birimi)

Yapay sinir ağı algoritmaları için donanımsal olarak optimize edilmiş, son derece düşük enerji harcayan özel AI işlemcisidir. Derin öğrenme görevlerini CPU veya GPU'ya yük bindirmeden, pili tüketmeyerek yürütür.

Örnek: Laptopunuzda arka planı bulanıklaştırırken, gürültü engelleme yaparken veya canlı altyazı oluştururken arka planda NPU çalışır.

3. CUDA (Compute Unified Device Architecture)

NVIDIA'nın geliştirdiği ve ekran kartlarının grafik dışında genel hesaplama ve yapay zeka işlerini yapabilmesini sağlayan paralel hesaplama platformudur. PyTorch ve TensorFlow gibi temel AI kütüphaneleri doğrudan CUDA üzerinde optimize edilir.

Örnek: Yapay zeka yazılımlarının ve modellerinin çoğunun NVIDIA ekran kartlarında çok daha hızlı çalışmasının ana sebebi bu CUDA ekosistemidir.

4. VRAM (Video RAM / Grafik Belleği)

GPU çekirdeklerinin yüksek bant genişliğiyle eriştiği kendi üzerindeki süper hızlı hafızadır. Yapay zeka modellerinin parametre boyutları ve işlenecek veri miktarı doğrudan VRAM kapasitesine bağlıdır.

Örnek: 8B (8 Milyar) parametreli bir yapay zeka modelini bilgisayarınızda akıcı çalıştırmak için en az 8–10 GB VRAM'e sahip bir ekran kartı gerekir.

5. TOPS (Trillion Operations Per Second)

Bir yapay zeka işlemcisinin saniyede kaç trilyon işlem yapabildiğini gösteren temel performans ölçütüdür (1012 işlem/sn). Genellikle INT8 gibi düşük veri hassasiyetlerindeki AI işlem gücünü ifade eder.

Örnek: Microsoft Copilot+ PC standartlarını karşılayan modern bir laptop NPU'sunun en az 40 TOPS işlem gücü sunması gerekir.

6. FLOPS (Floating Point Operations Per Second)

Sistemlerin saniyede kaç tane ondalıklı matematiksel işlem (Floating Point) yapabildiğini gösteren genel güç birimidir. Yapay zekada modellerin eğitim ve çıkarım (inference) hızlarını FP32, FP16 veya BF16 seviyesinde ölçmek için kullanılır.

Örnek: Bir ekran kartının 40 TFLOPS (TeraFLOPS) gücünde olması, saniyede 40 trilyon karmaşık ondalıklı işlem yapabildiği anlamına gelir.

7. LLM (Large Language Model / Büyük Dil Modeli)

Devasa miktarda metin verisiyle ve Transformer mimarisiyle eğitilmiş, bir sonraki kelimeyi tahmin ederek insan benzeri metin üretebilen ve kod yazabilen yapay zeka sistemleridir.

Örnek: ChatGPT (GPT-4), Llama 3, Claude veya DeepSeek birer LLM örneğidir.

8. Quantization (Nicemleme / Modeli Sıkıştırma)

Yapay zeka modellerinin veri hassasiyetini (örneğin FP16'dan INT4 veya GGUF formatına) düşürerek bellek ve bant genişliği ihtiyacını azaltma işlemidir. Bu sayede model performanstan az bir kayıpla boyut olarak küçülür.

Örnek: Normalde 16 GB VRAM isteyen devasa bir modeli Quantization tekniğiyle sıkıştırıp 8 GB VRAM'li bir laptopta rahatça çalıştırabilirsiniz.

9. Fine-Tuning (İnce Ayar)

Önceden genel verilerle eğitilmiş dev bir ana modelin (Base Model), belirli bir veri seti ve uzmanlık alanı için ağırlıklarının (weights) güncellenerek optimize edilmesidir.

Örnek: Genel bir LLM'i kendi şirketinizin hukuk dokümanlarıyla eğitip sadece hukuk sorularına yanıt veren uzman bir yapay zekaya dönüştürmek bir Fine-Tuning işlemidir.

10. RAG (Retrieval-Augmented Generation)

Yapay zekanın uydurma cevaplar vermesini (halüsinasyon) önlemek için harici bilgi kaynaklarından (PDF, veritabanı, web) bilgi çekip bunu modele bağlam (context) olarak sunan mimaridir.

Örnek: Yapay zekaya 200 sayfalık bir ürün kılavuzu yükleyip "Garanti şartları nedir?" diye sorduğunuzda, RAG mimarisi belgeden ilgili kısmı bulur ve doğru cevabı üretir.


Yapay Zeka Bilgisayarı Modelleri incele ve satın al : https://linuks.com.tr/bilgisayar-c-1/yapay-zeka-c-12/