Przejdź do treści
promptowy.com / Yapay Zeka Sözlüğü / Inference (Çıkarım)
Teknoloji

Inference (Çıkarım)

Yapay zeka modellerinin eğitildikten sonra yeni veriler veya sorular karşısında yanıt, tahmin ve içerik üretme sürecidir.

Yapay zekada inference veya Türkçe karşılığıyla çıkarım, daha önce devasa verilerle eğitilmiş bir modelin kullanıcının sunduğu yeni girdiyi işleyerek bir tahmin, yanıt veya içerik üretmesi sürecidir. Bir sohbet botuna soru yazdığınızda, sisteme bir fotoğraf yükleyip ne olduğunu sorduğunuzda ya da otomatik çeviri yaptığınızda çalışan mekanizma çıkarımdır.

Kısacası çıkarım, yapay zekanın öğrendiklerini pratikte sergilediği, yani sahaya çıktığı andır. Model bu aşamada yeni bir genel bilgi edinmez; hafızasındaki kalıpları ve kuralları kullanarak eldeki görevi yerine getirir ve metin tabanlı sistemlerde yanıtını jeton (token) bazında adım adım oluşturur.

Eğitim (Training) ile Çıkarım (Inference) Arasındaki Fark

Yapay zeka dünyasını anlamak için eğitim ve çıkarım süreçlerini net biçimde ayırmak gerekir. Bu iki aşama hem amaç hem de harcanan bilişim gücü bakımından birbirinden tamamen farklıdır:

  • Eğitim (Training): Bir tıp fakültesi öğrencisinin yıllar boyunca binlerce kitap okuması, anatomi öğrenmesi ve sınavlara girmesidir. Aylar süren, binlerce özel işlemci gerektiren ve son derece pahalı olan ilk kurulum fazıdır.
  • Çıkarım (Inference): Mezun olmuş doktorun poliklinikte bir hastanın şikayetlerini dinleyip teşhis koymasıdır. Her yeni hasta yeni bir çıkarım sürecidir. Birkaç saniye içinde gerçekleşir ve günlük rutin operasyonun bir parçasıdır.

Çıkarım Süreci Nasıl İşler?

Bir kullanıcı arayüze bir metin girdiğinde, sistem bu metni önce parçalara (token) ayırır. Ardından modelin nöron benzeri matematiksel katmanları bu girdiyi tartar ve bağlamı analiz eder. Model, eğitim sırasında öğrendiği istatistiksel olasılıklara dayanarak mevcut cümleye en mantıklı bir sonraki kelimeyi tahmin eder.

Çoğu sohbet robotunda karşılaştığımız canlı yazma hissi, streaming inference (akışkan çıkarım) adı verilen yöntemle sağlanır. Model tüm cevabı kapalı kapılar ardında hazırlayıp bir kerede ekrana fırlatmak yerine, her ürettiği jetonu anında ekrana yansıtır. Bu sayede kullanıcı yanıtın ilk kelimesini saniyeler içinde görebilir.

Türkiye'den Bir Esnaf Örneği: Kadıköy'de Bir Çanta Butiği

İstanbul Kadıköy'de el yapımı deri çantalar satan ve siparişlerinin çoğunu internetten alan küçük bir işletmeyi düşünelim. Bu butik, web sitesine ve mesajlaşma hattına bir yapay zeka asistanı entegre eder. Bu sistem:

  1. Eskişehir'den bir müşteri gece yarısı 'Koyu kahverengi sırt çantası yağmurda leke tutar mı, kargo kaç günde gelir?' diye yazdığında devreye girer.
  2. Soruyu hemen analiz eder; butiğin ürün açıklamalarındaki deri türü ve kargo sözleşmesi verileriyle eşleştirir.
  3. Saniyeler içinde doğal ve kibar bir Türkçe ile cevap üretir.

İşte bu yanıtın oluşturulduğu her saniye, arka planda bir çıkarım maliyeti doğar. Müşteri her mesaj attığında sunucudaki model çıkarım yaparak işlem gücü harcar.

Çıkarım Neden Yapay Zekanın En Büyük Masraf Kalemidir?

Yapay zeka modellerini eğitmek yüz binlerce dolara mal olan tek seferlik büyük bir yatırımdır. Ancak çıkarım, ürün hayatta olduğu sürece bitmeyen bir maliyettir. Bir uygulamayı günde milyonlarca kişi kullandığında, sunucuların sürekli çıkarım hesaplaması yapması gerekir.

Hizmet sağlayıcılar bu maliyetleri kısmak için kuantizasyon (sayısal hassasiyeti biraz düşürerek hesaplamayı hızlandırma), uzman modeller karması (MoE) ve çıkarıma özel geliştirilmiş hızlandırıcı çipler kullanır. Amaç, aynı kalitede yanıtı daha az elektrik ve işlemci gücüyle üretebilmektir.

Yaygın Bir Hata: Modeli Konuşurken Canlı Eğittiğini Sanmak

En sık yapılan kavram yanılgısı, kullanıcının modele bir şey anlattığında modelin kalıcı olarak bunu öğrendiğini düşünmesidir. Bir sohbet penceresinde bütçenizi veya şirket kurallarınızı girdiğinizde model bunları sadece o oturumun çıkarım bağlamı (context window) içinde tutar. Pencereyi kapattığınızda veya sıfırladığınızda, modelin temel yapısında hiçbir kalıcı değişiklik olmaz. Çıkarım bir okuma ve tepki verme anıdır, kalıcı bir yeniden yazım değildir.

Sıkça sorulan sorular

Inference süresi neyi ifade eder?

Kullanıcının soruyu göndermesi ile modelin ilk veya son jetonu üretmesi arasında geçen süredir; doğrudan sistemin tepki hızı ve gecikmesiyle ilgilidir.

Çıkarım sırasında model yeni bilgiler öğrenir mi?

Hayır, çıkarım anında modelin temel ağırlıkları ve parametreleri sabittir; sadece verilen girdiyi mevcut bilgisiyle yorumlayarak anlık cevap oluşturur.

Streaming inference ne demektir?

Modelin oluşturduğu yanıtın tamamlanmasını beklemeden, her kelime veya hece üretildikçe ekrana canlı olarak akıtılması yöntemidir.

← Yapay Zeka Sözlüğündeki tüm terimler

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›