Przejdź do treści
promptowy.com / Yapay Zeka Sözlüğü / LoRA (Low-Rank Adaptation)
Modeller ve eğitim

LoRA (Low-Rank Adaptation)

LoRA, büyük yapay zeka modellerinin ana ağırlıklarını dondurarak küçük ek matrisler üzerinden verimli şekilde özelleştirilmesini sağlayan bir ince ayar yöntemidir.

LoRA (Low-Rank Adaptation), büyük yapay zeka modellerinin tamamını yeniden eğitmek yerine, modele yalnızca küçük ek parametre matrisleri ekleyerek belirli bir tarz, nesne veya uzmanlık alanına göre özelleştirilmesini sağlayan verimli bir ince ayar (fine-tuning) tekniğidir. Bu yöntem sayesinde devasa donanım yatırımlarına gerek kalmadan, mevcut bir temel modele yepyeni yetenekler kazandırılabilir.

Yapay zeka alanındaki LoRA kavramı ile kablosuz sensör ağlarında kullanılan LoRa (Long Range) radyo teknolojisi birbirine karıştırılmamalıdır. Benzer bir harf dizilimine sahip olsalar da nesnelerin interneti için kullanılan LoRaWAN altyapısı ile makine öğrenimindeki düşük dereceli matris uyarlaması tamamen farklı iki dünyayı temsil eder.

LoRA Nasıl Çalışır?

Geleneksel ince ayar yöntemlerinde, yüz milyonlarca veya milyarlarca parametreye sahip temel modelin tüm iç ağırlıkları güncellenir. Bu süreç hem çok güçlü ekran kartları gerektirir hem de ortaya çıkan yeni dosyanın gigabaytlarca yer kaplamasına yol açar. Üstelik model, yeni öğrendiği şey uğruna eski bildiklerini unutabilir.

LoRA bu sorunu temel modelin ana ağırlıklarını tamamen dondurarak çözer. Eğitim sırasında ana modelin katmanlarına düşük dereceli (low-rank) iki küçük matris eklenir ve sadece bu matrisler eğitilir. Ortaya çıkan dosya ana modelin yerine geçmez; ona dışarıdan takılan hafif bir eklenti veya filtre gibi davranır. Sonuç olarak onlarca gigabaytlık bir model yerine, genellikle birkaç megabaytlık taşınabilir bir adaptör dosyası elde edilir.

Yerel Bir Örnek: Kadıköy'de Bir Çizim Atölyesi

Kadıköy Moda'da faaliyet gösteren bağımsız bir grafik tasarımcısı düşünelim. Bu tasarımcı, tarihi yarımada temalı bir rehber kitap için kendine has suluboya tekniğiyle Galata Kulesi, simit arabaları ve sokak kedileri çizmiştir. Hazırlayacağı yeni tanıtım afişlerinde bu çizim dilini birebir korumak istemektedir.

Tasarımcı, kendi çizimlerinden oluşan derli toplu bir veri setiyle bir görsel üretim modeli için LoRA eğitir. Eğitilen adaptör, temel modele şu talimatı verir: Ne çizersen çiz, fırça darbelerini ve pastel renk paletini bu çizerin tarzında oluştur. Böylece Kapalıçarşı veya Boğaz vapuru sahnesi istendiğinde, ana model genel vapur formunu oluştururken LoRA adaptörü çizimin dokusunu, ışığını ve çizgi karakterini yerel sanatçının tarzına sadık kalacak şekilde yönlendirir.

LoRA Adaptörünü Pridada Kullanma ve Test Etme Adımları

İster internetten indirilmiş hazır bir LoRA kullanın ister kendi verinizle eğitin, verimli sonuç almak için kontrollü bir test süreci izlenmelidir:

  1. Referans görseli üretin: Adaptörü aktif etmeden önce belirli bir metin komutu, çekirdek (seed) numarası ve çözünürlük ile temel modelden standart bir çıktı alın ve kaydedin.
  2. Uyumlu temel modeli kontrol edin: LoRA bağımsız çalışmaz, mutlaka kendisi için eğitildiği temel model ailesiyle birlikte yüklenmelidir. Yanlış model üzerinde çalıştırılan adaptör anlamsız desenler ve bozulmalar üretir.
  3. Tetikleyici kelimeyi girin: Birçok LoRA adaptörü, metin komutu içine yazılan özel bir tetikleyici kelime (trigger word) ile aktif hale gelir. Model açıklamasında belirtilen bu kelimeyi komutunuza ekleyin.
  4. Ağırlık ayarını kademeli deneyin: Adaptörün etkisini belirleyen çarpan değerini (genellikle 0.1 ile 1.0 arası) doğrudan en üst seviyeye çekmeyin. Önce 0.5 veya 0.7 gibi dengeli bir değerle başlayıp tarzın gücünü kademeli olarak gözlemleyin.
  5. Farklı sahnelerde test edin: Adaptörün sadece eğitimde gördüğü nesnelerde değil, daha önce karşılaşmadığı yeni konseptlerde de tarzı koruyup korumadığını denetleyin.

Yaygın Hatalar ve Dikkat Edilmesi Gerekenler

LoRA kullanımında en sık yapılan hata, adaptör ağırlığını gereğinden fazla artırmaktır. Ağırlık aşırı yüksek tutulduğunda görselde piksellenmeler, renk patlamaları ve komutun geri kalanına uymama gibi aşırı öğrenme (overfitting) belirtileri ortaya çıkar. Benzer şekilde, LoRA eğitimi yaparken internetten gelişigüzel toplanmış kalitesiz ve tutarsız görseller kullanmak da modelin başarısını doğrudan düşürür.

Son olarak, kişilerin yüzleri veya telifli marka tasarımları üzerinde LoRA eğitirken yasal ve etik sorumluluklar unutulmamalıdır. Teknik olarak bir kişinin yüzünü birkaç fotoğrafla modele öğretmek mümkün olsa da bu durum rıza ve kişisel verilerin korunması gerekliliğini ortadan kaldırmaz.

Midjourney, FLUX, Ideogram, GPT Image ve ComfyUI ayarları ile öncesi ve sonrası görselleri: Parametre sözlüğünde LoRA Ağırlığı (LoRA Weight)

Sıkça sorulan sorular

LoRA kendi başına bir görsel üretebilir mi?

Hayır, LoRA tek başına bir model değildir, temel bir modele dışarıdan takılan küçük bir adaptördür. Çalışabilmesi için mutlaka uyumlu bir ana modele ihtiyaç duyar.

LoRA sadece görsel modellerinde mi kullanılır?

Hayır. LoRA tekniği metin üreten büyük dil modellerinde de müşteri hizmetleri üslubu kazandırmak, kod yazma becerisini geliştirmek veya hukuki terimleri öğretmek amacıyla yaygın biçimde kullanılır.

LoRA eğitimi için devasa sunucular gerekir mi?

Hayır. Tam model eğitimine kıyasla LoRA çok daha az bellek tüketir; bu sayede standart bir oyuncu veya iş istasyonu bilgisayarında dahi birkaç saat içinde kendi adaptörünüzü eğitmeniz mümkündür.

LoRA ağırlığı (weight) nedir?

LoRA ağırlığı, adaptörün ana model çıktısı üzerindeki baskınlığını ayarlayan sayısal bir çarpandır. Değer yükseldikçe adaptörün öğrettiği tarz güçlenir, ancak aşırı yükseltilmesi görüntüde bozulmalara yol açabilir.

← Yapay Zeka Sözlüğündeki tüm terimler

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›