Kurulum

Transformers, PyTorch ile çalışır. Python 3.10+ ve PyTorch 2.4+ üzerinde test edilmiştir.

Sanal ortam

uv, Rust tabanlı son derece hızlı bir Python paket ve proje yöneticisidir ve farklı projeleri yönetmek ile bağımlılıklar arasındaki uyumluluk sorunlarını önlemek için varsayılan olarak bir sanal ortam gerektirir.

pip yerine doğrudan kullanılabilir, ancak pip'i tercih ediyorsan aşağıdaki komutlardan uv kısmını kaldırman yeterli.

[!TIP] uv'yi kurmak için uv kurulum belgelerine bak.

Transformers'ı kurmak için bir sanal ortam oluştur.

uv venv .env
source .env/bin/activate

Python

Aşağıdaki komutla Transformers'ı kur.

uv, Rust tabanlı hızlı bir Python paket ve proje yöneticisidir.

uv pip install transformers

GPU hızlandırması için PyTorch ile uyumlu CUDA sürücülerini kur.

Sisteminin bir NVIDIA GPU algılayıp algılamadığını kontrol etmek için aşağıdaki komutu çalıştır.

nvidia-smi

Transformers'ın yalnızca CPU sürümünü kurmak için aşağıdaki komutu çalıştır.

uv pip install torch --index-url https://download.pytorch.org/whl/cpu
uv pip install transformers

Kurulumun başarılı olup olmadığını aşağıdaki komutla test et. Verilen metin için bir etiket ve skor döndürmesi gerekir.

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"
[{'label': 'POSITIVE', 'score': 0.9998704791069031}]

Kaynaktan kurulum

Kaynaktan kurulum, kütüphanenin kararlı sürümü yerine en son sürümünü kurar. En güncel Transformers değişikliklerine sahip olmanı sağlar ve en son özelliklerle deney yapmak veya henüz kararlı sürümde resmi olarak yayınlanmamış bir hatayı düzeltmek için kullanışlıdır.

Dezavantajı, en son sürümün her zaman kararlı olmayabilmesidir. Herhangi bir sorunla karşılaşırsan, lütfen en kısa sürede düzeltebilmemiz için bir GitHub Issue aç.

Aşağıdaki komutla kaynaktan kur.

uv pip install git+https://github.com/huggingface/transformers

Kurulumun başarılı olup olmadığını aşağıdaki komutla kontrol et. Verilen metin için bir etiket ve skor döndürmesi gerekir.

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"
[{'label': 'POSITIVE', 'score': 0.9998704791069031}]

Düzenlenebilir kurulum

Düzenlenebilir kurulum, Transformers ile yerel olarak geliştirme yapıyorsan kullanışlıdır. Dosyaları kopyalamak yerine yerel Transformers kopyanı Transformers deposuna bağlar. Dosyalar Python'ın import yoluna eklenir.

git clone https://github.com/huggingface/transformers.git
cd transformers
uv pip install -e .

[!WARNING] Kullanmaya devam etmek için yerel Transformers klasörünü saklamalısın.

Ana depodaki en son değişikliklerle yerel Transformers sürümünü güncellemek için aşağıdaki komutu çalıştır.

cd ~/transformers/
git pull

conda

conda, dilden bağımsız bir paket yöneticisidir. Yeni oluşturduğun sanal ortamda conda-forge kanalından Transformers'ı kur.

conda install conda-forge::transformers

Yapılandırma

Kurulumdan sonra Transformers önbellek konumunu yapılandırabilir veya kütüphaneyi çevrimdışı kullanım için ayarlayabilirsin.

Önbellek dizini

Önceden eğitilmiş bir modeli [~PreTrainedModel.from_pretrained] ile yüklediğinde, model Hub'dan indirilir ve yerel olarak önbelleğe alınır.

Bir modeli her yüklediğinde, önbelleğe alınmış modelin güncel olup olmadığı kontrol edilir. Aynıysa yerel model yüklenir. Değilse yeni model indirilir ve önbelleğe alınır.

Varsayılan dizin, HF_HUB_CACHE kabuk ortam değişkeni tarafından belirlenir ve ~/.cache/huggingface/hub şeklindedir. Windows'ta varsayılan dizin C:\Users\kullaniciadi\.cache\huggingface\hub şeklindedir.

Bir modeli farklı bir dizine önbelleğe almak için aşağıdaki kabuk ortam değişkenlerindeki yolu değiştir (öncelik sırasına göre listelenmiştir).

1. HF_HUB_CACHE (varsayılan)
2. HF_HOME
3. XDG_CACHE_HOME + /huggingface (yalnızca HF_HOME ayarlanmamışsa)

Çevrimdışı mod

Transformers'ı çevrimdışı veya güvenlik duvarı olan bir ortamda kullanmak için indirilen ve önbelleğe alınmış dosyaların önceden hazır olması gerekir. [~huggingface_hub.snapshot_download] yöntemiyle Hub'dan bir model deposunu indir.

[!TIP] Hub'dan dosya indirmek için daha fazla seçenek hakkında Hub'dan dosya indirme rehberine bak. Belirli sürümlerden dosya indirebilir, CLI'dan indirebilir ve hatta bir depodan hangi dosyaların indirileceğini filtreleyebilirsin.

from huggingface_hub import snapshot_download

snapshot_download(repo_id="meta-llama/Llama-2-7b-hf", repo_type="model")

Bir model yüklerken Hub'a HTTP çağrılarını engellemek için HF_HUB_OFFLINE=1 ortam değişkenini ayarla.

HF_HUB_OFFLINE=1 \
python examples/pytorch/language-modeling/run_clm.py --model_name_or_path meta-llama/Llama-2-7b-hf --dataset_name wikitext ...

Yalnızca önbelleğe alınmış dosyaları yüklemek için başka bir seçenek de [~PreTrainedModel.from_pretrained] içinde local_files_only=True ayarlamaktır.

from transformers import LlamaForCausalLM

model = LlamaForCausalLM.from_pretrained("./path/to/local/directory", local_files_only=True)

Source: docs/source/tr/installation.md