Fine-tuning — ئۇيغۇرچە قوللانما

// DATASET · SFT · LORA · QLORA · EVAL

Fine-tuning

ئۇيغۇرچە قوللانما — مودېلنى ئۆز ۋەزىپىڭىزگە خاسلاشتۇرۇش

Fine-tuning دېگەن پەقەت «مودېلنى قايتا ئۆگىتىش» ئەمەس. ئۇ بولسا model behavior، tone، output format ۋە task skill نى ئۆز سانلىقىڭىزغا ئاساسەن خاسلاشتۇرۇش ئۇسۇلى. بۇ بەتتە SFT، LoRA، QLoRA، dataset design، evaluation، deployment ۋە قاچان RAG نى تاللاش كېرەكلىكىنى بىر يەرگە توپلىدۇق.

01 — Fine-tuning نېمە 02 — قاچان ئىشلىتىمىز 03 — SFT / LoRA / QLoRA 04 — Dataset 05 — Training Loop 06 — Evaluation 07 — RAG بىلەن پەرقى 08 — Deploy

trainer-pipeline

prompt / response pairs ياكى instruction datasets

full fine-tune، LoRA ياكى QLoRA

loss، held-out set، human review

adapter merge ياكى separate deployment

Fine-tuning دېگەن نېمە؟

Pretrained model نىڭ بىلىمىنى ئۆز ۋەزىپىڭىزگە ماسلاشتۇرۇش

Fine-tuning — ئاللىبۇرۇن pretraining قىلغان مودېلنى ئۆزىڭىزنىڭ data ۋە objective ىڭىز بىلەن قايتا تەڭشەش. نىشانى يېڭى دۇنيا بىلىمىنى «كۆچۈرۈش» ئەمەس؛ بەلكى مودېلنىڭ قىلمىش، ئۇسلۇپ، فورمات ۋە مەخسۇس ۋەزىپە ماھارىتى نى ياخشىلاش.

Pretraining

Fine-tuning

Prompting Only

قاچان Fine-tuning قىلىمىز؟

ھەر قانداق مەسىلىگە fine-tuning قىلماڭ؛ نىشان ئېنىق بولسۇن

ئۇسلۇپنى مۇستەھكەملەش

Brand voice، support tone ياكى report style دائىم ئوخشاش بولسۇن دېسىڭىز fine-tuning پايدىلىق.

مۇقىم فورمات

Always-valid JSON، label schema ياكى strict extraction task لاردا prompt only دائىم يېتەرلىك بولمايدۇ.

بەلگىلىك task ماھارىتى

Classification، rewrite، routing ياكى domain-specific instruction following ئۈچۈن ياخشى.

يېڭى بىلىمنى ساقلاش ئۈچۈن ئەمەس

Docs دائىم يېڭىلىنىدىغان بولسا RAG ياخشى. Fine-tuning نى live knowledge database دەپ قارىماڭ.

قىسقا قارار قائىدىسى

ئەگەر مەسىلە behavior ، style ياكى format stability بولسا fine-tuning نى ئويلاڭ. ئەگەر مەسىلە fresh facts ياكى document grounding بولسا RAG نى ئالدىغا قويۇڭ.

SFT، LoRA ۋە QLoRA

Full fine-tune نىلالا بىلمەسلىكنىڭ ئۆزىلا پايدا

LORA CONFIG

lora_config.py

from peft import LoraConfig

lora_config = LoraConfig(
    r=16,
    lora_alpha=32,
    lora_dropout=0.05,
    target_modules=["q_proj", "v_proj"],
    bias="none",
    task_type="CAUSAL_LM",
)

Dataset قانداق بولۇشى كېرەك؟

ئەڭ كۆپ خاتالىق dataset design تىن كېلىدۇ

Real-world input قا ئوخشىسۇن

Training prompt لىرى future production use-case غا ئوخشىمىسا model benchmark تا ياخشى، ئەمما production دا ناچار بولىدۇ.

Response سۈپىتىنى ئۆزىڭىز بەلگىلەڭ

Model قا قانداق جاۋاب چىقىرىشنى ئۆگىتىۋاتىسىز. Weak target = weak model behavior.

مىساللار بىر خىل بولمىسۇن

Edge case، hard case ۋە normal case نى قوشۇڭ. پەقەت ئاددىي مىساللار بىلەن training قىلسىڭىز generalized behavior بولمايدۇ.

train / eval نى ئايرىڭ

Eval set قا training sample ئوخشاپ قالسا fake success كۆرۈنىدۇ. Leakage دىن ساقلىنىڭ.

JSONL

dataset.jsonl

{"messages":[
  {"role":"system","content":"You write concise Uyghur product summaries."},
  {"role":"user","content":"مەزكۇر SaaS قورالىنى 4 bullet دا تونۇشتۇر"},
  {"role":"assistant","content":"- ..."}
]}
{"messages":[
  {"role":"system","content":"Return valid JSON only."},
  {"role":"user","content":"Ticket نى category بويىچە classifiy قىلىڭ"},
  {"role":"assistant","content":"{\"label\":\"billing\",\"confidence\":0.93}"}
]}

Training Pipeline

Fine-tuning بىر قېتىملىق button ئەمەس؛ iteration كېرەك

PYTHON

train_flow.py

# high-level pipeline 
dataset =  load_jsonl ( "dataset.jsonl" )
train_set, eval_set =  split_dataset (dataset, ratio=0.9)

model =  load_base_model ( "mistral-7b" )
tokenizer =  load_tokenizer ( "mistral-7b" )

adapter =  attach_lora (model)
trainer =  build_trainer (
    model=adapter,
    train_dataset=train_set,
    eval_dataset=eval_set,
    batch_size=4,
    learning_rate=2e-4,
)

trainer. train ()
metrics = trainer. evaluate ()
 save_adapter (adapter,  "./ft-output" )

ئەڭ كۆپ خاتالىق

Loss چۈشتى دەپلا project مۇۋەپپەقىيەتلىك بولمايدۇ. Production metric، held-out tasks ۋە human review يوق fine-tuning كۆپىنچە «pretty loss chart» بىلەنلا تۈگەيدۇ.

Evaluation قانداق بولۇشى كېرەك؟

Training objective بىلەن business objective ئوخشاش بولمايدۇ

Bad Eval

Better Eval

Best Eval

Fine-tuning vs RAG vs Prompt Engineering

بىر-بىرىنىڭ ئورنىغا ھەممىسىنى ئىشلىتىش لازىم ئەمەس

Pragmatic path: ئالدى بىلەن prompt ۋە eval نى ياخشىلاڭ. كېيىن need بولسا RAG قوشۇڭ. Fine-tuning نى شۇنداقتىمۇ behavior gap قالغاندا ئىشلىتىڭ.

Deploy ۋە Maintenance

Training ئاخىرلاشسا project تۈگىدى دېگەنلىك ئەمەس

Dataset ۋە adapter نى version قىل

قايسى dataset، قايسى hyperparameter، قايسى checkpoint production دا يۈرۈۋاتقانلىقى ئېنىق بولسۇن.

قايتىش يولى بولسۇن

New fine-tune سۈپەتنى ناچارلاشتۇرسا base model ياكى previous adapter غا تېز قايتالايسىز.

Online behavior نى كۆرۈپ تۇر

Real prompts dataset قا ئوخشىمايدۇ. Error bucket ۋە human feedback ئارقىلىق drift نى بايقاڭ.

قايتا training نى بىھۇدە قىلما

مەسىلە knowledge freshness بولسا retrain ئەمەس، RAG ياكى retrieval layer نى ياخشىلاش لازىم بولۇشى مۇمكىن.

ئەڭ قىسقا يەكۈن

Fine-tuning = behavior engineering. Dataset، eval ۋە deployment discipline بولسالا پايدا بېرىدۇ. پەقەت training script نىڭ ئۆزى project ئەمەس.

// FineTuning_Guide v1.0 | idirak.com | 2026

تۈزگۈچى: سۈنئىي ئىدراك — idirak.com ئۈچۈن Fine-tuning ئۇيغۇرچە قوللانمىسى

SFT · LoRA · QLoRA · Dataset · Evaluation · Deployment