ئوچۇق مەنبە LLM لار — DeepSeek، Qwen، Llama

// OPEN SOURCE · FREE · SELF-HOST

ئوچۇق مەنبە LLM لار

DeepSeek، Qwen، Llama، Mistral — ئەركىنلىك بىلەن ئىشلىتىڭ

ئوچۇق مەنبە LLM لار AI نى دېموكراتىيەلەشتۈردى. ئۆز مۇلازىمېتىرىڭىزدا ئىجرا قىلىڭ، fine-tune قىلىڭ، ئۆزگەرتىڭ. بۇ ماقالىدە DeepSeek، Qwen، Llama ۋە Mistral نىڭ قابىلىيەتلىرى، deployment ئۇسۇللىرى ۋە ئەمەلىي كود مىساللىرى بار.

01 — نېمىشقا ئوچۇق 02 — DeepSeek 03 — Qwen 04 — Llama 05 — Mistral 06 — Deployment 07 — Fine-tuning

open-models

reasoning، code، R1 MoE

Alibaba، multilingual، vision

Meta، general purpose

France، efficient، MoE

نېمىشقا ئوچۇق مەنبە؟

API غا تايانماي، ئۆز AI سىستېمىڭىزنى قۇرۇڭ

ئوچۇق مەنبە LLM لار سىزگە تولۇق كونترول بېرىدۇ. سانلىق مەلۇماتىڭىز ئۆزىڭىزدە قالىدۇ، API چىقىمى يوق، ھەر قانداق مەسىلىگە ماسلاشتۇرالايسىز. كارخانا، تەتقىقاتچى ۋە ياسىغۇچىلار ئۈچۈن ideal.

سانلىق مەلۇمات بىخەتەرلىكى

سانلىق مەلۇمات ئۆز مۇلازىمېتىرىڭىزدىن چىقمايدۇ. GDPR، HIPAA تەلەپلىرىگە ماس.

باھا كونترولى

ھەر چاقىرىشقا پۇل تۆلەش ئەمەس، ئۆز hardware ئۈستىدە ئىجرا. يۇقىرى چىقىمدا ئۈنۈملۈك.

ماسلاشتۇرۇش

Fine-tune قىلىش، ئۆزگەرتىش، ئۆز domain ئۇچۇرىڭىز بىلەن تەربىيىلەش.

تەمىنلىگۈچىگە باغلانماسلىق

API تۆختىسە ياكى باھا ئۆزگەرسە تەسىر قىلمايدۇ. تولۇق ئەركىنلىك.

مۇھىم ئاگاھلاندۇرۇش

خىتاي AI مودېللىرى ھەققىدە دىققەت قىلىشقا تېگىشلىك نۇقتىلار

⚠️ شەخسىي ئىشلىتىش ئۈچۈن تەۋسىيە قىلىنمايدۇ: DeepSeek، Qwen قاتارلىق خىتاي AI مودېللىرى تېخنىكىلىق جەھەتتە كۈچلۈك بولسىمۇ، شەخسىي ئىشلىتىش ئۈچۈن تەۋسىيە قىلىنمايدۇ . بۇ مودېللارنىڭ API لىرى خىتاي مۇلازىمېتىرىدىن ئۆتىدۇ، سانلىق مەلۇماتىڭىز قانداق بىر تەرەپ قىلىنىدىغانلىقى ئېنىق ئەمەس. شەخسىي، مەخپىي ياكى سەزگۈر ئۇچۇرلار ئۈچۈن ChatGPT، Claude، Gemini قاتارلىق غەربىي شىركەتلەرنىڭ مودېللىرىنى ئىشلىتىشىڭىزنى تەۋسىيە قىلىمىز.

سانلىق مەلۇمات بىخەتەرلىكى

API ئارقىلىق ئەۋەتىلگەن سانلىق مەلۇمات خىتاي مۇلازىمېتىرىدىن ئۆتىدۇ. قانداق ساقلىنىدىغانلىقى ياكى ئىشلىتىلىدىغانلىقى ئېنىق ئەمەس.

چەكلىمە ۋە سانسۈر

خىتاي AI مودېللىرى سىياسىي، تارىخىي ۋە بەزى تېمىلاردا چەكلىمىگە ئۇچرايدۇ. جاۋابلار تولۇق ياكى توغرا بولماسلىقى مۇمكىن.

شەخسىي ئىشلىتىش ئۈچۈن

ChatGPT (OpenAI)، Claude (Anthropic)، Gemini (Google) — بۇ مودېللار بىخەتەرلىك، شەخسىيەت قوغداش ۋە شەپپەئىيەتلىك جەھەتتە تېخىمۇ ئىشەنچلىك.

يەرلىك ئىجرا قىلىش

ئەگەر خىتاي مودېللىرىنى ئىشلىتمەكچى بولسىڭىز، ئۆز مۇلازىمېتىرىڭىزدا يەرلىك ئىجرا قىلىڭ . Ollama ياكى vLLM بىلەن API سىز ئىشلىتىڭ.

✓ بىخەتەر تاللاش: كۈندىلىك ئىشلىتىش، شەخسىي سوئاللار ۋە مەخپىي ئۇچۇرلار ئۈچۈن Claude (claude.ai) ياكى ChatGPT (chat.openai.com) نى ئىشلىتىڭ. بۇ شىركەتلەر سانلىق مەلۇمات بىخەتەرلىكى ۋە شەخسىيەت قوغداش جەھەتتە ئېنىق سىياسەتكە ئىگە.

DeepSeek

خىتايدىن كەلگەن كۈچلۈك ئوچۇق مەنبە مودېل

⚠️ ئاگاھلاندۇرۇش: DeepSeek خىتاي شىركىتى. API ئىشلىتىش ئەمەس، پەقەت يەرلىك ئىجرا قىلىش تەۋسىيە. تۆۋەندىكى ئۇچۇر پەقەت تېخنىكىلىق تونۇشتۇرۇش ئۈچۈن.

DeepSeek خىتايدىكى AI ستارتاپ تەرىپىدىن قۇرۇلغان. DeepSeek-R1 بولسا reasoning دا GPT-4 ۋە Claude بىلەن رىقابەتلىشەلەيدىغان ئوچۇق مەنبە مودېل. MoE (Mixture of Experts) قۇرۇلمىسى بىلەن ئۈنۈملۈك.

PYTHON

deepseek_example.py

from  openai  import  OpenAI

 # DeepSeek API ئىشلىتىش (OpenAI compatible) 
client = OpenAI(
    api_key= "your-deepseek-key" ,
    base_url= "https://api.deepseek.com" 
)

response = client.chat.completions. create (
    model= "deepseek-reasoner" ,   # R1 مودېلى 
    messages=[
        { "role" :  "user" ,  "content" :  "بۇ ماتېماتىكا مەسىلىسىنى قەدەممۇ-قەدەم ھەل قىل..." }
    ]
)

 print (response.choices[ 0 ].message.content)

DeepSeek R1 ئالاھىدىلىكى

قەدەممۇ-قەدەم ئويلاش

مۇرەككەپ مەسىلىنى قەدەمگە ئايرىپ ھەل قىلىش. Math، logic ۋە coding دا كۈچلۈك.

MoE قۇرۇلمىسى

671B پارامېتىر، لېكىن ھەر چاقىرىشتا 37B نىلا ئىشلىتىدۇ. ئۈنۈملۈك.

Qwen (通义千问)

Alibaba Cloud نىڭ ئوچۇق مەنبە AI مودېلى

⚠️ ئاگاھلاندۇرۇش: Qwen خىتاي شىركىتى Alibaba نىڭ مەھسۇلاتى. API ئىشلىتىش ئەمەس، پەقەت يەرلىك ئىجرا قىلىش تەۋسىيە. تۆۋەندىكى ئۇچۇر پەقەت تېخنىكىلىق تونۇشتۇرۇش ئۈچۈن.

Qwen Alibaba Cloud تەرىپىدىن قۇرۇلغان. كۆپ تىللىق قوللاش، vision، audio ۋە code قابىلىيەتلىرى بار. Apache 2.0 ئىجازەتنامىسى بىلەن تولۇق ئوچۇق.

PYTHON

qwen_local.py

from  transformers  import  AutoModelForCausalLM, AutoTokenizer

 # Qwen مودېلىنى يۈكلەش 
model_name =  "Qwen/Qwen2.5-7B-Instruct" 

tokenizer = AutoTokenizer. from_pretrained (model_name)
model = AutoModelForCausalLM. from_pretrained (
    model_name,
    torch_dtype= "auto" ,
    device_map= "auto" 
)

 # سوئال سوراش 
messages = [
    { "role" :  "user" ,  "content" :  "Python دىكى decorator نى چۈشەندۈر" }
]

text = tokenizer. apply_chat_template (messages, tokenize= False , add_generation_prompt= True )
inputs = tokenizer([text], return_tensors= "pt" ). to (model.device)

outputs = model. generate (**inputs, max_new_tokens= 512 )
 print (tokenizer. decode (outputs[ 0 ], skip_special_tokens= True ))

Qwen ئالاھىدىلىكى

كۆپ تىللىق

ئىنگلىزچە، خىتايچە ۋە باشقا تىللاردا كۈچلۈك. ئازلىق تىللاردا قايتا تەربىيىلىگىلى بولىدۇ.

چوڭلۇق تاللاش

0.5B دىن 72B گىچە. تېلېفوندىن مۇلازىمېتىرغىچە ماسلاشتۇرغىلى بولىدۇ.

Llama

Meta نىڭ ئوچۇق مەنبە LLM ئائىلىسى

Llama Meta تەرىپىدىن قۇرۇلغان، ئوچۇق مەنبە LLM ھەرىكىتىنىڭ ئاساسىي مودېللىرىدىن بىرى. Llama 3 ئۆلچەمدە state-of-the-art سەۋىيىسىگە يەتتى. كۆپ قۇرۇلما ۋە قوراللار Llama ئۈستىگە قۇرۇلغان.

BASH

ollama_llama.sh

# Ollama بىلەن Llama نى ئىجرا قىلىش 
ollama pull llama3.3

 # سۆھبەت باشلاش 
ollama run llama3.3

 # API سۈپىتىدە ئىشلىتىش 
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.3",
  "prompt": "Explain quantum computing"
}'

Mistral

فرانسىيەدىن كەلگەن ئۈنۈملۈك مودېللار

Mistral AI فرانسىيە ستارتاپى. ئۈنۈملۈك، تېز مودېللار بىلەن تونۇلغان. Mixtral MoE قۇرۇلمىسى بىلەن يۇقىرى سۈپەتنى تۆۋەن باھادا تەمىنلەيدۇ.

ئۈنۈملۈكلۈك

ئاز پارامېتىر بىلەن يۇقىرى سۈپەت. MoE بىلەن كۆپ قىسىم ئىشلەتمەي تۇرۇپ توختايدۇ.

ياۋرۇپا ماسلىقى

EU دا قۇرۇلغان، GDPR ۋە AI Act تەلەپلىرىگە ماس.

يەرلىك Deployment

ئۆز كومپيۇتېرىڭىزدا LLM ئىجرا قىلىش

Ollama

ئەڭ ئاددىي يول. بىر بۇيرۇق بىلەن مودېل چۈشۈرۈپ ئىجرا قىلىش. Mac، Linux، Windows.

vLLM

يۇقىرى throughput inference. Production deployment ئۈچۈن ماس. PagedAttention.

llama.cpp

CPU دا ئىجرا. كىچىك quantized مودېللار. Edge deployment.

Text Generation Inference

Hugging Face نىڭ inference server. Docker بىلەن ئاسان deployment.

BASH

local_deployment.sh

# === Ollama بىلەن === 
 # ئورنىتىش 
curl -fsSL https://ollama.com/install.sh | sh

 # مودېل ئىجرا 
ollama run qwen2.5:7b

 # === vLLM بىلەن === 
pip install vllm

 # API server قوزغىتىش 
python -m vllm.entrypoints.openai.api_server \
    --model Qwen/Qwen2.5-7B-Instruct \
    --port 8000

 # === Docker TGI بىلەن === 
docker run --gpus all -p 8080:80 \
    ghcr.io/huggingface/text-generation-inference:latest \
    --model-id meta-llama/Llama-3.3-70B-Instruct

Fine-tuning ئوچۇق مودېل

ئۆز سانلىق مەلۇماتىڭىز بىلەن ماسلاشتۇرۇش

ئوچۇق مەنبە مودېللارنىڭ ئەڭ چوڭ ئەۋزەللىكى fine-tune قىلغىلى بولۇشى. ئۆز domain، تىل ياكى ۋەزىپىڭىزگە ماسلاشتۇرۇڭ.

PYTHON

finetune_lora.py

from  unsloth  import  FastLanguageModel
 from  trl  import  SFTTrainer

 # مودېلنى يۈكلەش (4-bit quantized) 
model, tokenizer = FastLanguageModel. from_pretrained (
    model_name= "unsloth/Qwen2.5-7B-Instruct" ,
    max_seq_length= 2048 ,
    load_in_4bit= True ,
)

 # LoRA adapter قوشۇش 
model = FastLanguageModel. get_peft_model (
    model,
    r= 16 ,                     # LoRA rank 
    target_modules=[ "q_proj" ,  "k_proj" ,  "v_proj" ,  "o_proj" ],
    lora_alpha= 16 ,
    lora_dropout= 0 ,
    bias= "none" ,
)

 # تەربىيىلەش 
trainer = SFTTrainer(
    model=model,
    tokenizer=tokenizer,
    train_dataset=dataset,
    max_seq_length= 2048 ,
    dataset_text_field= "text" ,
)

trainer. train ()

LoRA / QLoRA

ئاز پارامېتىر تەربىيىلەش. ئاز GPU ئىچكى ساقلىغۇچ بىلەن چوڭ مودېللارنى fine-tune قىلىش.

تولۇق تەربىيىلەش

پۈتۈن پارامېتىرنى تەربىيىلەش. كۆپ GPU لازىم، ئەمما ئەڭ ياخشى نەتىجە.

مودېل تاللاش

قايسى مودېل قايسى ئىشقا ماس

✓ شەخسىي ئىشلىتىش ئۈچۈن بىخەتەر تاللاش:

⚠️ خىتاي مودېللىرى (پەقەت يەرلىك ئىجرا قىلسىڭىزلا):

ئەسكەرتىش: ھەر مودېلنىڭ license ئۆزگىچە. تىجارەت ئىشلىتىش ئۈچۈن Apache 2.0 ياكى MIT license بولغانلارنى تاللاڭ. بەزى مودېللار (مەسىلەن Llama) تىجارەت چەكلىمىسى بار.

⚠️ ئاخىرقى ئەسكەرتىش: شەخسىي، مەخپىي ياكى سەزگۈر ئۇچۇرلارنى خىتاي AI مودېللىرىنىڭ API لىرىغا ئەۋەتمەڭ. ئەگەر بۇ مودېللارنى ئىشلىتىشنى خالىسىڭىز، چوقۇم ئۆز مۇلازىمېتىرىڭىزدا يەرلىك ئىجرا قىلىڭ .

// OpenSource_LLM_Guide v1.0 | idirak.com | 2026

تۈزگۈچى: سۈنئىي ئىدراك — idirak.com ئۈچۈن ئوچۇق مەنبە LLM ئۇيغۇرچە قوللانمىسى

DeepSeek · Qwen · Llama · Mistral · Self-Host · Fine-tune