Stora språkmodeller (LLM: er)

Viktigt!

Den här funktionen finns som allmänt tillgänglig förhandsversion.

Dessa anteckningsböcker finjusterar och eftertränar stora språkmodeller (LLM:er) i AI Runtime. De täcker parametereffektiva metoder som Low-Rank Adaptation (LoRA) och full övervakad finjustering över bibliotek som TRL, Unsloth, Axolotl och LLM Foundry. För exempel på batchinferens, se Batchinferens.

Handledning Beskrivning
Förstärkningsinlärning av Gemma4-2B Postträna Gemma4-2B med Group Relative Policy Optimization (GRPO) och Low-Rank Adaptation (LoRA) på en enda H100-GPU med Unsloth.
Övervakad finjustering (fullständig) av Qwen3-4B Finjustera Qwen3-4B fullt ut på en enda H100 GPU med TRL, med mixad precision i BF16 och gradient-checkpointing.
Övervakad finjustering (LoRA) av Llama-3.2-3B LoRA finjusterar Llama-3.2-3B på ett enda GPU med Unsloth-biblioteket.
Övervakad finjustering (LoRA) av GPT-OSS 20B LoRA finjusterade GPT-OSS 20B på 8 H100-GPU:er med TRL och distribuerad dataparallellism.
Övervakad finjustering (fullständig) av Llama-3.2-1B Fullvikts finjusterad Llama-3.2-1B på 8 H100-GPU:er med TRL och DeepSpeed ZeRO Stage 3.
Övervakad finjustering (LoRA) av Olmo3 7B LoRA finjusterar Olmo3 7B över flera GPU:er med Axolotl-biblioteket.
Övervakad finjustering (full) och servering av Qwen3,5-0,8B Finjustera Qwen3.5-0.8B på ett enda H100-grafikkort med TRL, och leverera det sedan bakom en vLLM Model Serving endpoint.
Övervakad finjustering av Llama-3.2-3B på multi-GPU:er LoRA finjusterar Llama-3.2-3B över flera GPU:er med Unsloth-biblioteket.
Övervakad finjustering (LoRA) av GPT-OSS 120B LoRA finjusterar GPT-OSS 120B på 8 H100-GPU:er med TRL, med DDP och FSDP.
Träning av transformer-modeller på flera GPU:er Träna transformeringsmodeller med PyTorch Fullständigt fragmenterad dataparallell (FSDP) för att fragmentera modellparametrar över flera GPU:er.

Videodemo

Den här videon går igenom Supervised Fine-tuning (LoRA) för Llama-3.2-3B exempelanteckningsboken i detalj (12 minuter).

  • Uppdaterades senast