Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Questi esempi affinano e post-addestrano grandi modelli linguistici (LLM) su AI Runtime. Trattano metodi efficienti in termini di parametri, come Low-Rank Adaptation (LoRA), e il fine-tuning supervisionato completo in librerie come TRL, Unsloth, Axolotl e LLM Foundry. Per esempi di inferenza batch, vedi Inferenza batch.
| Example | Interface | Descrizione |
|---|---|---|
| Apprendimento per rinforzo di Gemma4-2B | Notebook | Esegui il post-addestramento di Gemma4-2B con Group Relative Policy Optimization (GRPO) e Low-Rank Adaptation (LoRA) su una singola GPU H100 utilizzando Unsloth. |
| Fine-tuning con supervisione (completo) di Qwen3-4B | Notebook | Eseguire il fine-tuning completo di Qwen3-4B su una singola GPU H100 con TRL, utilizzando la precisione mista BF16 e il gradient checkpointing. |
| Fine-tuning supervisionato (LoRA) di Llama-3.2-3B | Notebook | LoRA ha affinato Llama-3.2-3B su una singola GPU con la libreria Unsloth. |
| Supervisioned Fine-tuning (LoRA) di GPT-OSS 20B | Notebook | Ottimizza GPT-OSS 20B con LoRA su 8 GPU H100 con TRL e parallelismo dei dati distribuito. |
| Supervisione di Fine-tuning (Full) di Llama-3.2-1B | Notebook | Fine-tuning a pesi completi di Llama-3.2-1B su 8 GPU H100 con TRL e DeepSpeed ZeRO Stage 3. |
| Supervisioned Fine-tuning (LoRA) di Olmo3 7B | Notebook | LoRA affina Olmo3 7B su più GPU con la libreria Axolotl. |
| Messa a punto con supervisione (Full) e distribuzione di Qwen3.5-0.8B | Notebook | Eseguire il fine-tuning di Qwen3.5-0.8B su una singola GPU H100 con TRL, quindi distribuirlo tramite un endpoint di Model Serving di vLLM. |
| Fine-tuning supervisionato di Llama-3.2-3B su più GPU | Notebook | LoRA ottimizza Llama-3.2-3B su più GPU con la libreria Unsloth. |
| Messa a punto supervisionata (LoRA) di GPT-OSS 120B | Notebook | Esegui il fine-tuning LoRA di GPT-OSS 120B su 8 GPU H100 con TRL, usando DDP e FSDP. |
| Addestrare i transformer su più GPU | Notebook | Eseguire il training dei modelli Transformer usando PyTorch Fully Sharded Data Parallel (FSDP) per partizionare i parametri del modello tra più GPU. |
| Messa a punto FSDP multi-nodo del Llama 3.1 8B | CLI | Supervisiona il fine-tune di Llama 3.1 8B con PyTorch FSDP su due nodi 8x H100, registra la loss di training in MLflow e salva un checkpoint consolidato. |
| Fine-tuning FSDP2 multi-nodo di Qwen3.8-27B | CLI | Ha supervisionato il fine-tuning di Qwen3.8-27B con PyTorch FSDP2 su quattro nodi H100 8x. |
| Fine-tuning completo di Qwen3-8B per l'estrazione delle fatture | CLI | Ottimizzare Qwen3-8B per l'estrazione di entità da fatture e ricevute con TRL e DeepSpeed ZeRO-3 su un unico nodo 8x H100. |
| Supervisione della messa a punto fine di Qwen2.5-3B con Ray Train | CLI | Usa Ray Train per eseguire il fine-tuning di Qwen2.5-3B con un worker DDP per GPU su un nodo con 8 H100. |
| Ricerca iperparametro LoRA per Qwen2.5-0.5B | CLI | Usa Ray Tune e l'algoritmo asincrono di riduzione della metà successiva (ASHA) per cercare configurazioni LoRA su quattro GPU A10 e registrare la configurazione migliore su MLflow. |
Video dimostrativo
Questo video spiega in dettaglio il Supervised Fine-tuning (LoRA) del quaderno di esempio Llama-3.2-3B (12 minuti).