Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Von Bedeutung
Dieses Feature befindet sich in der Public Preview.
Mit diesen Beispielen werden große Sprachmodelle (LLMs) auf KI-Laufzeit feinjustiert und nachtrainiert. Sie behandeln parametereffiziente Methoden wie Low-Rank Adaptation (LoRA) und vollständige überwachte Feinabstimmung in Bibliotheken wie TRL, Unsloth, Axolotl und LLM Foundry. Für Beispiele für Batch-Inferenz siehe Batch-Inferenz.
| Example | Interface | Beschreibung |
|---|---|---|
| Bestärkendes Lernen für Gemma4-2B | Notebook | Führen Sie ein Post-Training für Gemma4-2B mittels Group Relative Policy Optimization (GRPO) und Low-Rank Adaptation (LoRA) auf einer einzelnen H100-GPU unter Verwendung von Unsloth durch. |
| Überwachte Feinabstimmung (vollständig) von Qwen3-4B | Notebook | Qwen3-4B auf einer einzelnen H100-GPU mit TRL per Full-Weight-Fine-Tuning optimieren, mit BF16-Mischpräzision und Gradient-Checkpointing. |
| Überwachtes Fine-Tuning (LoRA) von Llama-3.2-3B | Notebook | LoRA feinjustiert Llama-3.2-3B auf einer einzigen GPU mit der Unsloth-Bibliothek. |
| Überwachtes Fine-Tuning (LoRA) von GPT-OSS 20B | Notebook | LoRA feinjustiert GPT-OSS 20B auf 8 H100-GPUs mit TRL und verteilter Datenparallelität. |
| Überwachtes Fine-Tuning (vollständig) von Llama-3.2-1B | Notebook | Full-Weight Finetune Llama-3.2-1B auf 8 H100 GPUs mit TRL und DeepSpeed ZeRO Stage 3. |
| Überwachtes Fine-Tuning (LoRA) für Olmo3 7B | Notebook | LoRA feinjustiert Olmo3 7B über mehrere GPUs hinweg mit der Axolotl-Bibliothek. |
| Überwachte Optimierung (vollständig) und Bereitstellung von Qwen3.5-0.8B | Notebook | Optimieren Sie Qwen3.5-0.8B auf einer einzelnen H100-GPU mit TRL und stellen Sie es dann hinter einem Endpunkt für die vLLM-Modellbereitstellung bereit. |
| Überwachtes Fine-Tuning von Llama-3.2-3B auf mehreren GPUs | Notebook | LoRA feinjustiert Llama-3.2-3B über mehrere GPUs hinweg mit der Unsloth-Bibliothek. |
| Überwachte Optimierung (LoRA) von GPT-OSS 120B | Notebook | LoRA-Optimierung GPT-OSS 120B auf 8 H100-GPUs mit TRL, unter Verwendung von DDP und FSDP. |
| Transformatoren auf Multi-GPUs trainieren | Notebook | Trainiere Transformer-Modelle mit PyTorch Fully Sharded Data Parallel (FSDP), um Modellparameter auf mehreren GPUs zu verteilen. |
| Multi-Node-FSDP-Feinabstimmung von Llama 3.1 8B | CLI | Llama 3.1 8B mit PyTorch FSDP über zwei 8x-H100-Knoten überwacht feinabstimmen, Trainingsverluste in MLflow protokollieren und einen konsolidierten Checkpoint speichern. |
| Feinabstimmung von Qwen3.8-27B mit mehreren Knoten FSDP2 | CLI | Überwachte Feinabstimmung von Qwen3.8-27B mit PyTorch FSDP2 über vier 8x H100-Knoten. |
| Feinabstimmung des Vollgewichts von Qwen3-8B zur Rechnungsextraktion | CLI | Feinjustieren Sie Qwen3-8B für die Extraktion von Entitäten aus Rechnungen und Quittungen mit TRL und DeepSpeed ZeRO-3 auf einem 8x-H100-Knoten. |
| Überwachte Feinabstimmung von Qwen2.5-3B mit Ray Train | CLI | Verwenden Sie Ray Train, um Qwen2.5-3B mit einem verteilten Daten-Parallel-Worker pro GPU auf einem Knoten mit 8× H100-GPUs fein abzustimmen. |
| LoRA-Hyperparametersuche für Qwen2.5-0.5B | CLI | Verwenden Sie Ray Tune und den asynchronen Successive Halving-Algorithmus (ASHA), um LoRA-Konfigurationen über vier A10-GPUs zu durchsuchen und die beste Konfiguration in MLflow zu protokollieren. |
Video-Demo
Dieses Video erläutert das Beispiel-Notebook zum überwachten Fine-Tuning (LoRA) von Llama-3.2-3B im Detail (12 Minuten).