Model Preparation
模型准备是让模型能够用于推理的过程。
LLM fine-tuning
了解 LLM 微调以及不同的微调框架。
LLM quantization
了解 LLM 量化以及不同的量化格式和方法。
LLM distillation
了解 LLM 蒸馏的工作原理、它与量化的区别,以及如何利用蒸馏构建更小、更快、推理效率更高的模型。
Select a result to preview
模型准备是让模型能够用于推理的过程。
了解 LLM 微调以及不同的微调框架。
了解 LLM 量化以及不同的量化格式和方法。
了解 LLM 蒸馏的工作原理、它与量化的区别,以及如何利用蒸馏构建更小、更快、推理效率更高的模型。