MLC LLM 能帮你完成什么工作
选一项工作查看准备材料、执行建议和交付检查。
01为目标设备部署语言模型
- 准备材料
- 支持的模型
- 目标设备与编译环境
- 怎样开始
- 确定模型与目标设备，按 MLC LLM 的部署流程准备对应模型产物。
- 将模型部署到目标运行环境，并启动相应交互或推理入口。
- 在目标设备运行实际提示词，检查生成结果及资源表现，调整部署配置。
- 交付目标
- 编译后的模型部署产物
- 人工检查
- 核对目标平台、模型支持和实际运行效果。
MLC LLM 是什么
编译和部署语言模型，使模型在不同设备平台上以原生方式运行。
费用与使用条件
正式使用前，查看官方当前账号、功能、导出和输入资料要求，核对结果是否适合你的任务。
