工具指南 / 从用途到使用

Text Generation Inference

使用 Rust、Python 与 gRPC 服务组件部署文本生成推理；项目当前处于维护模式。

Text Generation Inference 能帮你完成什么工作

选一项工作查看准备材料、执行建议和交付检查。

准备材料

怎样开始

交付目标

人工检查

核对维护状态、模型兼容性与返回结果。

使用 Rust、Python 与 gRPC 服务组件部署文本生成推理；项目当前处于维护模式。

正式使用前，查看官方当前账号、功能、导出和输入资料要求，核对结果是否适合你的任务。

提供语言、图像、视频和音频模型 API 与在线 AI 应用的资源平台。

面向企业应用提供模型推理 API、模型路由与专用部署。

为 AI 应用和智能体开发提供模型服务与云端基础设施的平台。

提供多类 AI 模型 API、模型服务网关与算力服务的平台。