Inference 是什么意思?使用训练好的模型生成结果
把新的输入交给已经训练好的模型,计算并得到输出的过程。日常让 AI 回答问题、识别图片,都可能在进行 inference。
举个日常例子
你发出“把这段话翻成英文”的请求,模型处理输入并生成译文,这次运行就属于推理。
什么时候会遇到
看到“推理服务”“推理速度”或硬件需求,通常是在讨论运行模型的成本和效率。
使用时注意
这里的“推理”不专指逐步分析难题。生成一句简单问候也会运行模型,并不代表模型正在重新训练。
接着看与参考资料
依据下方公开资料整理,例子用于说明概念。内容核对:2026-10-15。