LLM API结束原因与参数调优全指南:finish_reason; response_format
2026/9/10 0:58:55 网站建设 项目流程

LLM API结束原因与参数调优全指南:finish_reason ; response_format

目录

  • LLM API结束原因与参数调优全指南:finish_reason ; response_format
    • 一、`finish_reason` 是什么?
      • 通俗比喻
      • 常见取值一览
    • 二、还有哪些常用参数可以设置?
      • 1. 输出控制类(最常用)
      • 2. 重复抑制类(防止啰嗦)
      • 3. 停止控制类
      • 4. 结构化输出类(关键 ✅)
      • 5. 上下文与身份类
    • 三、针对 分类场景的"黄金参数模板"
    • 四、参数选择速查口诀

一、finish_reason是什么?

finish_reason是 LLM API 返回结果中的一个**"结束原因"字段**,告诉你模型这次为什么停止输出。它是判断回答质量和完整性的**“事后诊断书”**。

通俗比喻

想象 LLM 是一个正在写作文的学生,finish_reason就是他交卷时附带的一张说明纸条

  • “我写完了”(正常)
  • “时间到了,被收卷了”(被截断)
  • “老师说这道题不能写”(被过滤)

常见取值一览

finish_reason含义触发条件业务建议
stop正常结束模型自己判断说完了,或遇到stop关键词直接使用结果
length⚠️被 max_tokens 截断

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询