Skip to content

LLM 配置 ​

控制 LambChat 与语言模型交互方式的设置。

模型提供商密钥 ​

这些变量由底层 LLM SDK 库直接使用(不经过 Settings 类)。当模型未在模型配置 UI 中设置 API Key 时,它们作为回退凭据使用:

变量名说明
ANTHROPIC_API_KEYAnthropic API 密钥(由 langchain-anthropic 使用)
ANTHROPIC_AUTH_TOKENAnthropic Bearer Token,ANTHROPIC_API_KEY 的替代项
ANTHROPIC_BASE_URLAnthropic 兼容的 API 基础 URL
GOOGLE_API_KEYGoogle Gemini API 密钥(由 langchain-google-genai 使用)

TIP

LambChat 支持通过 UI 进行多模型管理。模型及其 API Key 在模型配置 UI 中设置;以上环境变量仅作为提供商 SDK 的回退凭据。

重试与缓存设置 ​

变量名默认值说明
DEFAULT_MODEL_ID(空)管理员设置的新会话和后台任务默认模型配置 ID。空 = 第一个启用模型。
LLM_MAX_RETRIES3超时、网络、限流和 5xx 失败后追加的重试次数。3 表示最多调用 4 次。
LLM_RETRY_DELAY1.0首次重试等待时间(秒,后续指数退避)。
LLM_REQUEST_TIMEOUT0完整非流式响应的总时限(秒)。0 或负数禁用 LambChat 的非流式总超时,因此非流式默认无限等待。
LLM_FIRST_EVENT_TIMEOUT30流式响应首个 provider 事件的最长等待秒数。0 或负数禁用该 deadline。首事件到达后无流式总时限。
LLM_STREAM_IDLE_TIMEOUT120流式响应相邻 chunk 之间的最长空闲秒数,防止上游中转停滞导致 run 永久挂死。0 或负数禁用。
LLM_MODEL_CACHE_SIZE50模型实例缓存大小。防止重复实例化导致的内存泄漏。
TASK_RUN_WATCHDOG_TIMEOUT86400任务 run 级 watchdog 总超时(秒)。超时后运行迁移为 FAILED 终态并清理 arq payload。0 或负数禁用。该 watchdog 只看墙钟、不感知任务活跃度,须设置得远大于健康长任务(如图像批处理)的耗时;真正卡死的 run 由事件停滞 watchdog(TASK_RUN_STALL_TIMEOUT)检测。
LLM_REQUEST_HEADERS(空)JSON 对象形式的请求头覆盖,合并进内置防封默认头(Anthropic 协议为 Claude Code 风格 User-Agent/x-app,OpenAI 兼容协议为 opencode 风格 User-Agent)。示例:{"User-Agent": "my-agent/1.0"}。模型级请求头覆盖优先于此设置;Gemini 协议暂不支持。
LLM_MAX_INPUT_TOKENS(无)可选:DeepAgent 自动摘要的上下文窗口大小。
LLM_TEMPERATURE(无)可选:LLM 调用的默认温度。
LLM_MAX_TOKENS(无)可选:LLM 调用的最大输出 token 数。

DeepAgent 上下文设置 ​

变量名默认值说明
DEEPAGENT_DEFAULT_MAX_INPUT_TOKENS64000DeepAgent 默认最大输入 token 数。

示例 ​

bash
# .env
ANTHROPIC_API_KEY=sk-your-api-key
LLM_MAX_RETRIES=3
LLM_RETRY_DELAY=1.0
LLM_REQUEST_TIMEOUT=0
LLM_FIRST_EVENT_TIMEOUT=30
LLM_STREAM_IDLE_TIMEOUT=120
LLM_MODEL_CACHE_SIZE=50