Merge PR #81: configurable API timeout for local LLMs
This commit is contained in:
commit
dd671cb15b
|
|
@ -13,4 +13,7 @@ ZEP_API_KEY=your_zep_api_key_here
|
||||||
# 注意如果不使用加速配置,env文件中就不要出现下面的配置项
|
# 注意如果不使用加速配置,env文件中就不要出现下面的配置项
|
||||||
LLM_BOOST_API_KEY=your_api_key_here
|
LLM_BOOST_API_KEY=your_api_key_here
|
||||||
LLM_BOOST_BASE_URL=your_base_url_here
|
LLM_BOOST_BASE_URL=your_base_url_here
|
||||||
LLM_BOOST_MODEL_NAME=your_model_name_here
|
LLM_BOOST_MODEL_NAME=your_model_name_here
|
||||||
|
# ===== 前端API超时配置(可选)=====
|
||||||
|
# 本地大模型响应较慢时可以增加此值(毫秒)
|
||||||
|
# VITE_API_TIMEOUT=600000 # 10分钟
|
||||||
|
|
|
||||||
|
|
@ -4,7 +4,7 @@ import i18n from '../i18n'
|
||||||
// 创建axios实例
|
// 创建axios实例
|
||||||
const service = axios.create({
|
const service = axios.create({
|
||||||
baseURL: import.meta.env.VITE_API_BASE_URL || 'http://localhost:5001',
|
baseURL: import.meta.env.VITE_API_BASE_URL || 'http://localhost:5001',
|
||||||
timeout: 300000, // 5分钟超时(本体生成可能需要较长时间)
|
timeout: parseInt(import.meta.env.VITE_API_TIMEOUT) || 300000, // 可配置超时时间,默认5分钟(本地大模型可能需要更长时间)
|
||||||
headers: {
|
headers: {
|
||||||
'Content-Type': 'application/json'
|
'Content-Type': 'application/json'
|
||||||
}
|
}
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue