Переглянути джерело

Feat: add support for OpenAi gpt 4.1 series (#7540)

### What problem does this PR solve?

Adds support for the GPT-4.1 series from OpenAI.

### Type of change


- [x] New Feature (non-breaking change which adds functionality)
tags/v0.19.0
Andrea 5 місяці тому
джерело
коміт
e39ceb2bd1
Аккаунт користувача з таким Email не знайдено
1 змінених файлів з 23 додано та 5 видалено
  1. 23
    5
      conf/llm_factories.json

+ 23
- 5
conf/llm_factories.json Переглянути файл

"tags": "LLM,TEXT EMBEDDING,TTS,TEXT RE-RANK,SPEECH2TEXT,MODERATION", "tags": "LLM,TEXT EMBEDDING,TTS,TEXT RE-RANK,SPEECH2TEXT,MODERATION",
"status": "1", "status": "1",
"llm": [ "llm": [
{
"llm_name": "gpt-4.1",
"tags": "LLM,CHAT,1M,IMAGE2TEXT",
"max_tokens": 1047576,
"model_type": "chat",
"is_tools": true
},
{
"llm_name": "gpt-4.1-mini",
"tags": "LLM,CHAT,1M,IMAGE2TEXT",
"max_tokens": 1047576,
"model_type": "chat",
"is_tools": true
},
{
"llm_name": "gpt-4.1-nano",
"tags": "LLM,CHAT,1M,IMAGE2TEXT",
"max_tokens": 1047576,
"model_type": "chat",
"is_tools": true
},
{ {
"llm_name": "gpt-4.5-preview", "llm_name": "gpt-4.5-preview",
"tags": "LLM,CHAT,128K", "tags": "LLM,CHAT,128K",
"max_tokens": 64000, "max_tokens": 64000,
"model_type": "chat", "model_type": "chat",
"is_tools": true "is_tools": true
}, },
{ {
"llm_name": "deepseek-reasoner", "llm_name": "deepseek-reasoner",
"llm_name": "ibm/granite-guardian-3.0-8b", "llm_name": "ibm/granite-guardian-3.0-8b",
"tags": "LLM,CHAT,128k", "tags": "LLM,CHAT,128k",
"max_tokens": 131072, "max_tokens": 131072,
"model_type": "chat"
"model_type": "chat"
}, },
{ {
"llm_name": "igenius / colosseum-355b_instruct_16k", "llm_name": "igenius / colosseum-355b_instruct_16k",
"max_tokens": 512, "max_tokens": 512,
"model_type": "embedding" "model_type": "embedding"
}, },


{ {
"llm_name": "adept/fuyu-8b", "llm_name": "adept/fuyu-8b",
"tags": "IMAGE2TEXT,1K", "tags": "IMAGE2TEXT,1K",
"llm": [] "llm": []
} }
] ]
}
}

Завантаження…
Відмінити
Зберегти