Liking cljdoc? Tell your friends :D
Clojure only.

im.ttalk.agent.provider.openai-compat-provider

通用 OpenAI 兼容 Provider —— 面向 vLLM / LocalAI / LM Studio / 自建网关等 任意暴露 OpenAI Chat Completions 协议的后端。

与具体厂商 provider 不同,这里没有内置 base-url::base-url 必填, 端点默认 "/chat/completions"(可经 :endpoint 覆盖)。

用法: (require '[im.ttalk.agent.provider.openai-compat-provider :as oc]) (oc/create-provider {:base-url "http://localhost:8000/v1" :api-key "key"})

也可经 factory:(factory/create-provider :openai-compat {:base-url ... :api-key ...})

通用 OpenAI 兼容 Provider —— 面向 vLLM / LocalAI / LM Studio / 自建网关等
任意暴露 OpenAI Chat Completions 协议的后端。

与具体厂商 provider 不同,这里没有内置 base-url:**:base-url 必填**,
端点默认 "/chat/completions"(可经 :endpoint 覆盖)。

用法:
(require '[im.ttalk.agent.provider.openai-compat-provider :as oc])
(oc/create-provider {:base-url "http://localhost:8000/v1" :api-key "key"})

也可经 factory:(factory/create-provider :openai-compat {:base-url ... :api-key ...})
raw docstring

create-providerclj

(create-provider)
(create-provider opts)

创建通用 OpenAI 兼容 provider 实例。

opts:

  • :base-url 必填,OpenAI 兼容根地址(如 http://localhost:8000/v1)
  • :api-key 可选(部分本地后端无需鉴权)
  • :endpoint 可选,默认 "/chat/completions"
  • :timeout 可选,默认 120000
  • :model 可选默认模型
  • :env-key 可选,api-key 的环境变量名(默认 OPENAI_COMPAT_API_KEY)
创建通用 OpenAI 兼容 provider 实例。

opts:
- :base-url  必填,OpenAI 兼容根地址(如 http://localhost:8000/v1)
- :api-key   可选(部分本地后端无需鉴权)
- :endpoint  可选,默认 "/chat/completions"
- :timeout   可选,默认 120000
- :model     可选默认模型
- :env-key   可选,api-key 的环境变量名(默认 OPENAI_COMPAT_API_KEY)
sourceraw docstring

cljdoc builds & hosts documentation for Clojure/Script libraries

Keyboard shortcuts
Ctrl+kJump to recent docs
←Move to previous article
→Move to next article
Ctrl+/Jump to the search field
× close