通用 OpenAI 兼容 Provider —— 面向 vLLM / LocalAI / LM Studio / 自建网关等 任意暴露 OpenAI Chat Completions 协议的后端。
与具体厂商 provider 不同,这里没有内置 base-url::base-url 必填, 端点默认 "/chat/completions"(可经 :endpoint 覆盖)。
用法: (require '[im.ttalk.agent.provider.openai-compat-provider :as oc]) (oc/create-provider {:base-url "http://localhost:8000/v1" :api-key "key"})
也可经 factory:(factory/create-provider :openai-compat {:base-url ... :api-key ...})
通用 OpenAI 兼容 Provider —— 面向 vLLM / LocalAI / LM Studio / 自建网关等
任意暴露 OpenAI Chat Completions 协议的后端。
与具体厂商 provider 不同,这里没有内置 base-url:**:base-url 必填**,
端点默认 "/chat/completions"(可经 :endpoint 覆盖)。
用法:
(require '[im.ttalk.agent.provider.openai-compat-provider :as oc])
(oc/create-provider {:base-url "http://localhost:8000/v1" :api-key "key"})
也可经 factory:(factory/create-provider :openai-compat {:base-url ... :api-key ...})(create-provider)(create-provider opts)创建通用 OpenAI 兼容 provider 实例。
opts:
创建通用 OpenAI 兼容 provider 实例。 opts: - :base-url 必填,OpenAI 兼容根地址(如 http://localhost:8000/v1) - :api-key 可选(部分本地后端无需鉴权) - :endpoint 可选,默认 "/chat/completions" - :timeout 可选,默认 120000 - :model 可选默认模型 - :env-key 可选,api-key 的环境变量名(默认 OPENAI_COMPAT_API_KEY)
cljdoc builds & hosts documentation for Clojure/Script libraries
| Ctrl+k | Jump to recent docs |
| ← | Move to previous article |
| → | Move to next article |
| Ctrl+/ | Jump to the search field |