概述
Haystack 的OpenAIChatGenerator 通过 api_base_url 支持自定义的 OpenAI 兼容部署。将其指向 AI Sonar 并提供 AI Sonar API key 即可使用。
类型: RAG 和 pipeline 框架主要路径: OpenAI 兼容的 Chat Completions支持置信度: 支持的 OpenAI 兼容路径
环境配置
生成器
端点说明
在 Haystack 聊天生成器 pipeline 中使用此路径。对于嵌入(embeddings),如果你的 pipeline 使用了 AI Sonar 嵌入,请使用 AI Sonar 的/v1 base URL 配置相应的 Haystack 嵌入组件。