ChatOllama 如何调用

• ChatOllama 调用方式

调用方法

• 本地部署调用：首先需要在本地部署 ChatOllama，通过安装依赖、配置环境变量、运行迁移命令创建数据库表，最后启动开发服务器。成功启动后，可以通过配置的 API 密钥和端口进行调用。1
• Docker 部署调用：通过编写 docker-compose.yaml 文件来配置服务，包括 ChromaDB、ChatOllama 和 Redis。使用 docker compose up 命令启动服务，之后可以通过暴露的端口和配置的环境变量进行 API 调用。1

功能支持

• 模型管理：ChatOllama 支持 Ollama 模型管理，允许用户通过界面或 API 管理不同的语言模型。1
• 知识库管理：用户可以创建和管理知识库，ChatOllama 支持基于知识库的问答功能。1
• 聊天功能：支持与 LLMs 进行聊天，包括免费聊天和基于知识库的聊天。1
• API 密钥管理：商业 LLMs API 密钥可以在 ChatOllama 中进行管理，方便进行 API 调用。1