https://github.com/datastax/astra-assistants-api/actions/workflows/run-tests.yml/badge.svg?branch=main](https://github.com/datastax/astra-assistants-api/actions/workflows/run-tests.yml) https://github.com/datastax/astra-assistants-api/actions/workflows/docker.yml/badge.svg](https://github.com/datastax/astra-assistants-api/actions/workflows/docker.yml) 完全兼容的服务,支持持久化线程、文件、vector_stores、助手、检索、函数调用等功能,使用AstraDB(DataStax提供的数据库即服务,基于Apache Cassandra和https://github.com/jbellis/jvector%E6%9E%84%E5%BB%BA%EF%BC%89%E5%AE%9E%E7%8E%B0%E6%95%B0%E6%8D%AE%E5%AD%98%E5%82%A8%E3%80%82
支持数十种第三方LLM提供商(甚至本地模型)用于补全和嵌入功能(由https://github.com/BerriAI/litellm%E6%8F%90%E4%BE%9B%E6%94%AF%E6%8C%81%EF%BC%89%E3%80%82
您可以使用我们托管的Astra Assistants服务,也可以自行托管开源API服务器。
通过Docker运行,首先从Docker Hub拉取镜像:
docker pull datastax/astra-assistants
如果不希望使用最新版本,可以指定特定版本:
docker pull datastax/astra-assistants:v0.2.18
然后运行(-p参数将Docker的8080端口映射到主机的8080端口):
docker run -p 8080:8080 datastax/astra-assistants
如需通过Docker Compose与ollama集成,请克隆仓库:
git clone ***:datastax/astra-assistants-api.git
然后运行examples目录下的docker-compose:
cd examples/ollama/gpu # 如需仅使用CPU,可选择examples/ollama/cpu;使用GPU需安装docker-toolkit docker-compose up -d
使用前需先拉取所需的ollama模型:
curl http://localhost:***/api/pull -d '{ "name": "deepseek-coder-v2" }'
助手客户端应路由到ollama容器,需设置OLLAMA_API_BASE_URL。使用docker-compose时,OLLAMA_API_BASE_URL应设为http://ollama:***;若本地运行ollama,可设为http://localhost:***。
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
无需登录使用专属域名
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
Harbor Proxy Repository 对接专属域名
Portainer Registries 加速拉取
Nexus3 Docker Proxy 内网缓存
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
docker search 限制
站内搜不到镜像
离线 save/load
插件要用 plugin install
WSL 拉取慢
安全与 digest
新手拉取配置
镜像合规机制
manifest unknown
no matching manifest(架构)
invalid tar header(解压)
TLS 证书失败
DNS 超时
域名连通性排查
410 Gone 排查
402 与流量用尽
401 认证失败
429 限流
D-Bus 凭证提示
413 与超大单层
来自真实用户的反馈,见证轩辕镜像的优质服务