deepset/haystack Docker 镜像 - 轩辕镜像

Haystack 镜像文档

Haystack 是一个端到端LLM框架，允许您构建由LLM、Transformer模型、向量搜索等驱动的应用。无论您想执行检索增强生成（RAG）、文档搜索、问答还是答案生成，Haystack都能将最先进的嵌入模型和LLM编排到管道中，构建端到端NLP应用并解决您的使用场景。

Haystack 镜像

• haystack:base-<version> 包含一个预安装Haystack的工作Python环境。此镜像预期被 FROM 继承。

旧版Haystack镜像变体

Haystack 1.x版本已于2025年3月11日停止支持（EOL），不再接收更新或支持。发布的最终版本为1.26.4。我们建议迁移到Haystack 2.x版本，该版本自2024年3月起已稳定可用。

Haystack 1.x的Docker镜像有六个变体：

• haystack:gpu-<version>：包含Haystack依赖项以及运行REST API和UI所需的组件。附带CUDA运行时，能够在GPU上运行。
• haystack:cpu-remote-inference-<version>：CPU镜像的精简版本，包含REST API和UI。专为使用远程托管模型（如Hugging Face Inference、OpenAI、Cohere、Anthropic等）的PromptNode推理而设计。
• haystack:cpu-<version>：包含Haystack依赖项以及运行REST API和UI所需的组件。不支持GPU，必须在CPU上运行。
• haystack:base-gpu-<version>：仅包含Haystack依赖项。附带CUDA运行时，可在GPU上运行。
• haystack:base-cpu-remote-inference-<version>：CPU镜像的精简版本，专为使用远程托管模型（如Hugging Face Inference、OpenAI、Cohere、Anthropic等）的PromptNode推理而设计。
• haystack:base-cpu-<version>：仅包含Haystack依赖项。不支持GPU，必须在CPU上运行。

镜像开发

镜像使用BuildKit构建，我们使用bake来编排构建过程。

您可以通过运行以下命令构建特定镜像：

sh
docker buildx bake gpu

您可以覆盖docker-bake.hcl文件中定义的任何variable并构建自定义镜像，例如，如果您想使用Haystack仓库的分支，运行：

sh
HAYSTACK_VERSION=mybranch_or_tag BASE_IMAGE_TAG_SUFFIX=latest docker buildx bake gpu --no-cache

多平台构建

Haystack镜像支持多种架构。但根据您的操作系统和Docker环境，您可能无法在本地构建所有架构。

尝试构建镜像时，您可能会遇到以下错误：

multiple platforms feature is currently not supported for docker driver. Please switch to a different driver (eg. “docker buildx create --use”)

要解决此问题，您需要覆盖platform选项，并将本地构建限制为与您计算机相同的架构。例如，在Apple M1上，您可以通过以下方式调用bake将构建限制为仅ARM架构：

sh
docker buildx bake base-cpu --set "*.platform=linux/arm64"

许可证

查看此镜像中包含的软件的许可证信息。

与所有Docker镜像一样，这些镜像可能还包含其他软件，这些软件可能受其他许可证（如基础发行版中的Bash等，以及包含的主要软件的任何直接或间接依赖项）约束。

至于任何预构建镜像的使用，镜像用户有责任确保对本镜像的任何使用符合其中包含的所有软件的相关许可证。