ghcr.io/ggml-org/llama.cpp:full-s390x-b8184

基于C/C++实现的LLM推理工具，旨在通过最小化配置实现跨硬件平台的高效本地及云端大语言模型部署。

纯C/C++无依赖实现；多架构深度优化（Apple silicon支持ARM NEON/Accelerate/Metal，x86支持AVX系列/AMX，RISC-V支持RVV等指令集）；1.5-8bit整数量化降低内存占用并加速推理；多GPU后端支持（NVIDIA CUDA、AMD HIP、Moore Threads MUSA及Vulkan/SYCL）；CPU+GPU混合推理支持超VRAM容量模型运行。

基于C/C++构建，以ggml库为核心开发框架，集成硬件加速技术（ARM NEON、x86 AVX系列、RISC-V RVV等）及多计算后端（CUDA、HIP、MUSA、Vulkan、SYCL），实现跨平台高性能推理。

适用于本地开发测试、边缘设备部署及云端推理服务，支持LLaMA系列、Mistral、GPT-oss等多种模型，满足低配置环境下高效运行大语言模型的需求。