轩辕镜像
轩辕镜像专业版
个人中心搜索镜像
交易
充值流量我的订单
工具
工单支持镜像收录Run 助手IP 归属地密码生成Npm 源Pip 源
帮助
常见问题我要吐槽
其他
关于我们网站地图

官方QQ群: 13763429

轩辕镜像
镜像详情
portkeyai/gateway
官方博客使用教程热门镜像工单支持
本站面向开发者与科研用户,提供开源镜像的搜索和下载加速服务。
所有镜像均来源于原始开源仓库,本站不存储、不修改、不传播任何镜像内容。
轩辕镜像 - 国内开发者首选的专业 Docker 镜像下载加速服务平台 - 官方QQ群:13763429 👈点击免费获得技术支持。
本站面向开发者与科研用户,提供开源镜像的搜索和下载加速服务。所有镜像均来源于原始开源仓库,本站不存储、不修改、不传播任何镜像内容。

本站支持搜索的镜像仓库:Docker Hub、gcr.io、ghcr.io、quay.io、k8s.gcr.io、registry.gcr.io、elastic.co、mcr.microsoft.com

gateway Docker 镜像下载 - 轩辕镜像

gateway 镜像详细信息和使用指南

gateway 镜像标签列表和版本信息

gateway 镜像拉取命令和加速下载

gateway 镜像使用说明和配置指南

Docker 镜像加速服务 - 轩辕镜像平台

国内开发者首选的 Docker 镜像加速平台

极速拉取 Docker 镜像服务

相关 Docker 镜像推荐

热门 Docker 镜像下载

gateway
portkeyai/gateway

gateway 镜像详细信息

gateway 镜像标签列表

gateway 镜像使用说明

gateway 镜像拉取命令

Docker 镜像加速服务

轩辕镜像平台优势

镜像下载指南

相关 Docker 镜像推荐

Portkey's AI Gateway allows you to route to 100+ LLMs with 1 fast & friendly API.
1 收藏0 次下载activeportkeyai镜像
🚀轩辕镜像专业版更稳定💎一键安装 Docker 配置镜像源
镜像简介版本下载
🚀轩辕镜像专业版更稳定💎一键安装 Docker 配置镜像源

gateway 镜像详细说明

gateway 使用指南

gateway 配置说明

gateway 官方文档

AI Gateway

Route to 100+ LLMs with 1 fast & friendly API.

License ![]([] ![]([] ![npm version]([***]



Portkey's AI Gateway is the interface between your app and hosted LLMs. It streamlines API requests to OpenAI, Anthropic, Mistral, LLama2, Anyscale, Google Gemini and more with a unified API.

✅  Blazing fast (9.9x faster) with a tiny footprint (~45kb installed)
✅  Load balance across multiple models, providers, and keys
✅  Fallbacks make sure your app stays resilient
✅  Automatic Retries with exponential fallbacks come by default
✅  Plug-in middleware as needed
✅  Battle tested over 100B tokens

Deploy using Docker

Run using Docker directly:

docker run -d -p 8787:8787 portkeyai/gateway:latest

For more information on the Docker image, check here

Deploy using Docker Compose

  1. Download compose file from the repo:
wget "[***]"
  1. Run:
docker compose up -d
  1. The service is now running and listening on port 8787

Usage

Let's try making a chat completions call to OpenAI through the AI gateway:

curl '127.0.0.1:8787/v1/chat/completions' \
  -H 'x-portkey-provider: openai' \
  -H "Authorization: Bearer $OPENAI_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"messages": [{"role": "user","content": "Say this is test."}], "max_tokens": 20, "model": "gpt-4"}'

Full list of supported SDKs


Supported Providers

ProviderSupportStreamSupported Endpoints
OpenAI✅✅/completions, /chat/completions,/embeddings, /assistants, /threads, /runs, /images/generations, /audio/*
Azure OpenAI✅✅/completions, /chat/completions,/embeddings
Anyscale✅✅/chat/completions
Google Gemini & Palm✅✅/generateMessage, /generateText, /embedText
Anthropic✅✅/messages, /complete
Cohere✅✅/generate, /embed, /rerank
Together AI✅✅/chat/completions, /completions, /inference
Perplexity✅✅/chat/completions
Mistral✅✅/chat/completions, /embeddings
Nomic✅✅/embeddings
AI21✅✅/complete, /chat, /embed
Stability AI✅✅/generation/{engine_id}/text-to-image
DeepInfra✅✅/inference
Ollama✅✅/chat/completions

View the complete list of 100+ supported models here


Features

Unified API Signature

Connect with 100+ LLM using OpenAI's API signature. The AI gateway handles the request, response and error transformations so you don't have to make any changes to your code. You can use the OpenAI SDK itself to connect to any of the supported LLMs.

              

           

       

Fallback

Don't let failures stop you. The Fallback feature allows you to specify a list of Language Model APIs (LLMs) in a prioritized order. If the primary LLM fails to respond or encounters an error, Portkey will automatically fallback to the next LLM in the list, ensuring your application's robustness and reliability.

Automatic Retries

Temporary issues shouldn't mean manual re-runs. AI Gateway can automatically retry failed requests upto 5 times. We apply an exponential backoff strategy, which spaces out retry attempts to prevent network overload.

Load Balancing

Distribute load effectively across multiple API keys or providers based on custom weights. This ensures high availability and optimal performance of your generative AI apps, preventing any single LLM from becoming a performance bottleneck.


Supported SDKs

LanguageSupported SDKs
Node.js / JS / TSPortkey SDK
OpenAI SDK
LangchainJS
LlamaIndex.TS
PythonPortkey SDK
OpenAI SDK
Langchain
LlamaIndex
Gogo-openai
Javaopenai-java
Rustasync-openai
Rubyruby-openai

Community

Join our growing community around the world, for help, ideas, and discussions on AI.

  • View our official Blog
  • Chat live with us on ***
  • Follow us on ***
  • Connect with us on LinkedIn

!Rubeus Social Share (4)

查看更多 gateway 相关镜像 →
webthingsio/gateway logo
webthingsio/gateway
by webthingsio
基于Debian Buster的Docker镜像,用于运行WebThings Gateway。
131M+ pulls
上次更新:2 个月前
georchestra/gateway logo
georchestra/gateway
by georchestra
geOrchestra空间数据基础设施(SDI)的网关模块
10K+ pulls
上次更新:25 天前
caapim/gateway logo
caapim/gateway
by caapim
CA API Gateway是提供API路由、安全防护、流量管理及监控的API网关,用于企业API集中管理与保护,保障通信安全高效。
395M+ pulls
上次更新:5 天前
usyfbcore/gateway logo
usyfbcore/gateway
by usyfbcore
基于Apache HTTP服务器的网关应用
1M+ pulls
上次更新:10 天前

常见问题

轩辕镜像免费版与专业版有什么区别?

免费版仅支持 Docker Hub 加速,不承诺可用性和速度;专业版支持更多镜像源,保证可用性和稳定速度,提供优先客服响应。

轩辕镜像免费版与专业版有分别支持哪些镜像?

免费版仅支持 docker.io;专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等。

流量耗尽错误提示

当返回 402 Payment Required 错误时,表示流量已耗尽,需要充值流量包以恢复服务。

410 错误问题

通常由 Docker 版本过低导致,需要升级到 20.x 或更高版本以支持 V2 协议。

manifest unknown 错误

先检查 Docker 版本,版本过低则升级;版本正常则验证镜像信息是否正确。

镜像拉取成功后,如何去掉轩辕镜像域名前缀?

使用 docker tag 命令为镜像打上新标签,去掉域名前缀,使镜像名称更简洁。

查看全部问题→

轩辕镜像下载加速使用手册

探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式

🔐

登录方式进行 Docker 镜像下载加速教程

通过 Docker 登录方式配置轩辕镜像加速服务,包含7个详细步骤

🐧

Linux Docker 镜像下载加速教程

在 Linux 系统上配置轩辕镜像源,支持主流发行版

🖥️

Windows/Mac Docker 镜像下载加速教程

在 Docker Desktop 中配置轩辕镜像加速,适用于桌面系统

📦

Docker Compose 镜像下载加速教程

在 Docker Compose 中使用轩辕镜像加速,支持容器编排

📋

K8s containerd 镜像下载加速教程

在 k8s 中配置 containerd 使用轩辕镜像加速

🔧

宝塔面板 Docker 镜像下载加速教程

在宝塔面板中配置轩辕镜像加速,提升服务器管理效率

💾

群晖 NAS Docker 镜像下载加速教程

在 Synology 群晖NAS系统中配置轩辕镜像加速

🐂

飞牛fnOS Docker 镜像下载加速教程

在飞牛fnOS系统中配置轩辕镜像加速

📱

极空间 NAS Docker 镜像下载加速教程

在极空间NAS中配置轩辕镜像加速

⚡

爱快路由 ikuai Docker 镜像下载加速教程

在爱快ikuai系统中配置轩辕镜像加速

🔗

绿联 NAS Docker 镜像下载加速教程

在绿联NAS系统中配置轩辕镜像加速

🌐

威联通 NAS Docker 镜像下载加速教程

在威联通NAS系统中配置轩辕镜像加速

📦

Podman Docker 镜像下载加速教程

在 Podman 中配置轩辕镜像加速,支持多系统

📚

ghcr、Quay、nvcr、k8s、gcr 等仓库下载镜像加速教程

配置轩辕镜像加速9大主流镜像仓库,包含详细配置步骤

🚀

专属域名方式进行 Docker 镜像下载加速教程

无需登录即可使用轩辕镜像加速服务,更加便捷高效

需要其他帮助?请查看我们的 常见问题 或 官方QQ群: 13763429

商务:17300950906
|©2024-2025 源码跳动
商务合作电话:17300950906|Copyright © 2024-2025 杭州源码跳动科技有限公司. All rights reserved.