Garnet

Garnet 是微软研究院推出的新型远程缓存存储，具有以下独特优势：

• Garnet 采用广受欢迎的 RESP 有线协议作为起点，这使得可以通过当今大多数编程语言中未经修改的 Redis 客户端使用 Garnet，例如 C# 中的 https://github.com/StackExchange/StackExchange.Redis%E3%80%82
• 与同类开源缓存存储相比，Garnet 在处理大量客户端连接和小批量数据时提供了更高的吞吐量和可扩展性，为大型应用和服务节省成本。
• 在启用了加速网络的商用云（Azure）VM 上，Garnet 展现出极低的客户端延迟（99.9 百分位通常低于 300 微秒），这对实际场景至关重要。
• 基于最新的 .NET 技术，Garnet 具有跨平台、可扩展和现代化的特性。其设计易于开发和演进，同时在常见场景下不牺牲性能。我们利用 .NET 丰富的库生态系统扩展 API 广度，并为优化提供了开放机会。得益于对 .NET 的精心使用，Garnet 在 Linux 和 Windows 上均实现了最先进的性能。

本仓库包含构建和运行 Garnet 的代码。如需更多信息和文档，请访问我们的网站：https://microsoft.github.io/garnet%E3%80%82

正在寻找完全托管服务？ https://microsoft.github.io/garnet/docs/azure/overview 提供 Garnet 作为完全托管、企业级的缓存解决方案，具备内置高可用性、性能保证和零基础设施管理。

特性摘要

Garnet 实现了广泛的 API，包括原始字符串（如 gets、sets 和键过期）、分析型（如 HyperLogLog 和 Bitmap）以及对象型（如有序集合和列表）操作。它可以通过客户端 RESP 事务以及我们自己的 C# 服务器端存储过程和模块处理多键事务。用户可以在 C# 的便捷性和安全性下，为原始字符串和自定义对象类型定义自定义操作，从而降低开发自定义扩展的门槛。Garnet 还支持 Lua 脚本。

Garnet 使用快速且可插拔的网络层，支持未来扩展（如利用内核旁路堆栈）。它通过 .NET 强大的 SslStream 库支持安全的传输层安全（TLS）通信，并提供基本访问控制。Garnet 的存储层名为 Tsavorite，专为高性能构建，包含强大的数据库特性：线程可扩展性、分层存储支持（内存、SSD 和云存储）、快速非阻塞 checkpoint、恢复、用于持久性的操作日志、多键事务支持以及更好的内存管理和重用。最后，Garnet 支持集群模式，包括分片、复制和动态键迁移。

性能预览

我们在 https://microsoft.github.io/garnet/docs/benchmarking/overview 上展示了一些关键结果，将 Garnet 与领先的开源缓存存储进行比较。

设计亮点

Garnet 的设计重新思考了整个缓存存储堆栈——从网络接收数据包、解析和处理数据库操作到执行存储交互。我们基于多年的 https://microsoft.github.io/garnet/docs/research/papers 构建。以下是 Garnet 的整体架构。

Garnet 的网络层基于共享内存设计，TLS 处理和存储交互在网络 IO 完成线程上执行，避免了常见场景下的线程切换开销。这种方法允许 CPU 缓存一致性将数据传输到处理逻辑，而非传统的基于 shuffle 的网络设计（后者需要将数据移动到服务器上的相应分片）。

Garnet 的存储设计包含两个 Tsavorite 键值存储，它们的命运由统一的操作日志绑定。第一个存储称为“主存储”（main store），针对原始字符串操作优化，通过精心管理内存避免垃圾回收。第二个（可选）“对象存储”（object store）针对复杂对象和自定义数据类型优化，包括有序集合（Sorted Set）、集合（Set）、哈希（Hash）、列表（List）和地理空间（Geo）等常用类型。对象存储中的数据类型利用 .NET 库生态系统实现，在内存中以堆形式存储（使更新非常高效），在磁盘上以序列化形式存储。未来，我们计划研究使用统一索引和日志以简化维护。

Garnet 设计的一个显著特点是其窄腰 Tsavorite 存储 API，该 API 用于在其上实现庞大、丰富且可扩展的 RESP API 表面。此 API 包括读取、更新插入（upsert）、删除和原子读写修改操作，并通过异步回调让 Garnet 在每个操作的各个阶段插入逻辑。我们的存储 API 模型能够将 Garnet 的解析和查询处理关注点与并发、存储分层和 checkpoint 等存储细节清晰分离。Garnet 使用两阶段锁定实现多键事务。

集群模式

除单节点执行外，Garnet 还具有功能完备的集群模式，允许用户创建和管理分片与复制部署。Garnet 还支持高效的动态键迁移方案以重新平衡分片。用户可以使用标准 Redis 集群命令创建和管理 Garnet 集群，节点通过 gossip 协议共享和更新集群状态。Garnet 的集群模式设计目前是被动式的：这意味着它不实现领导者选举，仅响应用户提供的控制平面发出的集群命令；详情参见 https://microsoft.github.io/garnet/docs/cluster/overview#control-plane%E3%80%82

后续步骤

请访问我们的 https://microsoft.github.io/garnet 网站，或直接跳至 https://microsoft.github.io/garnet/docs/getting-started 或 https://microsoft.github.io/garnet/docs/welcome/releases 部分。

许可证

本项目采用 MIT 许可证，详见 LICENSE 文件。

隐私

隐私信息请参见 [***]

贡献

本项目欢迎贡献和建议。大多数贡献要求您同意贡献者许可协议（CLA），声明您有权并实际授予我们使用您贡献的权利。详情请访问 [***]

提交拉取请求时，CLA 机器人将自动确定您是否需要提供 CLA，并相应地标记 PR（例如状态检查、评论）。只需按照机器人提供的说明操作即可。您只需在使用我们 CLA 的所有仓库中执行一次此操作。

本项目已采用 微软开源行为准则。有关更多信息，请参见 行为准则常见问题，或通过 *** 联系我们以获取其他问题或意见。

商标

本项目可能包含项目、产品或服务的商标或徽标。微软商标或徽标的授权使用须遵守 微软商标与品牌指南。在本项目的修改版本中使用微软商标或徽标不得引起混淆或暗示微软的赞助。任何第三方商标或徽标的使用均受第三方政策约束。

Redis 是 Redis Ltd. 的注册商标。其所有权利归 Redis Ltd. 所有。微软对 Redis 的任何使用仅为参考目的，不表示 Redis 与微软之间存在任何赞助、背书或关联关系。