Kubeflow Katib

Kubeflow Katib 是一个 Kubernetes 原生的自动化机器学习（AutoML）项目。Katib 支持 超参数调优、 早停 和 神经架构搜索。

Katib 是一个与机器学习（ML）框架无关的项目。它可以调整用户选择的任何语言编写的应用程序的超参数，并原生支持许多 ML 框架，例如

Katib 可以使用任何 Kubernetes 自定义资源 执行训练任务，开箱即用地支持 https://github.com/kubeflow/training-operator%E3%80%81 https://github.com/argoproj/argo-workflows%E3%80%81https://github.com/tektoncd/pipeline 等多种工具。

Katib 在阿拉伯语中意为“秘书”。

搜索算法

Katib 支持多种搜索算法。请参考 Kubeflow 文档 了解每种算法的详细信息，并查看 本指南 实现自定义算法。

超参数调优

神经架构搜索

早停

随机搜索

ENAS

中位数停止

网格搜索

DARTS

贝叶斯优化

TPE

多变量 TPE

CMA-ES

Sobol 拟随机序列

HyperBand

基于种群的训练

为执行上述算法，Katib 支持以下框架：

• https://github.com/c-bata/goptuna
• https://github.com/hyperopt/hyperopt
• https://github.com/optuna/optuna
• https://github.com/scikit-optimize/scikit-optimize

先决条件

请查看 官方 Kubeflow 文档 了解安装 Katib 的先决条件。

安装

请遵循 Kubeflow Katib 指南 获取安装 Katib 的详细说明。

安装控制平面

运行以下命令安装 Katib 控制平面的最新稳定版本：

kubectl apply -k "github.com/kubeflow/katib.git/manifests/v1beta1/installs/katib-standalone?ref=v0.17.0"

运行以下命令安装 Katib 控制平面的最新变更：

kubectl apply -k "github.com/kubeflow/katib.git/manifests/v1beta1/installs/katib-standalone?ref=master"

有关 Katib 实验，请查看 完整示例列表。

安装 Python SDK

Katib 实现了 Python SDK，以简化数据科学家创建超参数调优任务的流程。

运行以下命令安装 Katib SDK 的最新稳定版本：

pip install -U kubeflow-katib

快速入门

请参考 快速入门指南 使用 Python SDK 快速创建您的第一个超参数调优实验。

社区

以下链接提供了参与社区的相关信息：

• 参加 双周 AutoML 和训练工作组 社区会议。
• 加入我们的 #kubeflow-katib Slack 频道。
• 查看 谁在使用 Katib 和 关于 Katib 项目的演示文稿。

贡献

请参考 贡献指南。

引用

如果您在科学出版物中使用 Katib，我们建议引用以下论文：

A Scalable and Cloud-Native Hyperparameter Tuning System，George et al., arXiv:2006.02085, 2020.

Bibtex 条目：

@misc{george2020katib,
title={A Scalable and Cloud-Native Hyperparameter Tuning System},
author={Johnu George and Ce Gao and Richard Liu and Hou Gang Liu and Yuan Tang and Ramdoot Pydipaty and Amit Kumar Saha},
year={2020},
eprint={2006.02085},
archivePrefix={arXiv},
primaryClass={cs.DC}
}