ghcr.io/kubeflow/katib/earlystopping-medianstop:v1beta1-c9528e7

Kubeflow Katib

Kubeflow Katib 是一个 Kubernetes 原生的自动化机器学习（AutoML）项目。Katib 支持 Hyperparameter Tuning（超参数优化）、 Early Stopping（早停）和 Neural Architecture Search（神经架构搜索）。

Katib 是一个与机器学习（ML）框架无关的项目。它可以为用户选择的任何语言编写的应用程序调整超参数，并原生支持许多 ML 框架，例如

Katib 可以使用任何 Kubernetes Custom Resources 执行训练作业，开箱即用地支持 https://github.com/kubeflow/training-operator%E3%80%81https://github.com/argoproj/argo-workflows%E3%80%81https://github.com/tektoncd/pipeline 等。

Katib 在阿拉伯语中意为“秘书”。

搜索算法

Katib 支持多种搜索算法。请参阅 Kubeflow 文档 了解每种算法的详细信息，并查看 本指南 实现自定义算法。

超参数调优（Hyperparameter Tuning）

神经架构搜索（Neural Architecture Search）

早停（Early Stopping）

随机搜索（Random Search）

ENAS

中位数停止（Median Stop）

网格搜索（Grid Search）

DARTS

贝叶斯优化（Bayesian Optimization）

TPE

多变量 TPE（Multivariate TPE）

CMA-ES

索博尔拟随机序列（Sobol's Quasirandom Sequence）

HyperBand

基于种群的训练（Population Based Training）

为执行上述算法，Katib 支持以下框架：

• https://github.com/c-bata/goptuna
• https://github.com/hyperopt/hyperopt
• https://github.com/optuna/optuna
• https://github.com/scikit-optimize/scikit-optimize

前提条件

请查看 官方 Kubeflow 文档 了解安装 Katib 的前提条件。

安装

请按照 Kubeflow Katib 指南 获取安装 Katib 的详细说明。

安装控制平面

运行以下命令安装 Katib 控制平面的最新稳定版本：

kubectl apply -k "github.com/kubeflow/katib.git/manifests/v1beta1/installs/katib-standalone?ref=v0.17.0"

运行以下命令安装 Katib 控制平面的最新变更：

kubectl apply -k "github.com/kubeflow/katib.git/manifests/v1beta1/installs/katib-standalone?ref=master"

有关 Katib 实验，请查看 完整示例列表。

安装 Python SDK

Katib 实现了 https://pypi.org/project/kubeflow-katib/%EF%BC%8C%E4%BB%A5%E7%AE%80%E5%8C%96%E6%95%B0%E6%8D%AE%E7%A7%91%E5%AD%A6%E5%AE%B6%E5%88%9B%E5%BB%BA%E8%B6%85%E5%8F%82%E6%95%B0%E8%B0%83%E4%BC%98%E4%BD%9C%E4%B8%9A%E7%9A%84%E6%B5%81%E7%A8%8B%E3%80%82

运行以下命令安装 Katib SDK 的最新稳定版本：

pip install -U kubeflow-katib

快速入门

请参考 快速入门指南，使用 Python SDK 快速创建您的第一个超参数调优实验。

社区

以下链接提供了如何参与社区的信息：

• 参加 每两周一次的 AutoML 和训练工作组 社区会议。
• 加入我们的 #kubeflow-katib Slack 频道。
• 查看 谁在使用 Katib 和 关于 Katib 项目的演示。

贡献

请参考 贡献指南。

引用

如果您在科学出版物中使用 Katib，我们建议引用以下论文：

https://arxiv.org/abs/2006.02085, George et al., arXiv:2006.02085, 2020.

Bibtex 条目：

@misc{george2020katib,
title={A Scalable and Cloud-Native Hyperparameter Tuning System},
author={Johnu George and Ce Gao and Richard Liu and Hou Gang Liu and Yuan Tang and Ramdoot Pydipaty and Amit Kumar Saha},
year={2020},
eprint={2006.02085},
archivePrefix={arXiv},
primaryClass={cs.DC}
}