CatBoost (CatBoost)

CatBoost
CatBoost
Тип	Библиотека для машинного обучения
Автор	ООО «Яндекс»
Разработчик	Яндекс
Написана на	C++, Python, JavaScript
Первый выпуск	18 июля 2017
Аппаратные платформы	Linux, macOS, Windows
Последняя версия	1.0.0 (1 октября 2021)
Состояние	Активна
Лицензия	Apache 2.0
Сайт	catboost.ai

CatBoost — открытая программная библиотека, разработанная компанией Яндекс и реализующая уникальный патентованный алгоритм построения моделей машинного обучения, использующий одну из оригинальных схем градиентного бустинга. Основное API для работы с библиотекой реализовано для языка Python, также существует реализация для языка программирования R.

18 июля 2017 года компания Яндекс выложила библиотеку с алгоритмом CatBoost в открытый доступ с открытой лицензией Apache 2.0^[1]^[2]^[3], которая является продолжением и развитием закрытого проекта Яндекса — Матрикснет➤.

История

Матрикснет

Закрытая система машинного обучения Матрикснет разрабатывалась компанией Яндекс с 2009 года для использования градиентного бустинга во внутренних проектах компании — в первую очередь, для построения формулы ранжирования поисковой выдачи^[4].

CatBoost

18 июля 2017 года CatBoost была открыта для свободного доступа на GitHub компанией Яндекс под свободной лицензией Apache 2.0. CatBoost является системой машинного обучения использующая одну из оригинальных схем градиентного бустинга. CatBoost доступна для 64-разрядных операционных систем Linux, macOS и Windows. В ОС macOS для ускорения работы используется оригинальный фреймворк Core ML^[англ.] — созданный Apple для методов машинного обучения.

Сравнивая CatBoost с подобными системами машинного обучения компаний Google (TensorFlow) и Microsoft (LightGBM), руководитель разработки систем машинного обучения «Яндекса» Анна Вероника Дорогуш отметила, что Google TensorFlow решает другой класс задач, эффективно анализируя однородные данные — например изображения. А «CatBoost работает с данными разной природы и может быть использован в связке с TensorFlow и другими алгоритмами машинного обучения в зависимости от конкретных задач». У Microsoft LightGBM российская разработка выигрывает по качеству, что демонстрирует таблица тестов с общепринятыми в машинном обучении сравнениями, но пока проигрывает в скорости — что Яндекс обещает исправить^[5].

Применение

В первую очередь технология CatBoost используется для улучшения результатов поисковой системы Яндекс, ранжирования персональной ленты рекомендаций — например в Яндекс.Дзен, для расчёта прогноза погоды и в других интернет-сервисах компании «Яндекс», где он показал себя лучше предыдущей технологии — «Матрикснета». В своих решениях для промышленности команда Yandex Data Factory также использует эту технологию, в частности она используется для оптимизации расхода сырья и предсказания дефектов при производстве.^{[источник не указан 808 дней]}

CatBoost был внедрён Европейским центром ядерных исследований (ЦЕРН) при исследованиях на Большом адронном коллайдере (БАК) для объединения информации с различных частей детектора LHCb в максимально точное, агрегированное знание о частице. Используя для комбинирования данных CatBoost, учёным удалось добиться улучшения качественных характеристик финального решения, где результаты CatBoost оказались лучше результатов, получаемых с использованием других методов^[6]^[7].

Примечания

↑ Яндекс выложил в открытый доступ новую библиотеку машинного обучения (неопр.). Яндекс. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.
↑ CatBoost — новый метод машинного обучения от Яндекса (неопр.). Яндекс. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.
↑ Яндекс открывает технологию машинного обучения CatBoost (неопр.). Хабр. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.
↑ Технологии: Матрикснет (неопр.). Яндекс.. Дата обращения: 8 июня 2018. Архивировано 8 июня 2018 года.
↑ Зачем «Яндекс» открыл доступ к своей системе машинного обучения (неопр.). Forbes. (19 июля 2017). Дата обращения: 8 июня 2018. Архивировано 7 июня 2018 года.
↑ «Яндекс» выложил в открытый доступ альтернативу нейросетям (неопр.). CNews. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.
↑ «Яндекс» представил новый метод машинного обучения CatBoost (неопр.). 3DNews. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.

Ссылка

catboost.ai — официальный сайт CatBoost (англ.)
Проект CatBoost на сайте GitHub (англ.)

[press-rel-1] Яндекс выложил в открытый доступ новую библиотеку машинного обучения (неопр.). Яндекс. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.

[yandex-blog-2] CatBoost — новый метод машинного обучения от Яндекса (неопр.). Яндекс. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.

[3] Яндекс открывает технологию машинного обучения CatBoost (неопр.). Хабр. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.

[whitepaper2015-4] Технологии: Матрикснет (неопр.). Яндекс.. Дата обращения: 8 июня 2018. Архивировано 8 июня 2018 года.

[5] Зачем «Яндекс» открыл доступ к своей системе машинного обучения (неопр.). Forbes. (19 июля 2017). Дата обращения: 8 июня 2018. Архивировано 7 июня 2018 года.

[6] «Яндекс» выложил в открытый доступ альтернативу нейросетям (неопр.). CNews. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.

[7] «Яндекс» представил новый метод машинного обучения CatBoost (неопр.). 3DNews. (18 июля 2017). Дата обращения: 8 июня 2018. Архивировано 12 июня 2018 года.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

Программы глубинного обучения
Свободное ПО	Apache SINGA^[англ.] Blocks^[англ.] Caffe Deeplearning4j DeepSpeed^[англ.] Dlib^[англ.] Keras Microsoft Cognitive Toolkit ML.NET MXNet OpenNN PyTorch TensorFlow Theano Torch ONNX RETURNN^[англ.]
Несвободное ПО	Apple Core ML^[англ.] IBM Watson Maple Mathematica Neural Designer^[англ.]
Категория Сравнение