Создание экземпляра сервисаBeta
Вы можете создать экземпляр сервиса Cloud Airflow в одной из двух конфигураций:
- Single: экземпляр сервиса, развернутый на одном сервере. Решение подходит для разработки и тестирования, снижает расходы на развертывание тестовой инфраструктуры. Не обеспечивает отказоустойчивость: сбой узла приводит к остановке всей работы.
- Кластер: отказоустойчивая конфигурация из нескольких узлов (сбой одного узла не приводит к остановке инстанса Cloud Airflow). Решение обеспечивает высокую производительность и подходит для хранения баз данных, в том числе для высоконагруженных проектов со строгими требованиями к сохранности данных.
-
Перейдите в личный кабинет VK Cloud.
-
Выберите проект, где нужно создать экземпляр сервиса.
-
Перейдите в раздел Data Platform → Экземпляры сервисов.
-
Нажмите кнопку Добавить инстанс или Создать экземпляр.
-
На шаге Конфигурация:
- Выберите тип сервиса
Cloud Airflow. - Выберите нужную версию сервиса.
- Выберите конфигурацию
Single. - Нажмите кнопку Следующий шаг.
- Выберите тип сервиса
-
На шаге Параметры:
-
Задайте для экземпляра название и описание.
-
Выберите кластер Kubernetes. В этот кластер Cloud Containers будет добавлен worker-узел для размещения экземпляра сервиса Cloud Airflow.
Если нужного кластера нет в списке:
-
Выберите пункт Создать новый кластер.
-
Выберите сеть и подсеть для кластера из выпадающего списка Сеть.
Если нужной сети нет в списке:
- Выберите пункт Создать новую сеть.
- Выберите нужную SDN:
NeutronилиSprut. - Задайте адрес подсети, например,
10.0.1.0/24.
-
Выберите зону доступности, где будет размещен узел кластера Cloud Containers.
-
-
Задайте параметры в блоке Worker:
- Выберите тип виртуальной машины для узла из выпадающего списка.
- Выберите тип диска для узла из выпадающего списка.
- Задайте размер диска для узла.
-
Задайте параметры в блоке PostgreSQL:
- Выберите тип виртуальной машины, на которой будет развернута БД PostgreSQL, из выпадающего списка.
- Выберите тип диска из выпадающего списка.
- Задайте размер диска.
-
Нажмите кнопку Следующий шаг.
-
-
На шаге Хранилище DAG Airflow выберите источник подключения и укажите:
S3 CloudS3 External- Название бакета: имя бакета, который вы хотите подключить в качестве хранилища DAG.
- Path (необязательное поле): путь до бакета.
-
Нажмите кнопку Следующий шаг.
-
На шаге Учетные данные:
-
Придумайте логин администратора для доступа к Airflow. Требования к логину:
- Допустимы только цифры, латинские буквы и спецсимвол
_. - Первый символ — латинская буква любого регистра или
_. - Недопустимы имена:
os_admin,root,dataplatform_moth.
- Допустимы только цифры, латинские буквы и спецсимвол
-
Укажите электронную почту администратора.
-
Укажите имя администратора.
-
Укажите фамилию администратора.
-
Придумайте или сгенерируйте пароль администратора.
Требования к паролю:
- не менее 8 символов;
- должен содержать хотя бы одну заглавную и одну строчную букву латинского алфавита, хотя бы одну цифру и один из спецсимволов:
!,",#,$,%,&,(,),*,+,,,.,:,;,<,=,>,?,@,[,],^,_,{,},~,-.
-
Нажмите кнопку Создать.
-
-
Перейдите в личный кабинет VK Cloud.
-
Выберите проект, где нужно создать экземпляр сервиса.
-
Перейдите в раздел Data Platform → Экземпляры сервисов.
-
Нажмите кнопку Создать инстанс или Создать экземпляр.
-
На шаге Конфигурация:
- Выберите тип сервиса
Cloud Airflow. - Выберите нужную версию сервиса.
- Выберите конфигурацию
Кластер. - Нажмите кнопку Следующий шаг.
- Выберите тип сервиса
-
На шаге Параметры:
-
Задайте для экземпляра название и описание.
-
Выберите кластер Kubernetes. В этот кластер Cloud Containers будет добавлен worker-узел для размещения экземпляра Cloud Airflow.
Если нужного кластера нет в списке:
-
Выберите пункт Создать новый кластер.
-
Выберите сеть и подсеть для кластера из выпадающего списка Сеть.
Если нужной сети нет в списке:
- Выберите пункт Создать новую сеть.
- Выберите нужную SDN:
NeutronилиSprut. - Задайте адрес подсети, например,
10.0.1.0/24.
-
Выберите зону доступности, где будет размещен узел кластера Cloud Containers.
-
-
Настройте параметры узлов кластера, выбрав одну из опций:
БазоваяПродвинутаяВыберите один из готовых шаблонов с необходимым количеством CPU и RAM узлов кластера. Шаблон конфигурации и тип диска для узлов кластера уже выбраны.
При выборе любого шаблона экземпляр Cloud Airflow будет состоять из трех узлов с PostgreSQL и нескольких worker-узлов.
-
Нажмите кнопку Следующий шаг.
-
-
На шаге DAG Airflow задайте параметры для доступа к хранилищу S3:
S3 CloudS3 External- Название бакета: имя бакета, который вы хотите подключить в качестве хранилища DAG.
- Path (необязательное поле): путь до бакета.
Нажмите кнопку Следующий шаг.
-
На шаге Учетные данные:
-
Придумайте логин администратора для доступа к Airflow.
Требования к логину:
- Допустимы только цифры, латинские буквы и символ
_. - Первый символ — латинская буква любого регистра или
_. - Недопустимы имена:
os_admin,root,dataplatform_moth.
- Допустимы только цифры, латинские буквы и символ
-
Укажите электронную почту администратора.
-
Укажите имя администратора.
-
Укажите фамилию администратора.
-
Придумайте или сгенерируйте пароль администратора.
Требования к паролю:
- должен состоять как минимум из 8 символов;
- должен содержать хотя бы одну заглавную и одну строчную букву латинского алфавита, хотя бы одну цифру и один из спецсимволов:
!,",#,$,%,&,(,),*,+,,,.,:,;,<,=,>,?,@,[,],^,_,{,},~,-.
-
Нажмите кнопку Создать.
Дождитесь завершения операции. Создание экземпляра сервиса Cloud Airflow в конфигурации Кластер может занять около часа.
-