Создание экземпляра сервисаBeta

Вы можете создать экземпляр сервиса Cloud Airflow в одной из двух конфигураций:

  • Single: экземпляр сервиса, развернутый на одном сервере. Решение подходит для разработки и тестирования, снижает расходы на развертывание тестовой инфраструктуры. Не обеспечивает отказоустойчивость: сбой узла приводит к остановке всей работы.
  • Кластер: отказоустойчивая конфигурация из нескольких узлов (сбой одного узла не приводит к остановке инстанса Cloud Airflow). Решение обеспечивает высокую производительность и подходит для хранения баз данных, в том числе для высоконагруженных проектов со строгими требованиями к сохранности данных.

Создание экземпляра сервиса в конфигурации Single

  1. Перейдите в личный кабинет VK Cloud.

  2. Выберите проект, где нужно создать экземпляр сервиса.

  3. Перейдите в раздел Data Platform → Экземпляры сервисов.

  4. Нажмите кнопку Добавить инстанс или Создать экземпляр.

  5. На шаге Конфигурация:

    1. Выберите тип сервиса Cloud Airflow.
    2. Выберите нужную версию сервиса.
    3. Выберите конфигурацию Single.
    4. Нажмите кнопку Следующий шаг.
  6. На шаге Параметры:

    1. Задайте для экземпляра название и описание.

    2. Выберите кластер Kubernetes. В этот кластер Cloud Containers будет добавлен worker-узел для размещения экземпляра сервиса Cloud Airflow.

      Если нужного кластера нет в списке:

      1. Выберите пункт Создать новый кластер.

      2. Выберите сеть и подсеть для кластера из выпадающего списка Сеть.

        Если нужной сети нет в списке:

        1. Выберите пункт Создать новую сеть.
        2. Выберите нужную SDN: Neutron или Sprut.
        3. Задайте адрес подсети, например, 10.0.1.0/24.
      3. Выберите зону доступности, где будет размещен узел кластера Cloud Containers.

    3. Задайте параметры в блоке Worker:

      1. Выберите тип виртуальной машины для узла из выпадающего списка.
      2. Выберите тип диска для узла из выпадающего списка.
      3. Задайте размер диска для узла.
    4. Задайте параметры в блоке PostgreSQL:

      1. Выберите тип виртуальной машины, на которой будет развернута БД PostgreSQL, из выпадающего списка.
      2. Выберите тип диска из выпадающего списка.
      3. Задайте размер диска.
    5. Нажмите кнопку Следующий шаг.

  7. На шаге Хранилище DAG Airflow выберите источник подключения и укажите:

    • Название бакета: имя бакета, который вы хотите подключить в качестве хранилища DAG.
    • Path (необязательное поле): путь до бакета.
  8. Нажмите кнопку Следующий шаг.

  9. На шаге Учетные данные:

    1. Придумайте логин администратора для доступа к Airflow. Требования к логину:

      • Допустимы только цифры, латинские буквы и спецсимвол _.
      • Первый символ — латинская буква любого регистра или _.
      • Недопустимы имена: os_admin, root, dataplatform_moth.
    2. Укажите электронную почту администратора.

    3. Укажите имя администратора.

    4. Укажите фамилию администратора.

    5. Придумайте или сгенерируйте пароль администратора.

      Требования к паролю:

      • не менее 8 символов;
      • должен содержать хотя бы одну заглавную и одну строчную букву латинского алфавита, хотя бы одну цифру и один из спецсимволов: !, ", #, $, %, &, (, ), *, +, ,, ., :, ;, <, =, >, ?, @, [, ], ^, _, {, }, ~, -.
    6. Нажмите кнопку Создать.

Создание экземпляра сервиса в конфигурации Кластер

  1. Перейдите в личный кабинет VK Cloud.

  2. Выберите проект, где нужно создать экземпляр сервиса.

  3. Перейдите в раздел Data Platform → Экземпляры сервисов.

  4. Нажмите кнопку Создать инстанс или Создать экземпляр.

  5. На шаге Конфигурация:

    1. Выберите тип сервиса Cloud Airflow.
    2. Выберите нужную версию сервиса.
    3. Выберите конфигурацию Кластер.
    4. Нажмите кнопку Следующий шаг.
  6. На шаге Параметры:

    1. Задайте для экземпляра название и описание.

    2. Выберите кластер Kubernetes. В этот кластер Cloud Containers будет добавлен worker-узел для размещения экземпляра Cloud Airflow.

      Если нужного кластера нет в списке:

      1. Выберите пункт Создать новый кластер.

      2. Выберите сеть и подсеть для кластера из выпадающего списка Сеть.

        Если нужной сети нет в списке:

        1. Выберите пункт Создать новую сеть.
        2. Выберите нужную SDN: Neutron или Sprut.
        3. Задайте адрес подсети, например, 10.0.1.0/24.
      3. Выберите зону доступности, где будет размещен узел кластера Cloud Containers.

    3. Настройте параметры узлов кластера, выбрав одну из опций:

      Выберите один из готовых шаблонов с необходимым количеством CPU и RAM узлов кластера. Шаблон конфигурации и тип диска для узлов кластера уже выбраны.

      При выборе любого шаблона экземпляр Cloud Airflow будет состоять из трех узлов с PostgreSQL и нескольких worker-узлов.

    4. Нажмите кнопку Следующий шаг.

  7. На шаге DAG Airflow задайте параметры для доступа к хранилищу S3:

    • Название бакета: имя бакета, который вы хотите подключить в качестве хранилища DAG.
    • Path (необязательное поле): путь до бакета.

    Нажмите кнопку Следующий шаг.

  8. На шаге Учетные данные:

    1. Придумайте логин администратора для доступа к Airflow.

      Требования к логину:

      • Допустимы только цифры, латинские буквы и символ _.
      • Первый символ — латинская буква любого регистра или _.
      • Недопустимы имена: os_admin, root, dataplatform_moth.
    2. Укажите электронную почту администратора.

    3. Укажите имя администратора.

    4. Укажите фамилию администратора.

    5. Придумайте или сгенерируйте пароль администратора.

      Требования к паролю:

      • должен состоять как минимум из 8 символов;
      • должен содержать хотя бы одну заглавную и одну строчную букву латинского алфавита, хотя бы одну цифру и один из спецсимволов: !, ", #, $, %, &, (, ), *, +, ,, ., :, ;, <, =, >, ?, @, [, ], ^, _, {, }, ~, -.
    6. Нажмите кнопку Создать.

      Дождитесь завершения операции. Создание экземпляра сервиса Cloud Airflow в конфигурации Кластер может занять около часа.