Варіанти обчислювальних ресурсів Azure Machine Learning: інстанси, кластери та serverless
By Mirko Peters ·
Порівняйте обчислювальні інстанси, кластери та serverless-варіанти Azure Machine Learning, щоб оптимізувати витрати на хмару та продуктивність робочих процесів.
Automatically translated with AI from the original post. Read the English original

Вибір правильної апаратної конфігурації має вирішальне значення під час побудови прогнозних моделей у хмарі. У цьому посібнику розглянуто варіанти обчислювальних ресурсів Azure Machine Learning — зокрема обчислювальні інстанси, кластери та serverless-середовища, — щоб допомогти вам збалансувати продуктивність проєкту, продуктивність команди та витрати на хмару.
Головне
- Обчислювальні інстанси працюють як ваші персональні хмарні робочі станції для інтерактивного написання коду та тестування.
- Обчислювальні кластери автоматично масштабуються, коли надходять навчальні завдання, і зменшуються до нуля, щоб заощаджувати кошти.
- Serverless-обчислення дають змогу запускати робочі навантаження без керування базовими віртуальними машинами чи інфраструктурою.
- Вибір правильного типу обчислень безпосередньо впливає на ваші рахунки за хмару та ефективність керування ресурсами.
Розуміння обчислювальних ресурсів в Azure Machine Learning
Коли ви починаєте ініціативу з машинного навчання, вашим алгоритмам потрібна потужність, щоб обробляти дані та знаходити закономірності. У хмарі Microsoft обчислювальні ресурси — це фізична обчислювальна потужність (процесори та графічні процесори), яку орендують посекундно для виконання мільйонів математичних обчислень. Уміння правильно передбачити та керувати цією потужністю — це різниця між злагодженим проєктом і несподівано великим місячним рахунком за хмару.
Платформа відокремлює інтерфейс керування від важкої роботи. Робоча область упорядковує ваш код, набори даних та історію експериментів, а обчислювальний рівень виконує саму важку роботу. Оскільки проєкти машинного навчання варіюються від легкого дослідницького аналізу даних до масштабних навчань глибинного навчання, Azure пропонує окремі категорії обчислень, пристосовані до різних етапів життєвого циклу проєкту.
Обчислювальні інстанси: ваша хмарна робоча станція
Обчислювальний інстанс функціонує як одна хмарна віртуальна машина, призначена окремому користувачу. Уявіть його як персональний робочий стіл, де ви пишете код, тестуєте скрипти та аналізуєте набори даних безпосередньо в блокноті, що працює у браузері.
Коли використовувати обчислювальні інстанси
Обчислювальні інстанси ідеальні на ранніх, дослідницьких етапах проєкту. Замість того щоб перевантажувати пам'ять свого локального ноутбука великими датафреймами, ви запускаєте хмарну машину з точно потрібними характеристиками CPU або GPU. Можна під'єднати сховище, запускати інтерактивний код Python і в реальному часі візуалізувати перетворення даних.
Керування витратами на інстанси
Головна пастка для початківців — залишати обчислювальний інстанс увімкненим на ніч. Оскільки Azure нараховує плату за активне апаратне забезпечення посекундно, простоююча машина непомітно з'їдає ваш бюджет. Щоб цього уникнути, адміністратори мають налаштувати автоматичне вимкнення під час простою. Коли ви відходите від клавіатури, робоча станція переходить у режим сну, зупиняючи нарахування плати за обчислення до вашого повернення.
Обчислювальні кластери: важка команда
Якщо інстанс створений для однієї людини, яка пише код, то обчислювальний кластер призначений для виконання завдань. Обчислювальний кластер — це керована група віртуальних машин, яка може динамічно масштабуватися залежно від навантаження.
Поведінка динамічного масштабування
Коли ви надсилаєте завдання для навчання, кластер автоматично розгортає потрібні вузли, розподіляє обчислення між кількома машинами паралельно та швидко виконує ваш код. Після завершення завдання кластер масштабується назад до меншого розміру. Якщо встановити мінімальну кількість вузлів на нулі, ви не платите за кластер, коли активних завдань навчання немає.
Спільна робота команди та спільні ресурси
Кластери найкорисніші в середовищах спільної роботи, де кільком фахівцям із даних і розробникам потрібен доступ до потужного обладнання і при цьому вони не заважають одне одному. Замість того, щоб купувати дороге фізичне обладнання для кожного розробника, команда може використовувати один масштабований обчислювальний кластер Azure, яким централізовано керують через робочу область.
Serverless-обчислення: керована інфраструктура
Serverless-обчислення роблять абстракцію хмари ще на крок далі. З serverless-варіантами ви надсилаєте завдання, наприклад експеримент автоматизованого машинного навчання чи пакетне виведення, і жодного разу не працюєте з віртуальною машиною безпосередньо.
Платформа в фоновому режимі виділяє потрібні ресурси, виконує завдання і одразу їх звільняє. Такий підхід повністю знімає з користувача управління інфраструктурою. Ви зосереджуєтеся виключно на формулюванні бізнес-питання та наданні якісних даних, а хмарна платформа бере на себе всі технічні деталі.
Оптимізація витрат для різних типів обчислень
Щоб ефективно використовувати інфраструктуру машинного навчання в Azure, потрібно підбирати ресурс під конкретне завдання. Використання дорогого екземпляра з GPU лише для написання простих скриптів на Python марнує бюджет. І навпаки, спроба навчити велику нейронну мережу на слабкому обладнанні призводить до невтішних затримок.
Якщо ви тільки знайомитеся з платформою, обов'язково скористайтеся стартовими кредитами. Поєднуйте їх із суворими практиками керування: налаштуйте автоматичне вимкнення неактивних робочих станцій і встановлюйте мінімальну кількість вузлів кластерів на нулі. Ставлення до хмарних обчислювальних ресурсів як до орендованого обладнання, а не як до постійної складової, допомагає тримати фінанси під контролем.
Висновок
Вибір відповідного типу обчислень, чи то інтерактивний екземпляр, масштабований кластер, чи повністю абстрагована serverless-середа, забезпечує продуктивність і економічну ефективність ваших проєктів машинного навчання. Щоб детальніше розібрати базові поняття робочих областей, ресурсів даних і розгортання моделей, послухайте повний епізод подкасту M365 FM з експертними порадами та практичними стратегіями.
Поширені запитання
Яка основна різниця між обчислювальним екземпляром Azure ML і кластером?
Обчислювальний екземпляр — це окрема виділена віртуальна машина для інтерактивної розробки та тестування. Обчислювальний кластер — це масштабована група віртуальних машин, яка автоматично збільшується для великих паралельних завдань навчання і зменшується до меншого розміру, коли простоює.
Як працюють serverless-обчислення в Azure Machine Learning?
Serverless-обчислення дозволяють надсилати завдання машинного навчання безпосередньо на платформу без підготовки, налаштування чи керування базовими віртуальними машинами. Інфраструктурою повністю займається Azure у фоновому режимі.
Як уникнути неочікуваних витрат на простоюючі обчислювальні екземпляри Azure ML?
Щоб уникнути несподіваних рахунків, налаштуйте для обчислювальних екземплярів автоматичне вимкнення в разі бездіяльності, щоб вони вимикались, коли ви відходите від роботи, і встановіть мінімальну кількість вузлів ваших кластерів для навчання на нулі.
Чи потрібно платити за програмні ліцензії сервісу Azure Machine Learning?
Ні. Сама платформа Azure Machine Learning не має окремої плати за програмне ліцензування. Ви платите лише за базові апаратні ресурси, сховище та допоміжні хмарні сервіси, які фактично використовує ваш проєкт.