Автомасштабування
Автомасштабування або автоматичне масштабування - це метод, який використовується в хмарних обчисленнях, при якому кількість обчислювальних ресурсів у межах серверної ферми, яка зазвичай вимірюється за кількістю активних серверів, автоматично масштабується в залежності від навантаження на ферму. Він тісно пов'язаний з ідеєю балансування навантаження і ґрунтується на ній.[1][2]
Переваги
Автомасштабування має наступні переваги:
- Для компаній, що працюють на власній інфраструктурі веб-сервера, автомасштабування, як правило, означає, що деякі сервери можуть засинати під час низького завантаження, заощаджуючи витрати на електроенергію (а також витрати на воду, якщо вода використовується для охолодження машин).[3]
- Для компаній, що використовують інфраструктуру, розміщену у хмарі, автомасштабування може означати нижчі рахунки, оскільки більшість постачальників хмарних послуг нараховують рахунок на основі загального використання, а не максимальної потужності.[4]
- Навіть для компаній, які не можуть зменшити загальну обчислювальну потужність, яку вони використовують або оплачують, автомасштабування може допомогти, дозволяючи компанії працювати з меншими часовими навантаженнями на машинах, які звільняються автомасштабуванням під час низького трафіку.[5]
- Рішення автомасштабування, наприклад, пропоновані Amazon Web Services, також можуть піклуватися про зміну хворих екземплярів і, отже, частково захищати від збоїв обладнання, мережі і застосунків.[6]
- Автомасштабування може запропонувати більший час роботи і доступність в тих випадках, коли виробничі навантаження змінні і непередбачувані.
Автомасштабування відрізняється від постійного щоденного, щотижневого або річного циклу використання сервера тим, що воно реагує на фактичні шаблони використання і, таким чином, зменшує потенційний недолік наявності надто великої кількості серверів або надто великої кількості трафіку для завантаження. Наприклад, якщо трафік звичайно нижче в північ, то рішення статичного масштабування може запланувати занурити в сон деякі сервера, але це може призвести до простою вночі, коли люди більше використовують Інтернет (наприклад, через вірусні новини). З іншого боку, автомасштабування може обробляти неочікувані скачки трафіку краще.[3][7]
Термінологія
У наведеному нижче списку ми використовуємо термінологію, що використовується у Amazon Web Services (AWS).[8] Проте, вказуються також альтернативні назви і термінологія, тому що специфічні службам Amazon назви не використовується для позначень.
Назва (використовується в AWS, якщо не зазначено інше) | Значення | Альтернативні назви (використовуються в Google Cloud Platform, Microsoft Azure, or other platforms) |
---|---|---|
Екземпляр | Єдиний сервер або машина, що входить до складу групи машин, які підлягають автомасштабуванню | |
Група автомасштабування | Набір екземплярів, що підлягають автомасштабуванню, з усіма відповідними політиками та інформацією про стан | Група керованих екземплярів (Google Cloud Platform) |
Розмір | Кількість екземплярів, що в даний час входять до групи автомасштабування |
|
Бажана потужність (або бажаний розмір) | Кількість екземплярів, які група автомасштабування повинна мати в будь-який момент часу. Якщо наявний розмір менше, ніж потрібний розмір, група автомасштабування намагатиметься запустити (забезпечити та приєднати) нові екземпляри. Якщо розмір більше, ніж потрібний розмір, група автомасштабування буде намагатися видалити (від'єднати та припинити) екземпляри |
|
Мінімальний розмір | Ряд екземплярів, нижче яких бажана потужність не допускається
|
|
Максимальний розмір | Ряд екземплярів, вище яких бажана потужність не може підвищуватися |
|
Метрика | Вимір (наприклад, використання ЦП, використання пам'яті, використання мережі), пов'язаний з групою автомасштабування, для якої періодично створюється тимчасової ряд точок даних. Пороги для показників можуть використовуватися для установки політик автомасштабування. Метрики можуть бути засновані на агрегатах показників для екземплярів групи автомасштабування або на основі балансувальників навантаження, пов'язаних з групою автомасштабування |
|
Політика масштабування (або політика автомасштабування) | Політика, яка показує зміну бажаної ємності групи автомасштабування (або іноді її мінімальний і максимальний розмір) у відповідь на метрики, що перетинають певні порогові значення. Політики масштабування можуть мати пов'язані періоди перезарядки, які запобігають появі додаткових дій масштабування відразу після певної дії. Зміни в бажаної ємності можуть бути інкрементальними (збільшення або зменшення на певне значення) або можуть вказувати нове значення необхідної ємності. Політики, які збільшують бажану пропускну здатність, називаються «scaling out» або «scaling up», а політики, які зменшують бажану ємність, називаються «scaling in» або «scaling down» |
|
Перевірка здоров'я | Спосіб групи автомасштабування для визначення, чи правильно працюють екземпляри, прикріплені до неї. Перевірка працездатності може бути заснована на тому, чи існує екземпляр і доступний він, або на тому, що екземпляр все ще зареєстрований і перебуває на службі з відповідним балансувальником навантаження |
|
Стартова компоновка | Опис параметрів і сценаріїв, які використовуються при запуску нового екземпляра. Сюди входять тип екземпляра, варіанти покупки (наприклад, спот за запитом у разі AWS), можливі зони доступності для запуску, машинне зображення і сценарії для запуску при старті | Шаблон екземпляра
(Google Cloud Platform) |
Ручне масштабування | Масштабна дія виконана вручну |
|
Заплановане масштабування | Політика масштабування, яка виконується в певний час, наприклад, час дня чи тижня, місяць або рік. |
Розвиток
Amazon Web Services (AWS)
![Auto-scaling](http://upload.wikimedia.org/wikipedia/commons/thumb/d/dd/AWS_Simple_Icons_Compute_Amazon_Elastic_MapReduce_Auto_Scaling.svg/70px-AWS_Simple_Icons_Compute_Amazon_Elastic_MapReduce_Auto_Scaling.svg.png)
Amazon Web Services запустила сервіс Amazon Elastic Compute Cloud (EC2) у серпні 2006 року, який дозволив розробникам програмно створювати та припиняти дії екземплярів (машин).[9][10] Під час першого запуску AWS не пропонував автомасштабування, але здатність програмно створювати та припиняти екземпляри дали розробникам можливість писати власний код для автомасштабування.
Незалежне програмне забезпечення автомасштабування для AWS почало з'являтися приблизно в квітні 2008 року. До них входили інструменти від Scalr[11] та RightScale. RightScale був використаний Animoto, який зміг обробити трафік Facebook шляхом прийняття автомасштабування.[12][13]
18 травня 2009 року Amazon запустив власну функцію автомасштабування у парі з Elastic Load Balancing, як частину Amazon Elastic Compute Cloud.[14] Автомасштабування тепер є невід'ємним компонентом пропозиції Amazon EC2.[15][16]. Автомасштабування на Amazon Web Services здійснюється через веб-браузер або інструментом командної строки.[17]
Постачальник відео-замовлень Netflix документально підтвердив, що використовує автомасштабування веб-служб Amazon, щоб задовольнити свої дуже різноманітні споживчі потреби. Вони виявили, що агресивне масштабування і затримка з обережним зменшенням масштабів служили своїм цілям безвідмовної роботи та швидкості реагування..[7]
У статті для TechCrunch, Зев Ладерман, співзасновник і головний виконавчий директор Newvem, служба, яка допомагає оптимізувати інфраструктуру хмарних технологій AWS, рекомендував початковим компаніям використовувати автомасштабування, щоб забезпечити низьку вартість своїх веб-сервісів Amazon.[4]
Різні керівництва з найкращої практики використання AWS дозволяють використовувати функцію автомасштабування, навіть якщо навантаження не є змінним. Це пояснюється тим, що автомасштабування пропонує ще дві переваги: автоматичну заміну будь-яких екземплярів, які з будь-якої причини стають нездоровими (такі як апаратні збої, збій мережі чи помилки програми) та автоматичне заміщення штучних екземплярів, які перериваються через ціну або потужність; приводячи до того, що томубільш доцільно використовувати випадкові екземпляри для виробничих цілей.[6][18][19] Внутрішня найкраща практика Netflix вимагає, щоб кожен екземпляр знаходився в групі автомасштабування, а її мавпа відповідності припиняє будь-який екземпляр не в групі автомасштабування, щоб забезпечити виконання цієї найкращої практики.[20]
Microsoft's Windows Azure
27 червня 2013 року Microsoft оголосила про те, що додала підтримку автомасштабування для своєї платформи хмарних обчислень Windows Azure.[21][22][23] Документація для цієї функції доступна на Microsoft Developer Network.[24][25]
Платформа Google Cloud
17 листопада 2014 року Google Compute Engine оголосила публічну бета-версію своєї функції автомасштабування для використання в застосунках Google Cloud Platform.[26][27][28][29] Станом на березень 2015 року інструмент автомасштабування все ще знаходиться в бета-версії.[30]
У себе в блозі, в серпні 2014 року, інженер Facebook повідомив, що компанія почала використовувати автомасштабування, щоб зменшити витрати на енергію. У повідомленні блогу говорилося про зниження енергоспоживання на 27% за часів низького трафіку (близько півночі) та зниження споживання енергії на 10-15% за звичайний цілодобовий цикл.[3]
Альтернативи для автомасштабування
Автомасштабування - це реактивний спосіб боротьби з масштабуванням трафіку: масштабування відбувається лише у відповідь на зміни в показниках в режимі реального часу. У деяких випадках, особливо коли зміни відбуваються дуже швидко, цей реактивний підхід до масштабування є недостатнім. Два інших види масштабування описані нижче. Рішення автомасштабування, такі як AWS, дозволяють використовувати ці типи масштабування з існуючими групами автомасштабування, навіть якщо вони концептуально дещо відрізняються від автомасштабування.
Заплановане масштабування
Це підхід до масштабування, коли зміни вносяться до мінімального розміру, максимального розміру або бажаної потужності групи автомасштабування у певні години дня. Масштабування за розкладом корисно, наприклад, якщо в певний час доби спостерігається певне збільшення чи зменшення навантаження на дорожній рух, але зміна занадто раптова для реакції автомасштабування. Групи автомасштабування AWS підтримують планове масштабування.[31]
Прогнозне масштабування
Цей підхід до масштабування використовує інтелектуальну прогнозову аналітику. Ідея полягає в поєднанні останніх тенденцій з історичними даними, а також іншими видами даних для прогнозування використання в майбутньому та масштабу на основі цих прогнозів. Що стосується частин своєї інфраструктури та специфічних робочих навантажень, Netflix виявив, що Scryer, їх двигун аналітичного прогнозування, дав кращі результати, ніж автомасштабування Amazon. Зокрема, він був кращий для:[32][33]
- Ідентифікації величезних сплесків попиту в найближчому майбутньому і отриманню потужності трохи наперед
- Робота з великомасштабними відключеннями, такими як відмова усіх зон доступності та регіонів
- Робота зі змінними шаблонами трафіку, що забезпечує більшу гнучкість в швидкості масштабування або в залежності від типового рівня і швидкості зміни попиту в різний час доби
Дивись також
Примітки
- ↑ Above the Clouds: A Berkeley View of Cloud Computing (PDF). Berkeley EECS. 10 лютого 2009. Процитовано 21 березня 2015.
- ↑ Auto Scaling. Amazon Web Services. Процитовано 21 березня 2015.
- ↑ а б в Wu, Qiang (8 серпня 2014). Making Facebook’s software infrastructure more energy efficient with Autoscale. Facebook Code Blog. Процитовано 21 березня 2015.
- ↑ а б Laderman, Zev (22 квітня 2012). The 10 Biggest Mistakes Made With Amazon Web Services. TechCrunch. Процитовано 21 березня 2015.
- ↑ Park, Andrew; Denlinger, Darrell; Watson, Coburn (18 вересня 2015). Creating Your Own EC2 Spot Market. Netflix. Процитовано 16 грудня 2016.
- ↑ а б Wittig, Michael (26 грудня 2015). 5 AWS mistakes you should avoid. cloudonaut. Процитовано 16 грудня 2016.
- ↑ а б Orzell, Greg; Becker, Justin (18 січня 2012). Auto Scaling in the Amazon Cloud. Netflix Tech Blog. Процитовано 21 березня 2012.
- ↑ What Is Auto Scaling?. Amazon Web Services. Процитовано 16 грудня 2016.
- ↑ Cubrilovic, Nik (24 серпня 2006). Almost Exclusive: Amazon Readies Utility Computing Service. TechCrunch. Процитовано 4 грудня 2016.
- ↑ Barr, Jeff (25 серпня 2006). Amazon EC2 Beta. Amazon Web Services Blog. Процитовано 31 травня 2013.
- ↑ Work, Henry (3 квітня 2008). Scalr: The Auto-Scaling Open-Source Amazon EC2 Effort. TechCrunch. Процитовано 21 березня 2015.
- ↑ Howlett, Dennis (25 червня 2008). RightScale cloud management extends to MySQL. RightScale, which specializes in cloud computing management for the Amazon Web Services platform today announced support for MySQL Enterprise. The service, which goes live July 1, provides automated deployment, management and scaling, coupled with MySQL Enterprise premium-level support for large database applications. ZDNet. Процитовано 16 грудня 2016.
- ↑ von Eicken, Thorsten (23 квітня 2008). Animoto's Facebook Scale-Up. Архів оригіналу за грудня 20, 2016. Процитовано 16 грудня 2016.
- ↑ Barr, Jeff (18 травня 2009). New Features for Amazon EC2: Elastic Load Balancing, Auto Scaling, and Amazon CloudWatch. Amazon Web Services. Процитовано 15 червня 2016.
- ↑ What is autoscaling?. TechTarget. Процитовано 21 березня 2015.
- ↑ Barr, Jeff (30 липня 2014). Auto Scaling Update – Lifecycle Management, Standby State, and DetachInstances. Amazon Web Services (official blog). Процитовано 21 березня 2015.
- ↑ Auto Scaling Command Line Tool. Amazon Web Services (community-edited page). Процитовано 21 березня 2015.
- ↑ Adams, Rich (3 лютого 2014). AWS Tips I Wish I'd Known Before I Started. A collection of random tips for Amazon Web Services (AWS) that I wish I'd been told a few years ago, based on what I've learned by building and deploying various applications on AWS. Процитовано 16 грудня 2016.
- ↑ How to Use Amazon EC2 Spot Instances. wikiHow. Процитовано 16 грудня 2016.
- ↑ The Netflix Simian Army. Netflix. 19 липня 2011. Процитовано 5 грудня 2016.
- ↑ Lardinois, Frederic (27 червня 2013). Microsoft Adds Auto Scaling To Windows Azure. TechCrunch. Процитовано 21 березня 2015.
- ↑ Microsoft to add autoscaling, alerts to Windows Azure. ZDNet. 27 червня 2013. Процитовано 21 березня 2015.
- ↑ Butler, Brandon (7 серпня 2013). Google, Microsoft play catch up to Amazon, add load balancing, auto-scaling to their clouds. Network World. Процитовано 21 березня 2015.
- ↑ Autoscaling Guidance. Microsoft Developer Network.
- ↑ The Autoscaling Application Block. Microsoft Developer Network. Процитовано 21 березня 2015.
- ↑ Balejko, Filip (17 листопада 2014). Autoscaling, welcome to Google Compute Engine. Google Cloud Platform blog. Процитовано 21 березня 2015.
- ↑ Protalinski, Emil (17 листопада 2014). Google Compute Engine gets Autoscaler to adjust app resources based on varying traffic and workloads. VentureBeat. Процитовано 21 березня 2015.
- ↑ Lardinois, Frederic (17 листопада 2014). Google Brings Autoscaling To Compute Engine. TechCrunch. Процитовано 21 березня 2015.
- ↑ Verge, Jason (17 листопада 2014). Google Launches Autoscaling Beta on Compute Engine. Data Center Knowledge. Процитовано 21 березня 2015.
- ↑ Autoscaler. Google Cloud Platform. Процитовано 21 березня 2015.
- ↑ Scheduled Scaling. Amazon Web Services. Процитовано 16 грудня 2016.
- ↑ Jacobson, Daniel; Yuan, Danny; Joshi, Neeraj. Scryer: Netflix’s Predictive Auto Scaling Engine. The Netflix Tech Blog. Netflix. Процитовано 28 травня 2015.
- ↑ Autoscaling: How the Cloud Provides a Tremendous Boost. Morpheus. 2 листопада 2016. Процитовано 16 грудня 2016.