Apache Spark

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до: навігація, пошук
Spark
Spark Logo
Тип аналіз даних, алгоритми машинного навчання
Автор(и) Матей Захарія
Розробник Apache Software Foundation, UC Berkeley
Стабільний випуск 1.6.1 (9 березня 2016; 625 днів тому )
Версії 2.2.0[1]
Репозиторій github.com/apache/spark
Платформа Віртуальна машина Java
Операційна система Linux, MAC OS, Windows
Написано на Scala, Java, Python, R
Стан розробки активний
Ліцензія Apache License 2.0
spark.apache.org

Apache Spark — високопродуктивний рушій для оброблення даних, що зберігаються в кластері Hadoop. У порівнянні з наданим у Hadoop механізмом MapReduce, Spark забезпечує у 100 разів більшу продуктивність при обробленні даних в пам'яті й 10 разів при розміщенні даних на дисках.[2] Рушій може виконуватися на вузлах кластера Hadoop як за допомогою Hadoop YARN, так і у відокремленому режимі. Підтримується оброблення даних у сховищах HDFS, HBase, Cassandra, Hive та будь-якому форматі введення Hadoop (InputFormat).

Spark може використовуватися як у типових сценаріях оброблення даних, схожих на MapReduce, так і для реалізації специфічних методів, таких як потокове оброблення, SQL, інтерактивні та аналітичні запити, рішення задач машинного навчання і робота з графами. Програми для оброблення даних можуть створюватися на мовах Scala, Java, Python та R.

Spark після перебування в інкубаторі став первинним проектом Apache Software Foundation від лютого 2014.

З компаній, котрі використовують Spark, відзначаються Alibaba, Cloudera, Databricks, IBM, Intel, Yahoo, Cisco Systems.

У жовтні 2014 року Apache Spark встановив світовий рекорд при сортуванні 100 терабайт даних.[3]

Згідно опитування O'Reilly у 2015 році 17% дослідників даних використовують Apache Spark.[4]

Опис[ред.ред. код]

Застосунок Spark складається з процесу-драйвера (англ. driver process) та багатьох процесів виконавців (англ. executor processes)[5].

Драйвер є серцем застосунку Spark, і виконує наступні функції:

  1. Зберігає та обробляє інформацію про стан застосунку
  2. Відповідає на запити користувацьких програм
  3. Аналізує та розподіляє завдання між виконавцями та порядок їх виконання.

Виконавці натомість виконують завдання та звітують про їх виконання і свій стан драйверу.

Так як драйвер і виконавці є звичайними процесами, Spark може працювати в псевдо-розподіленому локальному режимі (англ. local mode), в якому всі вони запускаються на одному комп'ютері з одним виконавцем на кожне ядро процесора і робота кластера лише емулюється. Це корисно для розробки і тестування. Зазвичай цей режим використовуюється для розробки або тестування, коли розподілене зберігання не потрібне і натомість використовується локальна файлова система.

Apache Spark потребує для розгортання кластера менеджера кластера[en] ', який контролює фізичні машини і виділяє ресурси та розподілену систему зберігання[en]. В Spark менеджером може працювати як вбудований менеджер Spark (англ. Spark standalone cluster manager)[6], так і YARN або Apache Mesos.[7] Для розподіленого зберігання, Spark може з'єднуватись з найрізноманітнішими системами, включаючи Hadoop Distributed File System,[8] MapR File System,[9] Cassandra,[10] OpenStack Swift, Amazon S3, Kudu, або реалізацію оригінального рішення.

Spark дозволяє писати запити надаючи API наступними мовами програмування: Scala, Python, Java, SQL та R[5].

  • $SPARK_HOME/bin/spark-shell запускає REPL на Scala
  • $SPARK_HOME/bin/pyspark запускає REPL на Python

API до процесу драйвера називається сесією Spark (англ. Spark Session) і доступне як змінна spark в оболонках для Scala та Python[5].

DataFrame[ред.ред. код]

Основна структура даних з якою працює Spark - DataFrame. Вона містить таблицю яка складається з рядків та колонок. Список колонок та їхніх типів називають схемою (яку можна подивитись викликавши метод df.printSchema()). Аналогічні структури даних є в мові R та бібліотеці pandas, але в Spark він відрізняється тим що є розподіленим на кілька розділів (англ. partitions). Розділ - це набір рядків DataFrame на одній фізичній машині кластеру[5].

DataFrame в Spark - незмінні, але до нього можна застосувати перетворення (англ. transformations) щоб утворити новий DataFrame. Наприклад:

evenRows = myData.where("number % 2 = 0") # утворюємо DataFrame evenRows з датафрейму myData

Перетворення ліниві, і не виконуються, а лише додаються до плану обчислень доти, доки користувач не попросить про якусь дію (англ. action). Дія може вивести дані в консоль, файл чи базу даних, або зібрати їх в об'єкти мови якою писали запит. Приклад дії - evenRows.count() - підрахунок кількості рядків в DataFrame[5].

Дія запускає завдання (англ. job), яке виконує всі необхідні перетворення та дію згідно оптимізованого плану обчислень. Процес виконання завдання можна моніторити з веб-інтерфейсу користувача Spark, який знаходиться за адресою http://localhost:4040/ в локальному режимі, або на вузлі кластера на якому запущений драйвер.

SparkSQL[ред.ред. код]

Крім методів об'єкта DataFrame з даними можна працювати за допомогою Spark SQL[5]. Для цього Spark може створити з DataFrame розріз даних (віртуальну таблицю). Це робиться викликом:

myDataFrame.createOrReplaceTempView("назва_таблиці")

Після чого можна виконати запит в REPL, через метод sql об'єкта сесії:

spark.sql("SELECT ... FROM назва_таблиці ...")

RDD[ред.ред. код]

API Apache Spark зосереджено навколо структури даних, яка називається пружні розподілені набори даних (англ. resilient distributed dataset, RDD), відмовостійка мультимножина елементів даних яку можна лише читати, розподілена понад кластером машин.[11] Вона була розроблена у відповідь на обмеження парадигми програмування MapReduce, яка нав'язує певну лінійну структуру потоку даних[en] для розподіленої програми: програми MapReduce читають вхідні дані з диска, застосовують до всіх даних map()[en], згортають[en] результати застосування map() і зберігають результат на диску. RDDs в Spark функціонують як working set[en] для розподілених програм, який надає обмежену (навмисне) форму розподіленої спільної пам'яті.[12]

Доступність RDD підтримує реалізацію як ітеративних алгоритмів, які звертаються до даних багато разів в циклі, так і інтерактивного розвідувального аналізу, тобто повторювані запити до даних як у СКБД. латентність[en] таких застосунків (порівняно з реалізаціями на MapReduce, які типові для стеку Apache Hadoop) може бути меншою на кілька порядків.[11][13] До класу ітеративних алгоритмів входять тренувальні алгоритми систем машинного навчання, які сформували початкову спонуку для розробки Apache Spark.[14]

Spark Core[ред.ред. код]

Spark Core це основа всього проекту. Він надає диспетчирезацію задач, планування, та базовий Ввід/вивід, які надаються через прикладний програмний інтерфейс (для Java, Python, Scala, та R) зосереджений навколо абстракції RDD (Java API доступне для інших мов JVM, але може також використовуватись деякими не-JVM мовами, такими як Julia[en],[15] які можуть приєднуватись до JVM). Цей інтерфейс мавпує функційну модель програмування вищого порядку: програма "драйвер" активує паралельні операції, такі як map, filter або reduce над RDD передаючи функцію Spark, який визначає графік виконання функції на кластері.[11] Ці операції, і додаткові, такі як Join-и, приймають RDD як вхідні дані і утворюють нові RDD. RDD незмінні а операції над ними ліниві; стійкість до відмов забезпечується запам'ятовуванням походження кожного RDD (послідовності операцій якими його отримано) щоб у випадку втрати даних його можна було переобчислити. RDD можуть містити будь-який тип об'єктів Python, Java, чи Scala.

Окрім функціонального стилю програмування з RDD, Spark надає два обмежені види спільних змінних: широкомовні змінні (англ. broadcast variables) стосуються даних лише для читання які мають бути доступними на всіх вузлах, та акумулятори (англ. accumulators), які можна використовувати щоб програмувати агрегації в імперативному стилі.[11]

Типовим прикладом функційного програмування що зосереджується на RDD є наступна програма на Scala яка обчислює частоти всіх слів що зустрічаються в наборі текстових файлів і роздруковує ті що траплються найчастіше. Кожна map, flatMap (варіант map) та reduceByKey приймає анонімну функцію що виконує просту операцію над одним елементом даних (або парою елементів), і викорисовує її щоб перетворити RDD в новий RDD.

val conf = new SparkConf().setAppName("wiki_test") // створити об'єкт конфігурації Spark
val sc = new SparkContext(conf) // Створити spark context
val data = sc.textFile("/шлях/до/якоїсь директорії") // Прочитати файли з "якоїсь директорії" в RDD що складається з пар (назва файлу, вміст).
val tokens = data.flatMap(_.split(" ")) // Розділити кожен файл на список токетів (слів). 
val wordFreq = tokens.map((_, 1)).reduceByKey(_ + _) // Присвоїти кількість 1 кожному токену, а тоді підрахувати суми для кожного окремого слова.
wordFreq.sortBy(s => -s._2).map(x => (x._2, x._1)).top(10) // Отримати найпопулярніші 10 слів. Переставити слово і частоту аби відсортувати за частотою.

Spark SQL[ред.ред. код]

Spark SQL компонент що працює поверх Spark Core, який впровадив абстракцію над даними що називається DataFrames (яку до виходу версії Spark 1.3 називали SchemaRDDs[16]) яка надає підтримку структурованих та напівструктурованих даних[en]. Spark SQL надає предметно-орієнтовану мову (DSL) для маніпуляції датафреймами в Scala, Java, чи Python. Також додає підтримку мови SQL, з інтерфейсом командного рядка та ODBC/JDBC серверами. Хоча датафреймам бракує перевірки типів на етапі компіляції яка доступна для RDD, починаючи з Spark 2.0, Spark SQL також підтримує строго типізований DataSet.

import org.apache.spark.sql.SQLContext

val url = "jdbc:mysql://yourIP:yourPort/test?user=yourUsername;password=yourPassword" // URL для сервера бази даних.
val sqlContext = new org.apache.spark.sql.SQLContext(sc) // Створити об'єкт sql контексту

val df = sqlContext
  .read
  .format("jdbc")
  .option("url", url)
  .option("dbtable", "people")
  .load()

df.printSchema() // Показух схему DataFrame.
val countsByAge = df.groupBy("age").count() // Рахує кількість людей кожного віку

Spark Streaming[ред.ред. код]

Spark Streaming використовує можливість швидкого плануваня Spark Core щоб здійснювати потокову аналітику[en]. Він споживає дані в міні-пакетах і виконує RDD перетворення над тими міні-пакетами. Така схема дозволяє використовувати для потокової аналітики такий самий код що й для аналітики над пакетами даних, таким чином дозволяючи просту реалізацію лямбда-архітектури[en].[17][18] Проте, ця зручність оплачується латентністю яка дорівнює тривалості обробки міні-пакету. Існують інші рушії обробки потокових даних, які обробляють кожну подію окремо, а не в міні-пакетах, такі як Apache Storm[en] та потоковий компонент Apache Flink[en].[19] Spark Streaming має вбудовану можливість читання з Apache Kafka[en], Apache Flume[en], Twitter, ZeroMQ, Kinesis, та сокетів TCP/IP.[20]

Бібліотека машинного навчання MLlib[ред.ред. код]

Spark MLlib - це розподілений фреймворк для машинного навчання побудований на основі Spark Core.

Інфраструктура[ред.ред. код]

Сайт Spark Packages[21] станом на вересень 2017-го містить більш ніж 360 пакетів які розширюють функціональність Spark дозволяючи йому записувати та читати дані з різних джерел і форматів, містять реалізації різних алгоритмів машинного навчання та роботи з графами та інше.

Історія[ред.ред. код]

Проект Spark був початий Матеєм Захарією AMPLab уіверситету Берклі в 2009, а його код відкритий в 2010 під ліцензією BSD.

В 2013, проект був подарований Apache Software Foundation і змінив свою ліцензію на Apache 2.0. В лютому 2014, Spark став проектом верхнього рівня в Apache Software Foundation.[22]

В листопаді 2014, компанія Databricks заснована Матеєм, встановила за допомогою Spark новий світовий рекорд з сортування великих обсягів даних.[23]

Spark мав понад 1000 учасників проекту в 2015,[24] що зробило його одним з найактивніших проектів в Apache Software Foundation[25] і одним з найактивніших проектів великих даних з відкритим кодом.

Зважаючи на популярність платворми, такі платні програми як General Assembly[en] та безкоштовні товариства, такі як The Data Incubator[en] почали пропонувати спеціалізовані навчальні курси[26]

Версія Дата першого релізу Остання мінорна версія Дата релізу
Old version, no longer supported: 0.5 2012-06-12 0.5.1 2012-10-07
Old version, no longer supported: 0.6 2012-10-14 0.6.2 2013-02-07[27]
Old version, no longer supported: 0.7 2013-02-27 0.7.3 2013-07-16
Old version, no longer supported: 0.8 2013-09-25 0.8.1 2013-12-19
Old version, no longer supported: 0.9 2014-02-02 0.9.2 2014-07-23
Old version, no longer supported: 1.0 2014-05-30 1.0.2 2014-08-05
Old version, no longer supported: 1.1 2014-09-11 1.1.1 2014-11-26
Old version, no longer supported: 1.2 2014-12-18 1.2.2 2015-04-17
Old version, no longer supported: 1.3 2015-03-13 1.3.1 2015-04-17
Old version, no longer supported: 1.4 2015-06-11 1.4.1 2015-07-15
Old version, no longer supported: 1.5 2015-09-09 1.5.2 2015-11-09
Older version, yet still supported: 1.6 2016-01-04 1.6.3 2016-11-07
Older version, yet still supported: 2.0 2016-07-26 2.0.2 2016-11-14
Older version, yet still supported: 2.1 2016-12-28 2.1.1 2017-05-02
Current stable version: 2.2 2017-07-11 2.2.0 2017-07-11
Легенда:
Стара версія
Стара версія, все ще підтримується
Остання версія
Остання бета-версія
Майбутній реліз

Виноски[ред.ред. код]

  1. https://spark.apache.org/news/spark-2-2-0-released.html
  2. Spark получил статус первичного проекта Apache // opennet.ru 27.02.2014
  3. World record set for 100 TB sort by open source and public cloud team
  4. 2015 Data Science Salary Survey
  5. а б в г д е Zaharia та Chambers, 2017
  6. Spark Standalone Mode - Spark 2.2.0 Documentation. Процитовано 2017-09-11. 
  7. Cluster Mode Overview - Spark 1.2.0 Documentation - Cluster Manager Types. apache.org. Apache Foundation. 2014-12-18. Процитовано 2015-01-18. 
  8. Figure showing Spark in relation to other open-source Software projects including Hadoop
  9. MapR ecosystem support matrix
  10. Doan, DuyHai (2014-09-10). Re: cassandra + spark / pyspark. Cassandra User mailing list. Процитовано 2014-11-21. 
  11. а б в г Zaharia, Matei; Chowdhury, Mosharaf; Franklin, Michael J.; Shenker, Scott; Stoica, Ion. Spark: Cluster Computing with Working Sets USENIX Workshop on Hot Topics in Cloud Computing (HotCloud). 
  12. Zaharia, Matei; Chowdhury, Mosharaf; Das, Tathagata; Dave, Ankur; Ma,, Justin; McCauley, Murphy; J., Michael; Shenker, Scott та ін. Resilient Distributed Datasets: A Fault-Tolerant Abstraction for In-Memory Cluster Computing USENIX Symp. Networked Systems Design and Implementation. 
  13. Xin, Reynold; Rosen, Josh; Zaharia, Matei; Franklin, Michael; Shenker, Scott; Stoica, Ion (June 2013). Shark: SQL and Rich Analytics at Scale SIGMOD 2013. 
  14. Harris, Derrick (28 June 2014). 4 reasons why Spark could jolt Hadoop into hyperdrive. Gigaom. 
  15. https://github.com/dfdx/Spark.jl
  16. https://spark.apache.org/releases/spark-release-1-3-0.html
  17. Applying the Lambda Architecture with Spark, Kafka, and Cassandra | Pluralsight. www.pluralsight.com. Процитовано 2016-11-20. 
  18. Shapira, Gwen (29 August 2014). Building Lambda Architecture with Spark Streaming. cloudera.com. Cloudera. Процитовано 17 June 2016. «re-use the same aggregates we wrote for our batch application on a real-time data stream» 
  19. Benchmarking Streaming Computation Engines: Storm, Flink and Spark Streaming (PDF). IEEE. May 2016. 
  20. Kharbanda, Arush (17 March 2015). Getting Data into Spark Streaming. sigmoid.com. Sigmoid (Sunnyvale, California IT product company). Процитовано 7 July 2016. 
  21. https://spark-packages.org/
  22. The Apache Software Foundation Announces Apache&#8482 Spark&#8482 as a Top-Level Project. apache.org. Apache Software Foundation. 27 February 2014. Процитовано 4 March 2014. 
  23. Spark officially sets a new record in large-scale sorting
  24. Open HUB Spark development activity
  25. The Apache Software Foundation Announces Apache&#8482 Spark&#8482 as a Top-Level Project. apache.org. Apache Software Foundation. 27 February 2014. Процитовано 4 March 2014. 
  26. NY gets new bootcamp for data scientists: It’s free, but harder to get into than Harvard. Venture Beat. Процитовано 2016-02-21. 
  27. Spark News. apache.org. Процитовано 2017-03-30. 

Література[ред.ред. код]

Посилання[ред.ред. код]