Какво е излъчвана искра?
Какво е излъчвана искра?

Видео: Какво е излъчвана искра?

Видео: Какво е излъчвана искра?
Видео: Искра Михайлова СРЕЩУ "безпристрастен" журналист 2024, Ноември
Anonim

Излъчване променливи в Apache Искра е механизъм за споделяне на променливи между изпълнители, които са предназначени да бъдат само за четене. Без излъчване променливи тези променливи ще бъдат изпратени на всеки изпълнител за всяка трансформация и действие и това може да доведе до режийни разходи в мрежата.

Също така трябва да знам кога трябва да излъчя Spark?

Излъчване променливите се използват най-вече, когато задачите на множество етапи изискват едни и същи данни или когато се изисква кеширане на данните в десериализирана форма. Излъчване променливите се създават с помощта на променлива v чрез извикване на SparkContext.

Човек може също да попита как акумулаторът определя искрата? Акумулатори са променливи, които се „добавят“само чрез асоциативна операция и следователно могат да бъдат ефективно поддържани паралелно. Те могат да се използват за прилагане на броячи (както в MapReduce) или суми. Искра естествено поддържа акумулатори на числови типове и програмистите могат да добавят поддръжка за нови типове.

Също така, какво е споделена променлива в Spark?

Споделени променливи са променливи които се изискват да бъдат използвани от много функции и методи паралелно. Споделени променливи може да се използва в паралелни операции. Искра разделя заданието на възможно най-малката операция, затваряне, изпълняващо се на различни възли и всеки има копие на всички променливи от Искра работа.

Можем ли да излъчваме DataFrame?

Искра мога “ излъчване малък DataFrame като изпрати всички данни в този малък DataFrame към всички възли в клъстера. След малките DataFrame е излъчвано , искра мога извършете присъединяване, без да разбърквате нито една от данните в големия DataFrame.

Препоръчано: