Вопросы по теме 'spark-jobserver'

Не удается запустить локальный экземпляр Spark-Jobserver
Итак, я пытаюсь создать локальный экземпляр сервера заданий spark для тестирования заданий, и я даже не могу запустить его. Итак, первое, что я делаю, когда попадаю в свой бродячий инстанс, — запускаю spark. Я знаю, что это работает, потому что я...
1356 просмотров
schedule 16.11.2022

Основное использование приложений потоковой передачи Spark
Мы создаем систему, состоящую из нескольких приложений Spark Streaming, каждое из которых имеет несколько приемников. Насколько я понял, для каждого ресивера нужно свое ядро ​​в кластере. Нам нужно несколько приемников для обработки пиков, но они не...
834 просмотров

Сервер заданий Spark для spark 1.6.0
Существует ли какая-либо конкретная версия сервера заданий Spark, соответствующая Spark 1.6.0? Согласно информации о версии в https://github.com/spark-jobserver/spark-jobserver , я вижу, SJS доступен только для 1.6.1, а не для 1.6.0. Наш Spark,...
134 просмотров
schedule 24.12.2023

Ошибка при создании Spark-jobserver
неразрешенная зависимость: com.ning # async-http-client; 1.8.10: org.sonatype.oss # oss-parent; 9! oss-parent.pom (pom.original) местоположение источника должно быть абсолютным: файл: at...
45 просмотров
schedule 21.12.2023

Журналы шоу сервера заданий Spark
Я настроил сервер заданий spark (см. https://github.com/spark-jobserver/spark-jobserver/tree/jobserver-0.6.2-spark-1.6.1 ) в автономном режиме. Я настроил несколько заданий с помощью Scala, каждое задание использует один и тот же общий контекст,...
704 просмотров
schedule 13.11.2023

Spark JobServer: graphx VertexRDD java.lang.ClassNotFoundException
Я разрабатываю SparkJob на сервере заданий (v0.6.2 spark 1.6.1) с использованием spark graphx и сталкиваюсь со следующим исключением при попытке запустить задание на Spark JobServer: { "status": "JOB LOADING FAILED", "result": {...
231 просмотров

Рекомендации на основе запросов в реальном времени с помощью Spark — Spark JobServer?
Мы пытаемся найти способ загрузить обученную модель Spark (2.x) ML, чтобы по запросу (через интерфейс REST) ​​мы могли запросить ее и получить прогнозы, например. http://predictor.com:8080/give/me/predictions?a=1,b=2,c=3 Существуют готовые...
595 просмотров

сервер заданий spark не может собраться с помощью Spark 2.0
Я пытаюсь запустить spark-jobserver с помощью spark-2.0. Я клонировал ветку spark-2.0-preview из репозитория github. Я следую руководству по развертыванию, но когда пытаюсь развернуть сервер с помощью bin/server_deploy.sh . Я получил ошибку...
320 просмотров
schedule 11.04.2024

spark-jobserver: Worker не подключается обратно к драйверу
Я настроил небольшую среду Spark на двух машинах. Один запускает мастер и рабочий, а другой - только рабочий. Я могу использовать этот кластер с помощью Spark Shell, например: spark-shell --master spark://mymaster.example.internal:7077 Я...
132 просмотров
schedule 06.06.2023