Вопросы по теме 'spark-jobserver'
Не удается запустить локальный экземпляр Spark-Jobserver
Итак, я пытаюсь создать локальный экземпляр сервера заданий spark для тестирования заданий, и я даже не могу запустить его.
Итак, первое, что я делаю, когда попадаю в свой бродячий инстанс, — запускаю spark. Я знаю, что это работает, потому что я...
1356 просмотров
schedule
16.11.2022
Основное использование приложений потоковой передачи Spark
Мы создаем систему, состоящую из нескольких приложений Spark Streaming, каждое из которых имеет несколько приемников. Насколько я понял, для каждого ресивера нужно свое ядро в кластере. Нам нужно несколько приемников для обработки пиков, но они не...
834 просмотров
schedule
01.12.2023
Сервер заданий Spark для spark 1.6.0
Существует ли какая-либо конкретная версия сервера заданий Spark, соответствующая Spark 1.6.0? Согласно информации о версии в https://github.com/spark-jobserver/spark-jobserver , я вижу, SJS доступен только для 1.6.1, а не для 1.6.0. Наш Spark,...
134 просмотров
schedule
24.12.2023
Ошибка при создании Spark-jobserver
неразрешенная зависимость: com.ning # async-http-client; 1.8.10: org.sonatype.oss # oss-parent; 9! oss-parent.pom (pom.original) местоположение источника должно быть абсолютным: файл:
at...
45 просмотров
schedule
21.12.2023
Журналы шоу сервера заданий Spark
Я настроил сервер заданий spark (см. https://github.com/spark-jobserver/spark-jobserver/tree/jobserver-0.6.2-spark-1.6.1 ) в автономном режиме.
Я настроил несколько заданий с помощью Scala, каждое задание использует один и тот же общий контекст,...
704 просмотров
schedule
13.11.2023
Spark JobServer: graphx VertexRDD java.lang.ClassNotFoundException
Я разрабатываю SparkJob на сервере заданий (v0.6.2 spark 1.6.1) с использованием spark graphx и сталкиваюсь со следующим исключением при попытке запустить задание на Spark JobServer:
{
"status": "JOB LOADING FAILED",
"result": {...
231 просмотров
schedule
27.03.2024
Рекомендации на основе запросов в реальном времени с помощью Spark — Spark JobServer?
Мы пытаемся найти способ загрузить обученную модель Spark (2.x) ML, чтобы по запросу (через интерфейс REST) мы могли запросить ее и получить прогнозы, например. http://predictor.com:8080/give/me/predictions?a=1,b=2,c=3
Существуют готовые...
595 просмотров
schedule
29.05.2023
сервер заданий spark не может собраться с помощью Spark 2.0
Я пытаюсь запустить spark-jobserver с помощью spark-2.0. Я клонировал ветку spark-2.0-preview из репозитория github. Я следую руководству по развертыванию, но когда пытаюсь развернуть сервер с помощью bin/server_deploy.sh . Я получил ошибку...
320 просмотров
schedule
11.04.2024
spark-jobserver: Worker не подключается обратно к драйверу
Я настроил небольшую среду Spark на двух машинах. Один запускает мастер и рабочий, а другой - только рабочий. Я могу использовать этот кластер с помощью Spark Shell, например:
spark-shell --master spark://mymaster.example.internal:7077
Я...
132 просмотров
schedule
06.06.2023