Пользовательский трансформер в Pyspark ML

Я пытаюсь написать собственный оценщик, чтобы он соответствовал конвейеру, используя Pyspark 1.6.0, поэтому я пробую решение в Как создать пользовательский оценщик в PySpark mllib

Он работает в Spark 2.0, но когда я удаляю параметр TypeConverter (который существует только в Spark 2.0), чтобы проверить его Spark 1.6.0, он показывает ошибку:

ValueError: Param Param(parent='undefined', name='centered_threshold', doc='centered_threshold') does not belong to NormalDeviation_4dc98930f6cd0fd37ce6.

Мне не разрешено использовать Spark 2.0 в производстве. Как изменить этот код, чтобы он работал на Spark 1.6.0?


person Bamqf    schedule 23.08.2016    source источник