Поиск по сетке гиперпараметров в torch/lua

Я новичок в torch/lua и пытаюсь оценить разные алгоритмы оптимизации и разные параметры для каждого из них.

Алгоритм: optim.sgd optim.lbfgs

Параметры:

  • скорость_обучения: {1e-1, 1e-2, 1e-3}
  • weight_decay: {1e-1, 1e-2}

Итак, чего я пытаюсь достичь, это попробовать каждую комбинацию гиперпараметров и получить оптимальный набор параметров для каждого алгоритма.

Так есть что-то вроде:

param_grid = [
 {'C': [1, 10, 100, 1000], 'kernel': ['linear']},
 {'C': [1, 10, 100, 1000], 'gamma': [0.001, 0.0001], 'kernel': ['rbf']},
]

как в http://scikit-learn.org/stable/modules/grid_search.html доступны в факеле, чтобы справиться с этим?

Любые предложения были бы хороши!


person BersaKAIN    schedule 13.08.2015    source источник


Ответы (1)


Попробуйте эту библиотеку гипероптимизации, над которой сейчас работают: https://github.com/nicholas-leonard/hypero

person smhx    schedule 13.08.2015