FairSeq — взвешивание потерь образца

Я пытаюсь изучить модель seq2seq с помощью Fairseq. Я хочу иметь разное взвешивание потерь для каждого образца, чтобы были примеры, которые модель будет пытаться лучше подогнать. Как правильно это сделать? Может быть, лучшие библиотеки для этой цели?


seq2seq loss
person user3209762    schedule 10.12.2019    source источник

Ответы (1)


arrow_upward
0
arrow_downward

Я не уверен насчет FairSeq, но это можно сделать тривиально в Marian который по умолчанию имеет опцию --data-weighting, где вы можете предоставить файл со списком весов. OpenNMT предоставляет аналогичная функциональность, но с взвешиванием для каждого корпуса.

person Jindřich    schedule 07.01.2020