rsync: проблемы с производительностью при работе с большими файлами

rsync намного медленнее, чем ожидалось в моем случае использования:

Я сталкиваюсь с проблемой частого копирования нескольких сотен огромных мультимедийных файлов (каждый из которых превышает 100 ГБ) с Synology NAS на локальный Thunderbolt RAID через локальную сеть с помощью Mac. Я пробовал много разных вариантов, от Finder до rsync. Ни один из них не работает отлично (или даже хорошо).

Удивительно, но копирование с помощью Mac OS Finder — самый быстрый вариант, который я когда-либо тестировал. В среднем она составляет около 100 МБ/с. Но по многим причинам (обработка ошибок, отсутствие контрольных сумм, проблемы с .DS-Store и т.д.) этот метод совершенно неудовлетворителен.

Хотя мне не нужно ничего синхронизировать (просто копировать целые каталоги из A в B), rsync имеет именно то, что мне нужно с точки зрения функций, но кажется слишком медленным для такого рода задач. В среднем он составляет около 50-70 МБ/с (-vaEWh --progress).

Мой вопрос: я ошибаюсь или rsync не подходит для этого? Что еще можно использовать для копирования множества очень больших файлов со скоростью выше 100 МБ/с с приличным объемом мониторинга и журналирования?

Спасибо за любые полезные советы!


person nimuc    schedule 11.01.2016    source источник
comment
Наверное, просто любопытно, это самый быстрый способ копирования по tcp, насколько я знаю: на приемнике начать слушать и разархивировать данные nc -l 9999 | tar xvf -, на стороне источника tar cvf - . > /dev/tcp/10.10.0.2/9999 (изменить ip назначения), если исходный хост не имеет bash что-то вроде tar cvf - . | nc 10.177.59.7 9999   -  person kwarunek    schedule 12.01.2016
comment
У меня нет под рукой rsync справочной страницы. Не могли бы вы отредактировать свой вопрос, чтобы показать, для чего предназначены -vaEWh? Некоторые из них могут быть дорогими: опции. Кроме того, вы ничего не упомянули о характеристиках вашей сети. Это дома или в большом коммерческом помещении, Спид? Другие конкурирующие задачи? Я был бы удивлен, если бы вы нашли что-то значительно более быстрое, чем rsync, это давно зарекомендовавший себя и хорошо поддерживаемый инструмент. (Поскольку я не могу дублировать этот вопрос, мне больше нечего предложить по этой теме). Удачи!   -  person shellter    schedule 12.01.2016
comment
Я протестировал rsync только с -Wr без каких-либо улучшений. Так что выбранные опции не замедляют его. Сеть: от Mac до GBE Переключиться на NAS. Нет других активных задач. Finder в два раза быстрее, чем rsync. Finder может достигать 100 МБ/с, а rsync — только 50-70 МБ/с.   -  person nimuc    schedule 12.01.2016
comment
@shellter-explainshell – это отличный сайт, на котором можно быстро увидеть, какие параметры есть в команде оболочки "копировать-вставить": explainshell.com/explain?cmd=rsync+-vaEWh   -  person Jim K.    schedule 14.09.2017
comment
@ДжимК. Спасибо, я и не знал, что объяснение Shell настолько подробно! Приятно знать. Спасибо!!!   -  person shellter    schedule 14.09.2017


Ответы (1)


По-видимому, rsync, который поставляет Apple, имеет некоторые известные проблемы со скоростью. Хотя я не пробовал, другие сообщают, что установка rsync через порты решает проблему.

http://www.laszlopusztai.net/2015/02/19/fixing-extremely-slow-rsync-on-os-x/

person Brian Monroe    schedule 28.11.2017