1. 3D сверточные нейронные сети для сегментации дендритов с использованием тонкой настройки и оптимизации гиперпараметров (arXiv)

Автор: Джим Джеймс, Натан Прюйне, Тибериу Стэн, Маркус Швартинг, Дживон Ём, Сынбум Хон, Питер Вурхиз, Бен Блайзик, Ян Фостер

Аннотация: Дендритные микроструктуры широко распространены в природе и являются основными морфологиями затвердевания металлических материалов. Такие методы, как рентгеновская компьютерная томография (XCT), позволили по-новому взглянуть на явления фазового превращения дендритов. Однако ручная идентификация дендритной морфологии в данных микроскопии может быть как трудоемкой, так и потенциально неоднозначной. Анализ наборов 3D-данных особенно сложен из-за их больших размеров (терабайты) и наличия артефактов, разбросанных по отображаемым объемам. В этом исследовании мы обучили трехмерные сверточные нейронные сети (CNN) сегментировать наборы трехмерных данных. Были исследованы три архитектуры CNN, включая новую 3D-версию FCDense. Мы показываем, что с помощью оптимизации гиперпараметров (HPO) и методов тонкой настройки можно обучить как 2D-, так и 3D-архитектуры CNN, чтобы превзойти предыдущий уровень техники. Архитектура 3D U-Net, обученная в этом исследовании, дала наилучшие сегменты в соответствии с количественными показателями (точность по пикселям 99,84% и ошибка смещения границ 0,58 пикселей), в то время как 3D FCDense обеспечила самые гладкие границы и лучшие сегменты в соответствии с визуальным контролем. . Обученные 3D CNN способны сегментировать целые 3D-объемы размером 852 x 852 x 250 вокселей всего за ~60 секунд, что ускоряет продвижение к более глубокому пониманию явлений фазового превращения, таких как затвердевание дендритов.

2.DH-Net: гомогенизация деформированной микроструктуры с помощью трехмерных сверточных нейронных сетей (arXiv)

Автор:Хао Пэн, Ан Лю, Цзинчэн Хуан, Цзикай Лю, Линь Лу

Аннотация:С быстрым развитием аддитивного производства микроструктуры привлекают как академические, так и промышленные интересы. Как эффективный способ анализа механического поведения микроструктур метод гомогенизации хорошо изучен в литературе. Однако классический метод гомогенизации по-прежнему сталкивается с проблемами. Его вычислительная стоимость высока для топологической оптимизации, которая требует многократно повторяющихся вычислений. Вычисления становятся более затратными, когда микроструктура деформируется из обычной кубической формы, вызывая изменения свойств виртуального однородного материала. Чтобы решить эту проблему, мы вводим точно спроектированную трехмерную сверточную нейронную сеть (CNN), названную DH-Net, для прогнозирования гомогенизированных свойств деформированных микроструктур. Новизна DH-Net заключается в том, что она предсказывает локальное смещение, а не гомогенизированные свойства. Макроскопические деформации считаются постоянными в функции потерь, основанной на минимальной потенциальной энергии. Таким образом, DH-Net не содержит меток и более эффективен в вычислениях, чем существующие методы глубокого обучения с функцией среднеквадратичных потерь. Мы применяем преобразование формы-материала, при котором деформированная микроструктура с изотропным материалом может быть дважды преобразована в обычную структуру с преобразованным основным материалом, так что вход с удобной для CNN формой поступает в DH-Net. DH-Net предсказывает гомогенизированные свойства с ускорением в сотни раз по сравнению со стандартным методом гомогенизации и даже поддерживает онлайн-вычисления. Более того, он не требует помеченного набора данных и, следовательно, может быть намного быстрее, чем современные методы глубокого обучения при обработке обучения. DH-Net может прогнозировать как свойства гомогенизированного материала, так и микромеханические свойства, что недоступно для существующих методов DL. Также учитывается обобщение DH-Net для различных базовых материалов и различных типов микроструктур.

3.3D 2D сверточная модель нейронной сети для классификации гиперспектральных изображений (arXiv)

Автор:Цзясинь Цао, Сяоянь Ли

Аннотация: В предлагаемой модели SEHybridSN плотный блок использовался для повторного использования неглубоких признаков и направлен на лучшее использование иерархических пространственных спектральных признаков. Последующие сверточные слои с разделением по глубине использовались для различения пространственной информации. Дальнейшее уточнение пространственных спектральных признаков было реализовано с помощью метода внимания канала, который выполнялся за каждым 3D-сверточным слоем и каждым 2D-сверточным слоем. Результаты эксперимента показывают, что предлагаемая нами модель изучает более различительные пространственные спектральные характеристики, используя очень мало обучающих данных. SEHybridSN, используя для обучения только данные с метками 0,05 и 0,01, дает очень удовлетворительную производительность.

4.Оценка методов аугментации при классификации расстройств аутистического спектра по данным фМРТ с использованием 3D сверточных нейронных сетей (arXiv)

Автор:Йохан Йонемо, Давид Абрамян, Андерс Эклунд

Аннотация. Классификация субъектов как здоровых или больных с использованием данных нейровизуализации привлекла большое внимание за последние 10 лет. Здесь мы применяем глубокое обучение к производным от данных фМРТ в состоянии покоя и исследуем, как различные методы 3D-аугментации влияют на точность теста. В частности, мы используем производные состояния покоя от 1112 субъектов в ABIDE, предварительно обработанные для обучения трехмерной сверточной нейронной сети (CNN) для выполнения классификации. Наши результаты показывают, что аугментация обеспечивает лишь незначительное улучшение точности теста.

5. Заполнение с учетом интерполяции для трехмерных разреженных сверточных нейронных сетей (arXiv)

Автор:Ю-Ци Ян, Пэн-Шуай Ван, Ян Лю

Аннотация: Трехмерные сверточные нейронные сети (CNN) на основе разреженных вокселей широко используются для различных задач трехмерного зрения. Разреженные трехмерные CNN на основе вокселей создают разреженные непустые воксели из трехмерных входных данных и выполняют операции трехмерной свертки только над ними. Мы предлагаем простую, но эффективную схему заполнения — — заполнение с учетом интерполяции, чтобы заполнить несколько пустых вокселов, смежных с непустыми вокселами, и вовлечь их в вычисление 3D CNN, чтобы все соседние воксели существовали при вычислении точечных признаков через трилинейную модель. интерполяция. Для мелкозернистых задач трехмерного зрения, где важны точечные функции, такие как семантическая сегментация и трехмерное обнаружение, наша сеть обеспечивает более высокую точность прогнозирования, чем существующие сети, использующие интерполяцию ближайшего соседа или нормализованную трилинейную интерполяцию с заполнением нулями или октодеревом. -схема набивки. Благодаря обширным сравнениям различных задач трехмерной сегментации и обнаружения мы демонстрируем превосходство трехмерных разреженных CNN с нашей схемой заполнения в сочетании с интерполяцией признаков.