Полный перевод с английского языка. Рисунки воспроизведены из оригинальной публикации.
Аннотация
Технологии компьютерного зрения всё активнее переходят к трёхмерному подходу, и фенотипирование растений следует этой тенденции. Однако, несмотря на высокий потенциал, сложность анализа 3D-представлений остаётся главным препятствием для широкого внедрения трёхмерного фенотипирования. В настоящем обзоре представлен перечень типичных этапов обработки и анализа трёхмерных представлений растений. Его задача — дать потенциальным пользователям 3D-фенотипирования отправную точку для практического применения и стимулировать дальнейшее развитие методов. Основное внимание уделено задачам, в которых требуется измерять признаки отдельных растений либо небольших растительных пологов в исследовательских условиях, в отличие от крупномасштабного полевого мониторинга посевов.
Фенотипирование растений — количественное измерение и оценка их признаков — находится в центре исследований растений, селекции и управления посевами. В последние годы неразрушающие методы на основе изображений стали самостоятельным интенсивно развивающимся направлением. Этому способствовали как совершенствование аппаратуры, так и развитие программного обеспечения. Появление недорогих и мощных устройств получения изображений сделало исходные фенотипические данные доступными, а вычислительные достижения, включая глубокое обучение, позволили исследователям и селекционерам быстрее извлекать из них количественную информацию. Вместе эти изменения снизили зависимость от трудоёмкого ручного сбора и обработки данных и расширили возможности автоматизации в лаборатории и поле.
Особенно заметным стало распространение методов трёхмерного фенотипирования. Средства 3D-съёмки и обработки применяются в сельскохозяйственной автоматизации и робототехнике — при выборочном сборе урожая, удалении сорняков и опрыскивании. В агробиотехнологии они поддерживают поиск признаков, связанных с урожайностью, засухоустойчивостью, устойчивостью к вредителям и гербицидам, посредством связывания генотипа с фенотипом. В точном земледелии мониторинг показателей здоровья культур и условий среды делает управление посевами более адресным и гибким.
В сравнении с двумерными методами 3D-реконструкции требуют большего объёма данных, но дают более точную геометрию растения. Они позволяют описывать признаки листьев, различать сорняки и культурные растения, оценивать биомассу, классифицировать плоды, отслеживать движение и рост во времени, а также разрешать перекрытия и пересечения органов за счёт учёта расстояния, ориентации и освещения. Реконструкции подразделяют на жёсткие и нежёсткие, а также на предназначенные для контролируемых помещений и для полевых условий.
Обработка растений сложна из-за несолидной архитектуры, сильной вариабельности внутри и между видами и частых окклюзий. Поэтому обзор последовательно рассматривает получение данных, предварительную обработку, преобразование представлений, скелетизацию, сегментацию, аппроксимацию поверхностей и измерение признаков на уровне полога, растения и органа. Построение виртуальных растений как самостоятельная цель не рассматривается, хотя многие соответствующие методы применимы и к фенотипированию.
Рис. 1. Схема типичных этапов обработки и анализа при 3D-фенотипировании растений: активное или пассивное получение данных; карта глубины, облако точек либо воксельная решётка; удаление фона и выбросов, подавление шума и прореживание; переход к полигональной сетке, октодереву или неориентированному графу; скелетизация, сегментация и аппроксимация поверхности; измерения на уровне полога, растения и органа.
Получение трёхмерных изображений
Методы 3D-визуализации
Методы условно разделяют на активные и пассивные. Активные системы используют управляемый источник структурированной энергии — сканирующий лазер либо проецируемый световой рисунок — и детектор. Пассивные системы формируют изображения за счёт окружающего освещения. Обе группы способны повысить точность измерений роста и расширить набор доступных архитектурных признаков, но всё ещё ограничены скоростью, доступностью, переносимостью, пространственным разрешением и стоимостью.
Активные методы обычно требуют LiDAR, МРТ, ПЭТ или других специализированных устройств. Они дороже, но часто обеспечивают высокую точность. Пассивные методы используют серийные камеры и потому дешевле, однако качество исходных данных может быть ниже, а вычислительная обработка — существенно сложнее. Выбор определяется требуемой точностью, масштабом объекта, допустимым временем съёмки и условиями освещения.
Активные подходы
Лазерная триангуляция
Лазерный луч освещает объект, а матрица датчика регистрирует отражение; положение точки определяется триангуляцией. Недорогая лабораторная установка сделала подход распространённым при работе с ячменём, пшеницей и рапсом. Точность зависит от геометрической калибровки, отражательной способности поверхности и стабильности объекта.
Трёхмерное лазерное сканирование (LiDAR)
LiDAR является высокоточным средством получения облаков точек. Процедура сканирования и последующего объединения видов сложна и требует калибровочных объектов либо повторных сканов. Наземные лазерные сканеры измеряют большие объёмы растительности и пригодны для пологов и участков; недорогие датчики, например Kinect, имеют меньшее разрешение, но достаточны для ряда задач характеризации.
Время пролёта (ToF)
Камера ToF оценивает расстояние по времени распространения либо фазовому сдвигу модулированного сигнала. Она быстро формирует карту глубины и подходит для динамических сцен, однако подвержена систематической ошибке, многолучевости, смешанным пикселям на границах и влиянию внешнего освещения. Калибровка и коррекция глубины обязательны для метрических измерений.
Структурированный свет и фотометрическое стерео
При структурированном свете на растение проецируют известный рисунок, деформация которого даёт глубину. Метод точен в помещении, но солнечный свет может подавлять рисунок. Фотометрическое стерео восстанавливает нормали поверхности по изображениям, полученным при разных известных направлениях освещения; оно хорошо передаёт мелкий рельеф, но требует контролируемого света и модели отражения.
Томографические методы
Рентгеновская и магнитно-резонансная томография, а также позитронно-эмиссионная томография позволяют исследовать внутреннюю структуру, корни в субстрате и физиологические процессы. Они дают уникальную информацию, недоступную оптическим датчикам, однако дорогостоящи, сравнительно медленны, имеют ограниченный объём съёмки и требуют специализированной инфраструктуры.
Пассивные подходы
Многовидовое стерео и структура из движения
Многовидовое стерео оценивает глубину по соответствиям между перекрывающимися изображениями. Structure from Motion одновременно восстанавливает положение камер и разреженную геометрию, после чего плотное многовидовое стерео строит облако точек. Подход удобен и недорог, но чувствителен к однородным поверхностям листьев, бликам, ветру и повторяющимся структурам. Для корректного масштаба требуются опорные расстояния или калиброванные камеры.
Выделение объёма и световое поле
Space carving исключает воксели, несовместимые с силуэтами или фотометрией на нескольких видах. Метод устойчив для грубой формы, но не восстанавливает вогнутые области, не видимые в силуэтах. Светопольные камеры регистрируют пространственно-угловое распределение света и позволяют вычислять глубину после одного снимка, однако разрешение делится между пространственным и угловым измерениями.
Рис. 3. Примеры установок 3D-визуализации: (a) лазерная триангуляция; (b) Structure from Motion; (c) стереозрение; (d) время пролёта. Воспроизведено из [8] по лицензии CC BY 4.0.
Представления сцены
Карта глубины сопоставляет каждому пикселю расстояние до камеры и удобна для двумерных алгоритмов, но привязана к точке наблюдения. Облако точек хранит координаты поверхности, иногда цвет, нормаль и интенсивность; оно не задаёт явной связности. Воксельная решётка дискретизирует объём и проста для логических операций и свёрточных сетей, но требует памяти, быстро растущей с разрешением.
Обработка трёхмерных изображений
Цель предварительной обработки — превратить необработанные данные в геометрически согласованное и вычислительно удобное представление. Типичная последовательность включает удаление фона, выбросов и шума, прореживание, стандартизацию масштаба и ориентации, сглаживание, регистрацию нескольких видов и построение вторичного представления.
Фильтрация трёхмерных множеств точек
Удаление фона
Фон отделяют по цвету, глубине, плоскости грунта, известной геометрии камеры или обученной классификации. Контролируемый однотонный фон упрощает задачу, но полевые данные требуют робастного выделения почвы, соседних растений, опор и оборудования. Часто применяют RANSAC для плоскости и морфологическую очистку маски.
Удаление выбросов
Статистический фильтр сравнивает среднее расстояние до соседей с глобальным распределением; радиусный фильтр удаляет точки с малым числом соседей в заданной сфере. Кластеризация DBSCAN отделяет малые изолированные компоненты. Параметры должны учитывать неодинаковую плотность, иначе тонкие листья и верхушки ошибочно удаляются.
Подавление шума и сглаживание
Шум уменьшают локальной аппроксимацией плоскостью или поверхностью, Moving Least Squares, двусторонними и сохраняющими особенности фильтрами. Сглаживание снижает ошибку нормалей и облегчает построение сетки, но чрезмерная фильтрация уменьшает толщину органов и стирает края — именно те признаки, которые часто имеют фенотипическое значение.
Прореживание
Воксельное прореживание заменяет точки в ячейке одной репрезентативной точкой; равномерная, случайная и основанная на кривизне выборка дают иной компромисс между скоростью и сохранением деталей. При неодинаковой плотности предпочтительно адаптивное разрешение: грубое для плоских областей и мелкое для краёв и тонких органов.
Стандартизация и регистрация
Стандартизация приводит облака к общей системе координат, масштабу и ориентации. Регистрация объединяет виды и временные точки. Для жёсткой регистрации широко применяют Iterative Closest Point: чередуют поиск соответствий и оценку преобразования, минимизирующего расстояния. Начальную оценку получают по маркерам, дескрипторам либо RANSAC. Обобщённый ICP, point-to-plane и вероятностные методы повышают устойчивость; нежёсткая регистрация учитывает рост, увядание и движение листьев.
Рис. 5. Обзор методов обработки 3D-данных: фильтрация, удаление фона и выбросов, прореживание и шумоподавление, стандартизация и регистрация облаков точек, а также построение вторичных представлений.
Вторичные представления 3D-объекта
Полигональная сетка
Сетка задаёт поверхность вершинами, рёбрами и гранями. Её строят триангуляцией, Poisson-реконструкцией, marching cubes или alpha-shapes. Сетка удобна для площади поверхности, кривизны, геодезических расстояний и визуализации. Разрывы, самопересечения и неверные нормали требуют контроля качества.
Октодерево
Октодерево рекурсивно делит объём на восемь ячеек, позволяя хранить пустое пространство компактно и выполнять быстрый поиск соседей. Оно особенно полезно для больших облаков, многомасштабной обработки, оценки занятости и скелетизации.
Неориентированный граф
В графовом представлении точки или сегменты становятся вершинами, а близость и подобие — рёбрами с весами. Кратчайшие пути, минимальное остовное дерево, спектральное разбиение и графовые разрезы позволяют извлекать оси органов и сегментировать растение.
Рис. 6. Временной ряд сканов растения томата и извлечённые скелеты. Воспроизведено из [160] по лицензии CC BY 4.0.
Анализ трёхмерных изображений
Скелетизация
Скелетизация вычисляет тонкое, топологически эквивалентное представление формы. Криволинейный скелет особенно полезен для ветвящихся растений: он описывает главную ось, черешки и ветви, облегчает измерение длины, углов, порядка ветвления и междоузлий. Методы включают утоньшение вокселей, сокращение лапласиана, геодезические пути, минимальные остовные деревья и алгоритмы на октодеревьях. Качественный скелет должен сохранять топологию, быть центрированным, устойчивым к шуму и не порождать ложных ветвей.
Для растительных данных основными проблемами являются соприкосновение листьев, пропуски, неоднородная плотность и различие масштабов между стеблем и тонкими структурами. Поэтому скелет часто очищают обрезкой коротких ветвей, объединением близких узлов и применением ботанических ограничений.
Сегментация
Сегментация разделяет представление на отдельные растения, органы или функциональные части. Семантическая сегментация присваивает класс каждой точке, а экземплярная дополнительно различает отдельные органы одного класса. Алгоритмы опираются на края, области, геометрию, кластеры, графы, модели и машинное обучение. Универсального метода нет: выбор определяется видом растения, стадией развития, плотностью полога и качеством данных.
Рис. 8. Сегментация воксельного представления растения томата: разделение органов с использованием геометрии и связности.
Рис. 9. Иллюстрация спектральной кластеризации: построение графа сходства, вычисление собственных векторов и разбиение точек в пространстве признаков.
Рис. 10. Гистограммы признаков точек для лазерно-сканированных облаков листа винограда (a) и стебля (b); различия локальной геометрии позволяют классифицировать органы.
Реконструкция и аппроксимация поверхности
Реконструкция поверхности превращает дискретные точки в непрерывную модель. Для листьев применяют плоскости, полиномы, B-сплайны, NURBS, локальные квадрики и минимальные поверхности; для стеблей — цилиндры, усечённые конусы и пространственные кривые. RANSAC устойчив к выбросам, а нелинейный метод наименьших квадратов уточняет параметры. Модель должна быть достаточно гибкой для изгиба листа, но не следовать шуму.
NURBS описывает поверхность контрольными точками, весами и базисными функциями. Если S(u,v)=ΣᵢΣⱼ Nᵢ,p(u)Nⱼ,q(v)wᵢⱼPᵢⱼ / ΣᵢΣⱼ Nᵢ,p(u)Nⱼ,q(v)wᵢⱼ, то по S вычисляют площадь, кривизну и ориентацию. При этом выбор степени, числа контрольных точек и регуляризации определяет компромисс между точностью и переобучением шуму.
Рис. 12. Сегментация листьев сои и аппроксимация их поверхностей с помощью NURBS по облаку точек [83].
Оценка фенотипических признаков
После сегментации измеряют признаки полога, целого растения и органа. На уровне полога определяют высоту, объём, долю занятости, плотность листовой поверхности, листовой индекс, шероховатость и распределение света. На уровне растения оценивают высоту, ширину, выпуклую оболочку, объём, площадь поверхности, биомассу, число листьев и архитектуру ветвления. На уровне органа измеряют длину, ширину, площадь, периметр, ориентацию, угол наклона, кривизну, толщину стебля, длину междоузлий и размер плодов.
Евклидовы расстояния подходят для прямых размеров, а геодезические — для изогнутых листьев и стеблей. Площадь сетки равна сумме площадей треугольников; воксельный объём — числу занятых вокселей, умноженному на объём ячейки. Для органа с частичной окклюзией параметры иногда оценивают по fitted-модели, но неопределённость такой экстраполяции должна сообщаться.
Рис. 14. Пример трёхмерных измерений органов растения: диаметры стеблей оценены аппроксимацией цилиндрами, а длины и углы — по центральным линиям и поверхностям [248].
Методы машинного обучения для фенотипирования растений
Машинное обучение применяется к регистрации, шумоподавлению, классификации точек, семантической и экземплярной сегментации, подсчёту органов и оценке признаков. Классические методы используют заранее вычисленные признаки — цвет, нормали, кривизну, Point Feature Histogram, локальную плотность, высоту и спектральные характеристики — и классификаторы SVM, случайный лес, k-ближайших соседей или условные случайные поля.
Глубокое обучение
Глубокие сети автоматически извлекают признаки из изображений, карт глубины, вокселей, проекций либо непосредственно из облаков точек. Проекционные методы используют несколько 2D-видов и зрелые CNN, но могут терять геометрию. Воксельные 3D-CNN просты концептуально, однако ограничены кубическим ростом памяти; разреженные свёртки и октодеревья уменьшают затраты. PointNet агрегирует признаки точек симметричной функцией, PointNet++ добавляет иерархические локальные области, а графовые сети динамически строят соседства. Сети для разреженных решёток и spatio-temporal данные поддерживают анализ роста.
Основное ограничение — дефицит разнообразных размеченных 3D-наборов растений. Разметка отдельных точек и органов крайне трудоёмка; синтетические модели, перенос обучения, самоконтролируемое обучение и активный выбор образцов способны снизить стоимость. Оценивать следует не только общую точность, но и IoU по классам, полноту тонких органов, точность границ, качество экземплярного разделения и ошибку конечного биологического признака.
Рис. 15. Обзор методов машинного обучения для 3D-фенотипирования: классические алгоритмы на ручных признаках, 2D- и 3D-свёрточные сети, методы на вокселях, проекциях, графах и неупорядоченных облаках точек.
Перспективы
Несмотря на быстрый прогресс, универсального конвейера 3D-фенотипирования пока нет. Требуются стандартизованные открытые наборы данных, эталонные протоколы и метрики, описывающие как геометрическую точность, так и ошибку биологических признаков. Важны воспроизводимость калибровки, публикация параметров и кода, представление неопределённости и испытания на различных генотипах, стадиях развития и условиях съёмки.
Мультимодальная интеграция геометрии с RGB, гиперспектральными, тепловыми и физиологическими измерениями может связать архитектуру с функцией. Временные 4D-последовательности позволят оценивать скорость роста и динамику отдельных органов, но потребуют устойчивой нежёсткой регистрации и сохранения идентичности органов. Роботы и переносные датчики перенесут методы из контролируемых установок в поле, где особенно важны устойчивость к ветру, солнечному свету, окклюзиям и неоднородному фону.
Машинное обучение будет всё сильнее объединять этапы обработки, однако биологические ограничения и интерпретируемые модели останутся важными. Перспективны физически и ботанически информированные сети, слабая и самоконтролируемая разметка, синтетические данные, перенос между культурами, облегчённые модели для обработки на борту и совместное оценивание сегментации с конечными фенотипами.
Заключение
Трёхмерное фенотипирование даёт более полное и геометрически точное описание растений, чем двумерные наблюдения, но требует согласованного набора методов получения, очистки, представления и анализа данных. Активные и пассивные системы имеют разные компромиссы по стоимости, точности и условиям применения. Карты глубины, облака точек и воксели дополняют друг друга; вторичные представления — сетки, октодеревья и графы — облегчают последующие вычисления. Скелетизация, сегментация и аппроксимация поверхностей превращают геометрию в измеримые признаки.
Выбор метода должен исходить из биологического вопроса и требуемой точности конечного признака, а не только из качества визуальной реконструкции. Развитие открытых данных, проверяемых протоколов и методов машинного обучения, устойчивых к реальным условиям, позволит сделать 3D-фенотипирование стандартным инструментом исследований растений, селекции и управления культурами.
Сокращения
Благодарности, вклад авторов и заявления
Авторы благодарят исследовательское сообщество, чьи работы и иллюстрации легли в основу обзора. Negin Harandi и Breght Vandenberghe внесли равный вклад; Stephen Depuydt и Arnout Van Messem внесли равный вклад. Авторы заявили об отсутствии конкурирующих интересов. Публикация распространяется по лицензии Creative Commons Attribution 4.0 International; условия использования отдельных материалов определяются подписями и первоисточниками.
Список литературы
vision sensors: BumblebeeXB3 and Microsoft Kinect. In: Robot2013:
1. Ubbens J, Cieslak M, Prusinkiewicz P, Stavness I. The use of plant models First Iberian Robotics Conference. 2014; 725–734. Springer.
in deep learning: an application to leaf counting in rosette plants. Plant 25. Ando R, Ozasa Y, Guo W. Robust surface reconstruction of plant
Methods. 2018;14(1):6. leaves from 3D point clouds. Plant Phenomics. 2021. https://doi.org/
2. Shi W, van de Zedde R, Jiang H, Kootstra G. Plant-part segmentation 10.34133/2021/3184185.
using deep learning and multi-view vision. Biosyst Eng. 2019;187:81–95.
26. Nguyen TT, Slaughter DC, Max N, Maloof JN, Sinha N. Struc- phenotype using AZURE KINECT. Plants. 2022;11(9):1144. https://doi.
tured light-based 3D reconstruction system for plants. Sensors. org/10.3390/plants11091144.
2015;15(8):18587–612. https://doi.org/10.3390/s150818587. 47. Zhang K, Chen H, Wu H, Zhao X, Zhou C. Point cloud registration
27. Paulus S, Schumann H, Kuhlmann H, Léon J. High-precision laser method for maize plants based on conical surface fitting-ICP. Sci Rep.
scanning system for capturing 3D plant architecture and analysing 2022;12(1):1–15. https://doi.org/10.1038/s41598-022-10921-6.
growth of cereal plants. Biosyst Eng. 2014;121:1–11. 48. Li Y, Fan X, Mitra NJ, Chamovitz D, Cohen-Or D, Chen B. Analyzing
28. Dornbusch T, Michaud O, Xenarios I, Fankhauser C. Differentially growing plants from 4D point cloud data. ACM Trans Gr. 2013;32(6):157.
phased leaf growth and movements in Arabidopsis depend https://doi.org/10.1145/2508363.2508368.
on coordinated circadian and light regulation. Plant Cell. 49. Zhang S. High-speed 3D shape measurement with structured light
2014;26(10):3911–21. methods: a review. Opt Lasers Eng. 2018;106:119–31.
29. Dupuis J, Kuhlmann H. High-precision surface inspection: uncertainty 50. Woodham RJ. Photometric method for determining surface orientation
evaluation within an accuracy range of 15µm with triangulation-based from multiple images. Opt Eng. 1980;19(1): 191139.
laser line scanners. J Appl Geod. 2014;8(2):109–18. 51. Horn BK. Shape from shading: a method for obtaining the shape of a
30. Paulus S, Dupuis J, Riedel S, Kuhlmann H. Automated analysis of barley smooth opaque object from one view; 1970.
organs using 3D laser scanning: an approach for high throughput 52. Geng J. Structured-light 3D surface imaging: a tutorial. Adv Opt Pho-
87. Marr D, Poggio T. A computational theory of human stereo vision. Proc 109. Xia C, Wang L, Chung B-K, Lee J-M. In situ 3D segmentation of indi-
Royal Soc Lond Ser B Biol Sci. 1979;204(1156):301–28. vidual plant leaves using a RGB-D camera for agricultural automation.
88. Xiong J, He Z, Lin R, Liu Z, Bu R, Yang Z, Peng H, Zou X. Visual position- Sensors. 2015;15(8):20463–79. https://doi.org/10.3390/s150820463.
ing technology of picking robots for dynamic litchi clusters with 110. Chéné Y, Rousseau D, Lucidarme P, Bertheloot J, Caffier V, Morel P, Belin
disturbance. Comput Electron Agric. 2018;151:226–37. É, Chapeau-Blondeau F. On the use of depth camera for 3D phenotyp-
89. Xiong X, Yu L, Yang W, Liu M, Jiang N, Wu D, Chen G, Xiong L, Liu K, Liu ing of entire plants. Comput Electron Agric. 2012;82:122–7. https://doi.
Q. A high-throughput stereo-imaging system for quantifying rape leaf org/10.1016/j.compag.2011.12.007.
traits during the seedling stage. Plant Methods. 2017;13(1):1–17. 111. Li D, Cao Y, Shi G, Cai X, Chen Y, Wang S, Yan S. An overlapping-free
90. Chen M, Tang Y, Zou X, Huang K, Huang Z, Zhou H, Wang C, Lian leaf segmentation method for plant point clouds. IEEE Access.
G. Three-dimensional perception of orchard banana central stock 2019;7:129054–70.
112. Besl PJ, McKay ND. Method for registration of 3-D shapes. In: Sensor multiview stereo 3D reconstruction. Plant Phenomics. 2020. https://doi.
Fusion IV: Control Paradigms and Data Structures, 1992;1611:586–607. org/10.34133/2020/1848437.
https://doi.org/10.1117/12.57955. International Society for Optics and 134. Hu F, Zhao Y, Wang W, Huang X. Discrete point cloud filtering and
Photonics. searching based on VGSO algorithm. In: Proceedings 27th European
113. Javaheri A, Brites C, Pereira F, Ascenso J. Subjective and objective qual- Conference on Modelling and Simulation. 2013; 850–856.
ity evaluation of 3D point cloud denoising algorithms. In: 2017 IEEE 135. Straub J, Reiser D, Griepentrog HW. Approach for modeling single
International Conference on Multimedia & Expo Workshops (ICMEW), branches of meadow orchard trees with 3D point clouds. Wageningen:
159. Myronenko A, Song X. Point set registration: coherent point drift. IEEE 180. Côté J-F, Widlowski J-L, Fournier RA, Verstraete MM. The structural and
Trans Pattern Anal Mach Intell. 2010;32(12):2262–75. radiative consistency of three-dimensional tree reconstructions from
160. Schunck D, Magistri F, Rosu RA, Cornelißen A, Chebrolu N, Paulus S, terrestrial lidar. Remote Sens Environ. 2009;113(5):1067–81. https://doi.
Léon J, Behnke S, Stachniss C, Kuhlmann H, et al. Pheno4d: a spatio- org/10.1016/j.rse.2009.01.017.
temporal dataset of maize and tomato plant point clouds for pheno- 181. Verroust A, Lazarus F. Extracting skeletal curves from 3D scattered data.
typing and advanced plant analysis. PLOS ONE. 2021;16(8):0256340. In: Proceedings Shape Modeling International’99. International Confer-
161. Magistri F, Chebrolu N, Stachniss C. Segmentation-based 4D registration ence on Shape Modeling and Applications, 1999:194–201. https://doi.
of plants point clouds for phenotyping. In: 2020 IEEE/RSJ International org/10.1109/SMA.1999.749340. IEEE.
Conference on Intelligent Robots and Systems (IROS), 2020:2433–2439. 182. Delagrange S, Jauvin C, Rochon P. PypeTree: a tool for reconstructing
IEEE. tree perennial tissues from point clouds. Sensors. 2014;14(3):4271–89.
162. Lorensen WE, Cline HE. Marching cubes: a high resolution 3D surface https://doi.org/10.3390/s140304271.
construction algorithm. In: Proceedings of the 14th Annual Confer- 183. Ziamtsov I, Navlakha S. Machine learning approaches to improve three
ence on Computer Graphics and Interactive Techniques. SIGGRAPH basic plant phenotyping tasks using three-dimensional point clouds.
’87, 1987;21:163–169. ACM, New York, NY, USA. https://doi.org/10.1145/ Plant Physiol. 2019;181(4):1425–40.
37401.37422 184. Cao J, Tagliasacchi A, Olson M, Zhang H, Su Z. Point cloud skeletons
163. Edelsbrunner H, Mücke EP. Three-dimensional alpha shapes. ACM Trans via laplacian based contraction. In: 2010 Shape Modeling International
Gr. 1994;13(1):43–72. https://doi.org/10.1145/174462.156635. Conference, 2010:187–197. https://doi.org/10.1109/SMI.2010.25. IEEE.
164. Paproki A, Sirault X, Berry S, Furbank R, Fripp J. A novel mesh processing 185. Chaudhury A, Godin C. Skeletonization of plant point cloud data using
based technique for 3D plant analysis. BMC Plant Biol. 2012;12(1):63. stochastic optimization framework. Front Plant Sci. 2020;11:773.
https://doi.org/10.1186/1471-2229-12-63. 186. Wu S, Wen W, Xiao B, Guo X, Du J, Wang C, Wang Y. An accurate skeleton
165. McCormick RF, Truong SK, Mullet JE. 3D sorghum reconstructions from extraction approach from 3D point clouds of maize plants. Front Plant
2016. https://doi.org/10.1104/pp.16.00948. 187. Clark RT, MacCurdy RB, Jung JK, Shaff JE, McCouch SR, Aneshansley DJ,
166. Meagher DJR. Octree encoding: a new technique for the representa- Kochian LV. Three-dimensional root phenotyping with a novel imaging
tion, manipulation and display of arbitrary 3-D objects by computer. and software platform. Plant physiol. 2011;156(2):455–65.
Technical Report IPL-TR-80-111, Image Processing Laboratory, Electrical 188. Kaur D, Kaur Y. Various image segmentation techniques: a review. Int J
and Systems Engineering Department, Rensselaer Polytechnic Institute; Comput Sci Mob Comput. 2014;3(5):809–14.
1980. 189. Castillo E, Liang J, Zhao H. Point cloud segmentation and denoising
167. Bucksch A, Lindenbergh R. CAMPINO—A skeletonization method via constrained nonlinear least squares normal estimates. In: Breub M,
for point cloud processing. ISPRS J Photogramm Remote Sens. Bruckstein A, Maragos P, editors. Innovations for shape analysis. Berlin:
2008;63(1):115–27. https://doi.org/10.1016/j.isprsjprs.2007.10.004. Springer; 2013. p. 283–99. https://doi.org/10.1007/978-3-642-34141-0_
168. Bucksch A, Lindenbergh R, Menenti M. SkelTre - fast skeletonisa- 13.
tion for imperfect point cloud data of botanic trees. Vis Comput. 190. Kulwa F, Li C, Zhao X, Cai B, Xu N, Qi S, Chen S, Teng Y. A state-of-the-art
2010;26(10):1283–300. survey for microorganism image segmentation methods and future
169. Duan T, Chapman SC, Holland E, Rebetzke GJ, Guo Y, Zheng B. Dynamic potential. IEEE Access. 2019;7:100243–69.
quantification of canopy structure to characterize early plant vigour in 191. Ge Y, Bai G, Stoerger V, Schnable JC. Temporal dynamics of maize plant
wheat genotypes. J Exp Bot. 2016;67(15):4523–34. https://doi.org/10. growth, water use, and leaf water content using automated high
1093/jxb/erw227. throughput RGB and hyperspectral imaging. Comput Electron Agric.
170. Zhu R, Sun K, Yan Z, Yan X, Yu J, Shi J, Hu Z, Jiang H, Xin D, Zhang Z, et al. 2016;127:625–32. https://doi.org/10.1016/j.compag.2016.07.028.
Analysing the phenotype development of soybean plants using low- 192. Das Choudhury S, Bashyam S, Qiu Y, Samal A, Awada T. Holistic and
cost 3D reconstruction. Sci Rep. 2020;10(1):1–17. component plant phenotyping using temporal image sequence. Plant
171. Dijkstra EW. A note on two problems in connexion with graphs. Numer- Methods. 2018;14(1):1–21.
ische Mathematik. 1959;1(1):269–71. https://doi.org/10.1007/BF013 193. Minervini M, Abdelsamea MM, Tsaftaris SA. Image-based plant phe-
86390. notyping with incremental learning and active contours. Ecol Inform.
172. Prim RC. Shortest connection networks and some generalizations. Bell 2014;23:35–48.
Syst Tech J. 1957;36(6):1389–401. https://doi.org/10.1002/j.1538-7305. 194. Bosilj P, Duckett T, Cielniak G. Connected attribute morphology for uni-
1957.tb01515.x. fied vegetation segmentation and classification in precision agriculture.
173. Shi J, Malik J. Normalized cuts and image segmentation. IEEE Trans Pat- Comput Ind. 2018;98:226–40.
tern Anal Mach Intell. 2000;22(8):888–905. https://doi.org/10.1109/34. 195. Uchiyama H, Sakurai S, Mishima M, Arita D, Okayasu T, Shimada A,
868688. Taniguchi R-I. Easy-to-setup 3D phenotyping platform for KOMATSUNA
174. Hétroy-Wheeler F, Casella E, Boltcheva D. Segmentation of tree dataset. In: The IEEE International Conference onComputer Vision (ICCV)
seedling point clouds into elementary units. Int J Remote Sens. Workshops, 2017:2038–2045. https://doi.org/10.1109/ICCVW.2017.239.
178. Mei J, Zhang L, Wu S, Wang Z, Zhang L. 3D tree modeling from incom- 199. Lomte S, Janwale A. Plant leaves image segmentation techniques: a
plete point clouds via optimization and L1-MST. International Journal review. Artic Int J Comput Sci Eng. 2017;5:147–50.
200. Bell J, Dee HM. Leaf segmentation through the classification of edges. 222. Snavely N, Seitz SM, Szeliski R. Photo tourism: exploring photo collec-
arXiv Preprint. 2019. https://doi.org/10.48550/arXiv.1904.03124. tions in 3D. ACM Trans Gr (TOG). 2006;25:835–46.
201. Thendral R, Suhasini A, Senthil N. A comparative analysis of edge 223. Moriondo M, Leolini L, Staglianò N, Argenti G, Trombi G, Brilli L, Dibari C,
and color based segmentation for orange fruit recognition. In: 2014 Leolini C, Bindi M. Use of digital images to disclose canopy architecture
International Conference on Communication and Signal Processing, in olive tree. Scientia Horticulturae. 2016;209:1–13. https://doi.org/10.
221. Dey D, Mummert L, Sukthankar R. Classification of plant structures from 241. Pfeifer N, Gorte B, Winterhalder D, et al. Automatic reconstruction of
uncalibrated image sequences. In: 2012 IEEE Workshop on Applications single trees from terrestrial laser scanner data. In: Proceedings of 20th
254. Hosoi F, Omasa K. Voxel-Based 3-D modeling of individual trees for esti- 276. Li D, Shi G, Li J, Chen Y, Zhang S, Xiang S, Jin S. PlantNet: a dual-function
mating leaf area density using high-resolution portable scanning lidar. point cloud segmentation network for multiple plant species. ISPRS J
arXiv.1409.1556. 306. Wang X, Liu S, Shen X, Shen C, Jia J. Associatively segmenting instances
286. Long J, Shelhamer E, Darrell T. Fully convolutional networks for seman- and semantics in point clouds. In: Proceedings of the IEEE/CVF Confer-
tic segmentation. In: Proceedingsof the IEEE Conference on Computer ence on Computer Vision and Pattern Recognition. 2019; 4096–4105.
Vision and Pattern Recognition. 2015; 3431–3440. https://doi.org/10.1109/CVPR.2019.00422.
287. He K, Gkioxari G, Dollár P, Girshick R. Mask R-CNN. In: Proceedings of the 307. Ma Y, Guo Y, Liu H, Lei Y, Wen G. Global context reasoning for semantic
IEEE InternationalConference on Computer Vision. 2017; 2961–2969. segmentation of 3D point clouds. In: Proceedings of the IEEE/CVF Win-
288. Maturana D, Scherer S. VoxNet: a 3D convolutional neural network for ter Conference on Applications of Computer Vision, 2020:2931–2940.
real-time object recognition. In:2015 IEEE/RSJ International Conference https://doi.org/10.1109/WACV45572.2020.9093411.
on Intelligent Robots and Systems (IROS). 2015; 922–928. https://doi. 308. Lu Q, Chen C, Xie W, Luo Y. PointNGCNN: Deep Convolutional Networks
org/10.1109/IROS.2015.7353481. IEEE. on 3D Point Clouds with Neighborhood Graph Filters. Computers &
289. Riegler G, Osman Ulusoy A, Geiger A. OctNet: learning deep 3D repre- Graphics. 2020;86:42–51. https://doi.org/10.1016/j.cag.2019.11.005.
sentations at high resolutions. In:Proceedings of the IEEE Conference 309. Li Y, Bu R, Sun M, Wu W, Di X, Chen B. PointCNN: convolution on
on Computer Vision and Pattern Recognition. 2017; 3577–3586. https:// X-transformed points. Adv Neural Inf Proc Syst. 2018;31.
doi.org/10.48550/arXiv.1611.05009. 310. Ao Z, Wu F, Hu S, Sun Y, Su Y, Guo Q, Xin Q. Automatic segmentation
290. Tchapmi L, Choy C, Armeni I, Gwak J, Savarese S. SEGCloud: semantic of stem and leaf components and individual maize plants in field ter-
segmentation of 3D pointclouds. In: 2017 International Conference restrial LiDAR data using convolutional neural networks. Crop J. 2021.
on 3D Vision (3DV). 2017; 537–547. https://doi.org/10.1109/3DV.2017. https://doi.org/10.1016/j.cj.2021.10.010.
00067. IEEE. 311. Gong L, Du X, Zhu K, Lin K, Lou Q, Yuan Z, Huang G, Liu C. Panicle-3D:
291. Çiçek Ö, Abdulkadir A, Lienkamp SS, Brox T, Ronneberger O. 3D U-Net: efficient phenotyping tool for precise semantic segmentation of rice
learning dense volumetricsegmentation from sparse annotation. In: panicle point cloud. Plant Phenomics. 2021. https://doi.org/10.34133/
International Conference on Medical Image Computing andComputer- 2021/9838929.
Assisted Intervention. 2016; 424–432. Springer. 312. Chen L-C, Zhu Y, Papandreou G, Schroff F, Adam H. Encoder-decoder
292. Su H, Jampani V, Sun D, Maji S, Kalogerakis E, Yang M-H, Kautz J. SPLAT- with atrous separable convolution for semantic image segmenta-
Net: sparse latticenetworks for point cloud processing. In: Proceedings tion. In: Proceedings of the European Conference on Computer Vision
of the IEEE Conference on Computer Vision andPattern Recognition. (ECCV), 2018:801–818. https://doi.org/10.48550/arXiv.1802.02611.
2018; 530–2539. https://doi.org/10.48550/arXiv.1802.08275. 313. Jin S, Su Y, Gao S, Wu F, Ma Q, Xu K, Hu T, Liu J, Pang S, Guan H, et al.
293. Rosu RA, Schütt P, Quenzel J, Behnke S. LatticeNet: fast point cloud seg- Separating the structural components of maize for field phenotyping
mentation using permutohedral lattices. arXiv Preprint. 2019. https:// using terrestrial LiDAR data and deep convolutional neural networks.
doi.org/10.48550/arXiv.1912.05905. IEEE Trans Geosci Remote Sens. 2019;58(4):2644–58. https://doi.org/10.
294. Choy C, Gwak J, Savarese S. 4D Spatio-Temporal ConvNets: minkowski 1109/TGRS.2019.2953092.
sonvolutional neural networks.In: Proceedings of the IEEE/CVF Confer- 314. Liu F, Li S, Zhang L, Zhou C, Ye R, Wang Y, Lu J. 3DCNN-DQN-RNN:
ence on Computer Vision and Pattern Recognition. 2019; 3075–3084. a deep reinforcement learning framework for semantic parsing of
https://doi.org/10.1109/CVPR.2019.00319. large-scale 3D point clouds. In: Proceedings of the IEEE International
295. Rosu RA, Schütt P, Quenzel J, Behnke S. LatticeNet: fast spatio-temporal Conference on Computer Vision, 2017:5678–5687. https://doi.org/10.
point cloud segmentation using permutohedral lattices. Auton Robots. 1109/ICCV.2017.605.
2021;46:1–16. 315. Socher R, Perelygin A, Wu J, Chuang J, Manning CD, Ng AY, Potts C.
296. Wang Y, Sun Y, Liu Z, Sarma SE, Bronstein MM, Solomon JM. Dynamic Recursive deep models for semantic compositionality over a sentiment
graph CNN for learning on point clouds. ACM Trans Gr (tog). treebank. In: Proceedings of the 2013 Conference on Empirical Meth-
2019;38(5):1–12. https://doi.org/10.1145/3326362. ods in Natural Language Processing. 2013; 1631–1642.
297. Turgut K, Dutagaci H, Galopin G, Rousseau D. Segmentation of 316. Yu F, Liu K, Zhang Y, Zhu C, Xu K. Partnet: a recursive part decomposi-
structural parts of rosebush plants with 3D point-based deep learning tion network for fine-grained and hierarchical shape segmentation.
methods. arXiv Preprint. 2020. https://doi.org/10.48550/arXiv.2012. In: Proceedings of the IEEE/CVF Conference on Computer Vision and
11489. Pattern Recognition. 2019; 9491–9500
298. Qi CR, Su H, Mo K, Guibas LJ. PointNet: deep learning on point sets for 317. Santos TT, De Oliveira AA. Image-based 3d digitizing for plant architec-
3D classification andsegmentation. In: Proceedings of the IEEE Confer- ture analysis and phenotyping. In: Embrapa Inform´atica Agropecu´aria-
ence on Computer Vision and Pattern Recognition, 2017:652–660. Artigo em Anais de congresso (ALICE) (2012). In: CONFERENCE ON
https://doi.org/10.1109/CVPR.2017.16. GRAPHICS, PATTERNS AND IMAGES, 25., 2012, Ouro Preto ...
299. Li Y, Wen W, Miao T, Wu S, Yu Z, Wang X, Guo X, Zhao C. Automatic 318. Chaudhury A, Boudon F, Godin C. 3D plant phenotyping: all you need is
organ-level point cloud segmentation of maize shoots by integrating labelled point cloud data. In: European conference on computer vision.
high-throughput data acquisition and deep learning. Comput Electron 2020; 244–260. Springer
Agric. 2022;193: 106702. https://doi.org/10.1016/j.compag.2022.106702. 319. Khanna R, Schmid L, Walter A, Nieto J, Siegwart R, Liebisch F. A spatio
300. Qi CR, Yi L, Su H, Guibas LJ. PointNet++: deep hierarchical feature temporal spectral framework for plant stress phenotyping. Plant meth-
learning on point sets in ametric space. arXiv preprint. 2017. arXiv:1706. ods. 2019;15(1):1–18. https://doi.org/10.1186/s13007-019-0398-8.
02413. 320. Cruz JA, Yin X, Liu X, Imran SM, Morris DD, Kramer DM, Chen J. Multi-
301. Heiwolt K, Duckett T, Cielniak G. Deep semantic segmentation of modality imagery database for plant phenotyping. Mach Vis Appl.
3D plant point clouds. In: AnnualConference Towards Autonomous 2016;27(5):735–49. https://doi.org/10.1007/s00138-015-0734-6.
Robotic Systems, 2021:36–45. Springer. 321. Aich S, Stavness I. Leaf Counting with Deep Convolutional and Decon-
302. Jiang M, Wu Y, Zhao T, Zhao Z, Lu C. PointSIFT: a SIFT-like network mod- volutional Networks; 2017. CoRR abs/1708.07570. arXiv:1708.07570.
ule for 3D point cloud semantic segmentation. arXiv Preprint. 2018. 322. Romera-Paredes B, Torr PHS. Recurrent instance segmentation. In: Leibe
https://doi.org/10.48550/arXiv.1807.00652. B, Matas J, Sebe N, Welling M, editors. Computer vision - ECCV 2016.
303. Wang W, Yu R, Huang Q, Neumann U. SGPN: similarity group proposal Cham: Springer International Publishing; 2016. p. 312–29.
network for 3D point cloud instance segmentation. In: Proceedings 323. De Brabandere B, Neven D, Van Gool L. Semantic instance segmenta-
of the IEEE Conference on Computer Vision and Pattern Recognition, tion with a discriminative loss function. arXiv Preprint. 2017. https://doi.