Российский нейрочип заменил Jetson Nano, но оказался медленнее

Российский нейрочип НТЦ «Модуль» попал в реальный промышленный сценарий: НИИАС использует его в комплексе «ЧИЖ» для РЖД. Система объединяет изображение с четырёх камер и ищет объекты на железнодорожных путях, но переход с NVIDIA Jetson Nano на отечественное железо оказался болезненным.

Зачем понадобилась замена Jetson

Изначально «ЧИЖ» работал на Jetson Nano — компактной платформе NVIDIA для вычислений на периферии, часто используемой в задачах компьютерного зрения. В марте 2022 года NVIDIA ушла с российского рынка, и для железнодорожного проекта пришлось искать доступную замену.

Выбранный отечественный вариант запустили, но в сравнении с Jetson Nano он показал заметно меньшую производительность: прежняя платформа оказалась быстрее примерно в пять раз.

Что пришлось менять в нейросети

Главная проблема проявилась не только в скорости. Детектор объектов на YOLOv4 на новом железе не удалось поднять: часть слоёв нейросети ускоритель не поддерживает.

Из-за этого модель пришлось переучивать на YOLOv5. Для промышленной системы это не косметическая правка, а изменение ключевого компонента распознавания, от которого зависит обнаружение объектов на путях.

• •«ЧИЖ» сшивает изображение с четырёх камер.
• •Система ищет объекты на железнодорожных путях.
• •Первоначальная платформа — NVIDIA Jetson Nano.
• •После ухода NVIDIA потребовалась российская замена.
• •YOLOv4 не заработала из-за неподдерживаемых слоёв.