VLA-HWBench: Куда приходит время, когда модели VLА работают на эдж-аппаратуре

arXiv: 261 030.34717v2 Annuales Type: заменить кросс-бюллетень: модели Vision-Language-Action (VLA) все чаще работают на кабельных устройствах на борту роботов, где запоздалость ограничивает контроль с помощью замкнутых робозащитных устройств. Однако остается неясным, как проектировать модели VLA, их программное обеспечение и аппаратные средства для определения границ, с тем чтобы роботы могли делать выводы VLА в реальном времени. В большинстве моделей VLA сообщается лишь об успешном выполнении задач, в то время как предыдущие исследования охватывают ограниченные стратегии принятия мер, делят выводы на три этапа и не проводят сопоставления оптимизации выводов по одним и тем же моделям. Таким образом, мы введем VLA-HWBench — эталонный показатель для измерения 18 открытых моделей VLА на NVIDIA Jetson AGX Tor и AMD Ryzen IA Mx+ Pro 395 с семиэтапной поломкой выводов. Наше исследование показывает, что у нас есть три озарения. Во-первых, стратегия действий имеет большее значение, чем размер модели. Она доминирует в 14 из 19 конфигураций Jetson, латентность колеблется на 82 долл. США по Джестону и 157 долларов по AMD, а число параметров объясняет не более 15% от 1