Почему масштабное развертывание физического ИИ требует безопасности на каждом уровне

Физический ИИ быстро переходит от исследований к крупномасштабному внедрению. По прогнозам ABI Research, к 2035 году установленная база составит 49 миллионов автономных транспортных средств (AV) уровней 3-5, а в период с 2026 по 2035 год, по оценкам Omdia, будет развернуто около 60 миллионов промышленных роботов. Когда эти машины выезжают на дороги, фабрики, склады и в другие места, где живут люди, безопасность должна расти вместе с ними.

Физическая безопасность ИИ означает доказательство того, что машины, управляемые ИИ — беспилотные летательные аппараты, роботы-гуманоиды, промышленные роботы и т. д. — ведут себя безопасно, когда их решения превращаются в физические действия. Для этого требуется безопасность оборудования, программного обеспечения, искусственного интеллекта, операционной среды и жизненного цикла развертывания, а не однократная проверка перед развертыванием.

После многих лет тестирования и сравнительного анализа AV-системы продолжают коммерчески расширяться. Этот прогресс потребовал от разработчиков продемонстрировать, как автоматизированные системы устраняют потенциальные сбои оборудования и программного обеспечения, ограничения предполагаемой функциональности и риски, связанные с ИИ.

Источник: NVIDIA (перевод)