Ученые SwRI нашли способ обмануть системы видеонаблюдения — Роботех

Ученые SwRI нашли способ обмануть системы видеонаблюдения

Новые методы противоборства, разработанные инженерами в Юго-Западном исследовательском институте, могут сделать объекты «невидимыми» для систем обнаружения, использующих алгоритмы глубокого обучения. Эти методы могут также заставить системы думать, что они видят другой объект или могут изменить местоположение объектов. 

«Глубокие учебные нейронные сети очень эффективны для решения многих задач. Тем не менее, глубокое изучение настолько быстро получило широкое распространение, что последствия применения этих алгоритмов для безопасности не успели полностью изучить и учесть», — говорит инженер-исследователь Абе Гарза из отдела интеллектуальных систем SwRI.

Алгоритмы глубокого обучения превосходно используют формы и цвета, например, для распознавания различий между людьми и животными, легковыми и грузовыми автомобилями. Эти системы надежно обнаруживают объекты в различных условиях и, как таковые, используются в самых разных приложениях и отраслях промышленности, часто для выполнения критически важных задач. В автомобильной промышленности используются системы обнаружения объектов на дорогах для помощи в ориентации на полосе движения и предотвращения столкновений. Эти транспортные средства используют камеры для обнаружения потенциально опасных объектов вокруг них. Хотя системы обработки изображений имеют жизненно важное значение для защиты жизни и имущества, алгоритмы могут быть обмануты людьми, желающими причинить вред, говорится в публичном пресс-релизе Юго-западного научно-исследовательского института.

Исследователи безопасности находят и документируют уязвимости в алгоритмах глубокого машинного обучения. Используя внутренние исследовательские фонды SwRI, Гарза и старший инженер-исследователь Дэвид Чамберс разработали уникальные узоры, способные обмануть камеры. При ношении человеком или установке на транспортном средстве они заставляют камеры обнаружения объектов думать, что объектов там нет, что они что-то еще или что они находятся в другом месте. Злоумышленники могут расположить эти узоры возле проезжей части, потенциально создавая хаос для транспортных средств, оснащенных детекторами объектов.

Исследователи SwRI продолжают изучать специфику восприятия камерами изображения и существующие способы обмана. Это исследование должно позволить команде протестировать системы обнаружения объектов и, в конечном итоге, повысить безопасность алгоритмов глубокого обучения.

Add a Comment

Ваш e-mail не будет опубликован. Обязательные поля помечены *