Самоуправляемые автомобили "взломали" наклейками

Разработчики самоуправляемых автомобилей и регуляторы в основном обеспокоены угрозами безопасности самоуправляемых автомобилей, связанных с возможностью их удаленного взлома через интернет или локального подключения к их компьютерным системам. Но, как выяснилось, создать проблемы автономным машинам и поставить под угрозу жизни людей можно куда проще.

Исследователи из университета Вашингтона обнаружили, что системы машинного зрения, применяемые в машинах с автопилотом для распознавания дорожных знаков, легко сбить с толку: достаточно определенным образом разместить на знаках небольшие наклейки.

Если злоумышленникам известно, как именно автомобиль идентифицирует тот или иной знак, они могут сгенерировать изображения, которые, не меняя знак значительно, "превратят" его в "глазах" машины в совершенно другой.

Например, разместив наклейки на знаке "СТОП" (см. фото выше), исследователи добились, чтобы системы автономных автомобилей воспринимали его как знак ограничения скорости. В реальном мире это может привести к серьезной аварии. Исследователи предлагают бороться с уязвимостью, добавляя в управляющие автономным автомобилем алгоритмы, дополнительно анализирующие контекст, в котором встретился знак. Они помогут убедиться, что знак не вводит систему в заблуждение — машина должна "удивиться", обнаружив "СТОП" на скоростном шоссе или ограничение скорости в 100 км/ч на городской улице.