Исследователи из Вашингтонского университета совместно с представителями еще нескольких учебных заведений нашли способ обхитрить автономные машины, заставляя их неправильно интерпретировать дорожные знаки.
Ученые смогли выявить недостатки современных беспилотных систем: оказывается, они не способны распознавать дорожные знаки с установленными на них инородными стикерами. Было обнаружено множество методов того, как заставить автомобиль не только проигнорировать знак, но и принять его за другой. В одном из экспериментов лишь четыре небольших наклейки смогли заставить машину принять "STOP" за знак ограничения скорости в 45 миль/час. Стоит ли говорить, что в реальной жизни последствия обмана искусственного интеллекта могли бы стоить человеческих жизней.
Важно, что добиться результата можно было с помощью небольших манипуляций, почти неприметных для человеческого глаза. Модификация знаков была замаскирована под граффити, царапины и прочие знакомые вещи.
Другой метод предусматривает полную замену дорожного знака: человек не заметит подмены (кроме небольших затенений в паре мест), но машина примет ошибочное решение.
Наш считает, что для успеха атаки на беспилотник хакерам необходимо знать алгоритм работы "мозгов" машины. Любые недочеты в том, как она распознает дорожные знаки или разметку, могут быть использованы ими во зло.