Автопроизводители во всем мире яростно разрабатывают автономные системы вождения, но исследования из University of Washington показали, что существующие системы можно легко обмануть.
Согласно исследованиям руководителя компьютерной безопасности University of Washington Yoshi Kohmo, камеры, используемые большинством современных полуавтономных транспортных средств, могут быть обмануты, и знаки остановки, например, на самом деле воспринимаются знаками ограничения скорости.
Kohmo обнаружил, что большинство используемых систем видения полагаются на детектор объектов и классификатор, последний из которых интерпретирует то, что видел детектор, решает, что же из себя представляет объект, и может оценить о чем говорит дорожный знак. В своих исследованиях Kohmo утверждает, что если хакер получает доступ к этому классификатору, он может использовать алгоритм и фотографию дорожного знака для создания изображения, которое может быть привязано к данному знаку, чтобы обмануть автомобиль.
Работая с коллегами из University of Michigan, Stony Brook University и University of California, Kohmo смог заставить систему автономного вождения интерпретировать знак остановки как знак ограничения скорости в 45 миль в час, просто наклеивая на него небольшие кусочки бумаги. Кроме того, путем печати, замаскированной под граффити, на знак остановки, которая гласит «Любовь» и «Ненависть», исследователи смогли обмануть систему видения с вероятностью успеха 73,3 процента, посчитавшую знак остановки обозначением ограничения скорости в 45 миль в час.
По словам старшего научного сотрудника из autonomous vehicle start up Voyage, автопроизводителям необходимо будет разработать свои самодвижущиеся системы так, чтобы избежать таких "хаков".
«Многие из этих хакерских атак можно преодолеть, используя контекстуальную информацию из карт и воспринимаемой среды. Например, знак «65 миль в час» на городской дороге или знак остановки на шоссе не имеет смысла. Кроме того, многие самоходные транспортные средства сегодня оснащены множеством датчиков, поэтому отказы могут быть предотвращены использованием нескольких камер и лидарных датчиков».
