Автопроизводители во всем мире яростно разрабатывают автономные системы вождения, но исследования из University of Washington показали, что существующие системы можно легко обмануть.
Согласно исследованиям руководителя компьютерной безопасности University of Washington Yoshi Kohmo, камеры, используемые большинством современных полуавтономных транспортных средств, могут быть обмануты, и знаки остановки, например, на самом деле воспринимаются знаками ограничения скорости.
Kohmo обнаружил, что большинство используемых систем видения полагаются на детектор объектов и классификатор, последний из которых интерпретирует то, что видел детектор, решает, что же из себя представляет объект, и может оценить о чем говорит дорожный знак. В своих исследованиях Kohmo утверждает, что если хакер получает доступ к этому классификатору, он может использовать алгоритм и фотографию дорожного знака для создания изображения, которое может быть привязано к данному знаку, чтобы обмануть автомобиль.
Работая с коллегами из University of Michigan, Stony Brook University и University of California, Kohmo смог заставить систему автономного вождения интерпретировать знак остановки как знак ограничения скорости в 45 миль в час, просто наклеивая на него небольшие кусочки бумаги. Кроме того, путем печати, замаскированной под граффити, на знак остановки, которая гласит «Любовь» и «Ненависть», исследователи смогли обмануть систему видения с вероятностью успеха 73,3 процента,...
