Тесла Автопилот обманут в ускорении от 35 до 85 миль в час с измененным знаком ограничения скорости

Тесла Автопилот обманут в ускорении от 35 до 85 миль в час с измененным знаком ограничения скорости

Группе хакеров удалось обмануть автопилота первого поколения Теслы в ускорении от 35 до 85 миль в час с измененным знаком ограничения скорости, что люди смогут правильно читать.

Хакеры из McAfee Advanced Threat Research провели эксперимент.

Они объясняют, что они намеревались сделать в блоге:

McAfee Advanced Threat Research (ATR) преследует конкретную цель: выявлять и освещать широкий спектр угроз в современном сложном ландшафте. Благодаря взлому моделей, изучению того, как злоумышленники могут нацеливаться на искусственный интеллект и уклоняться от него, у нас есть невероятная возможность повлиять на осведомленность, понимание и развитие более безопасных технологий, прежде чем они будут внедрены таким образом, который имеет реальную ценность для противника.

Имея это в виду, они решили нацелиться на систему камер MobilEye, поскольку она развернута на более чем 40 миллионах транспортных средств, в том числе на первом поколении автомобилей Tesla с автопилотом, которые использовались для этого конкретного эксперимента.

Они решили попытаться изменить знаки ограничения скорости таким образом, чтобы человек мог знать предел, но автоматизированная система могла запутаться:

В конечном счете, они смогли заставить автомобиль Tesla на автопилоте разогнаться на 50 миль в час сверх лимита:

Окончательный вывод заключается в том, что мы смогли достичь первоначальной цели. Сделав крошечную модификацию нашего знака ограничения скорости на основе наклеек, мы смогли вызвать целенаправленную неправильную классификацию камеры MobilEye на Tesla и использовать ее, чтобы заставить автомобиль автономно разгоняться до 85 миль в час при чтении знака 35 миль в час , Из соображений безопасности на видео показано, что скорость начала резко возрастать, а TACC ускоряется до 85, но, учитывая наши условия испытаний, мы применяем тормоза задолго до того, как они достигнут целевой скорости. Стоит отметить, что это, по-видимому, возможно только при первом применении TACC, когда водитель дважды нажимает на рычаг, задействуя TACC. Если ошибочная классификация успешна, автопилот включается 100% времени. Это быстрое демо-видео показывает, что все эти концепции объединяются.

Они выпустили короткое видео об одном из экспериментов:

McAfee подтвердила, что раскрыла свои выводы как Tesla, так и MobilEye, прежде чем обнародовать их:

McAfee раскрыл результаты Тесла 27 сентябряго, 2019 и MobilEye 3 октябряй2019. Оба поставщика проявили интерес и были благодарны за исследование, но не выразили никаких текущих планов по решению проблемы на существующей платформе. MobilEye действительно указывал, что более поздние версии (ы) системы камер предназначены для этих случаев использования.

В предыдущих случаях, когда уязвимости были обнаружены хакерами в белой шляпе, Тесла довольно быстро их исправлял.

В 2016 году мы сообщили о китайской хакерской группе «Белая шляпа» Keen Security Lab в Tencent, которой удалось удаленно взломать Tesla Model S через вредоносную точку доступа Wi-Fi. Считается, что это первый удаленный взлом автомобиля Тесла.

Хакеры сообщили об уязвимости Тесле, прежде чем стать публичной, и автопроизводитель довольно быстро выпустил обновление.

Взятие Электрека

Хотя технически это уязвимость, ее труднее исправить, поскольку в основном она требует более совершенной системы распознавания изображений.

Бьюсь об заклад, Тесла не спешит исправлять это, так как это влияет только на Автопилот первого поколения, но я думаю, что для владельцев важно, по крайней мере, знать, что это может произойти.

Как вы думаете? Дайте нам знать в разделе комментариев ниже.

Источник electrek.co

Ваш адрес email не будет опубликован. Обязательные поля помечены *