Одурачить Искусственный интеллект – легко!

Эксперимент

В марте прошлого года китайские исследователи доказали, что одурачить искусственный интеллект, в принципе, легко! Они организовали (конечно, в исследовательских целях) атаку на гордость Америки – автомобиль Tesla.

 Команда из лаборатории безопасности китайского технологического гиганта Tencent продемонстрировала несколько способов обмануть алгоритмы ИИ на автомобиле Tesla, нзаметно изменяя данные, поступающие на датчики автомобиля. Сбить автомобиль с толку – оказалось, проще простого, если знать что делать. 

В одном из экспериментов разметка полосы движения на дороге была слегка изменена так, чтобы заставить автономную систему вождения выехать на полосу встречного движения.

Алгоритмы Теслы, как правило, великолепны в обнаружении капель дождя на лобовом стекле или следовании по дорожным дорожкам, но они работают таким образом, который принципиально отличается от человеческого восприятия. Это делает такие алгоритмы «глубокого обучения», которые быстро проникают в различные отрасли для таких приложений, как распознавание лиц и диагностика рака, на удивление уязвимыми, если вы найдете их слабые места.

При чем тут военные? 

«Кто бы ни стал лидером в сфере ИИ, он станет правителем мира» - заявил Путин на одной из конференций. Искусственный интеллект уже давно «рвется» в военную сферу, и каждая страна понимает насколько важно не отставать от остальных. 

В начале этого года США объявили о грандиозной стратегии использования искусственного интеллекта во многих областях вооруженных сил, включая анализ разведки, принятие решений, автономность транспортных средств, логистику и вооружение. Предлагаемый Министерством обороны бюджет на 2020 год выделяет 927 миллионов долларов на ИИ и машинное обучение. 

Инициатива Пентагона по искусственному интеллекту частично обусловлена страхом того, как конкуренты могут использовать эту технологию. В прошлом году тогдашний министр обороны Джим Мэттис направил президенту Дональду Трампу записку с предупреждением о том, что США уже отстают, когда дело доходит до ИИ. И тут есть чего паниковать… 

Однако взлом Тесла показывает, что враг, который знает, как работает алгоритм ИИ, может сделать его бесполезным или даже повернуть его против своих владельцев. Секрет победы в ИИ-войнах может заключаться не в создании самого впечатляющего оружия, а в том, чтобы взломать или «обмануть» программное обеспечение своего противника.

Ракеты, управляемые ИИ, могут быть ослеплены противоборствующими данными и, возможно, даже направлены назад на свои же цели… 

Изучение ИИ повышается во всех странах. Делать шаг назад не намерен никто. И тем для размышлений не мало, вот почему Майкл Канаан, военный эксперт по ИИ заявил: 

«Я действительно думаю, что наступает другой мир. Но именно с ним мы должны бороться с ИИ».

Обратная реакция против военного использования ИИ понятна, но при этом она может упустить из виду общую картину…

Следите за новостями на официальной странице facebook.com/stopextremizm