Министерство обороны опасается взлома автономных транспортных средств

Министерство обороны опасается взлома автономных транспортных средств

Пара автономных транспортных средств «лидер-ведомый» армии США проходит испытания в 2020 году.

Не только элита Силиконовой долины, носящая одежду Patagonia, интересуется автономными транспортными средствами.

Министерство обороны США, некогда первопроходец инкубатор для ранней разработки AV, в настоящее время взаимодействует с ведущими стартапами AV, чтобы представить следующую эру потенциально автономных военных транспортных средств. Хотя представители министерства обороны сообщили Gizmodo о оптимизме министерства в отношении новых технологий, они одновременно обеспокоены потенциальными рисками взлома и кибербезопасности.

Gizmodo присоединился к заместителю министра обороны Кэтлин Хикс и группе официальных лиц, которые наблюдали за презентацией автономного транспортного средства на этой неделе в Национальная ускорительная лаборатория SLAC в Менло-Парке, Калифорния. Когда его спросили о состоянии AV-индустрии сразу после мероприятия, один из специальных помощников Хикса ответил положительно, но сказал, что «все еще есть некоторые проблемы, которые необходимо устранить». По словам чиновника, в первую очередь это были опасения по поводу возможного взлома и безопасности.

Небольшое примечание: этот конкретный производитель автономных автомобилей, который связан с одной из крупнейших в стране технологических компаний и широко известен своими испытаниями на территории SLAC, попросил Gizmodo не упоминать его имя в этой истории.

DSD Хикс, который говорил с неназванным автопроизводителем о кибербезопасности AV во время демонстрации, также подчеркнул потенциальные проблемы безопасности в интервью Gizmodo позже в тот же день.

«Я думаю, это просто показывает вам, как долог этот путь. [autonomous vehicles] заключается даже в коммерческом секторе, чтобы получить всю подготовленную информацию, необходимые данные, среду безопасности, а затем и кибербезопасность».

Эти опасения по поводу безопасности не обязательно необоснованны. Автономные транспортные средства, как и любая другая часть компьютеризированной технологии, по определению в некоторой степени уязвимы для потенциальных злоумышленников. Эти атаки потенциально могут происходить путем обмана камер и датчиков транспортного средства, заставляющих его свернуть на неправильную полосу (как это было ранее). продемонстрировал исследователями Keen Security Labs в 2019 году) или путем поиска уязвимостей в программном обеспечении так же, как и на любом другом компьютере. Буквально в прошлом месяце подросток-исследователь по безопасности по имени Дэвид Коломбо смог удаленно взломать 25 автомобилей Tesla, разбросанных по 13 странам, примерно за час из-за уязвимости в системе безопасности в инструменте ведения журнала с открытым исходным кодом. В этом случае Коломбо смог удаленно завести машину, включить стереосистему и открыть двери, и все это потенциально без ведома владельца автомобиля. В других случаях отчеты показали способность сила автомобиль, мчащийся по шоссе со скоростью 70 миль в час, чтобы остановиться, инициировав эксплойт.

Заместитель госсекретаря Кэтлин Хикс

Заместитель госсекретаря Кэтлин Хикс
Фото: Алекс Вонг (Гетти Изображений)

Как оказалось, не только военные беспокоятся о безопасности АТ. Всего 34% взрослого населения США обследован в новом опросе Morning Consult говорится, что они доверяют технологии беспилотных транспортных средств, и только 9% идут еще дальше и говорят, что доверяют технологии «очень». Третьи просто сказали, что вообще не доверяют этому.

«Чиновники Министерства обороны должны быть обеспокоены взломом AV», Джейн А. Леклер сказал в интервью Gizmodo. Леклер, профессор и главный операционный директор Вашингтонского центра исследований и разработок в области кибербезопасности, также сказал нам, что исследователи, которые уже продемонстрировали свою способность взламывать AV, вероятно, были менее опытными, чем потенциальный военный противник США, стремящийся нанести ущерб. «Многое нужно сделать для обеспечения кибербезопасности AV-систем, — сказал Леклер, — и это должно быть интегрировано в систему, а не добавлено в последнюю очередь».

Разработка AV заняла «дольше, чем я мог себе представить»

В разговоре с Gizmodo Хикс сказала, что, по ее мнению, более продвинутые автономные варианты использования Министерства обороны США ни в коем случае не являются недосягаемыми, но быстро признала текущие ограничения технологии.

«Это более неуловимо, чем я думаю, должно было быть», сказал Хикс. В ближайшем будущем Хикс подчеркнула важность безопасного тестирования автономных систем в конкретных средах.

«Самые простые варианты использования — это случаи, которые находятся в наименее сложных средах и когда у нас есть много данных для создания надежного набора данных и среды, в которой они работают», — сказал Хикс. Она указала на то, что, по ее мнению, важно обучать эти все еще начинающие автономные системы в «относительно безопасных условиях», где можно безопасно собирать данные и делать выводы. Хикс сказал, что всякий раз, когда Министерство обороны ускоряет испытания своих автономных транспортных средств, министерство будет делать это, придерживаясь принципов системы «человек в цикле».

В то время как Пентагон твердо придерживается своего принципа «человек в петле», некоторые генералы и влиятельные лица в политике США в области искусственного интеллекта, такие как бывший генеральный директор Google Эрик Шмидт, призвали этот принцип вопрос. Шмидт, который был поручено Администрация Трампа возглавила Комиссию национальной безопасности по ИИ, недавно написал книгу с Генри Киссинджером, выступающим за менее ограничительный и более ястребиный подход США к ИИ.

«Я могу оценить озабоченность чиновников Министерства обороны США по поводу того, что они склоняются к закрытым зонам тестирования», — сказал Леклер. «Нельзя же, чтобы танк «Абрамс» переехал маму-футболистку в ее минивэне, не так ли!» Шутки в сторону, Леклер признал, что реальные испытания этих систем ИИ в какой-то момент неизбежны, но сказал, что «это может быть немного позже».

Комментируя зрелость AV-индустрии в целом, Хикс сказал, что прогресс занял «больше времени, чем я мог себе представить».

«Пытаясь понять, почему [AV development] продолжает толкать [back]я думаю, что это ключевой вопрос, который, я думаю, волнует многих руководителей высшего звена в отделе».

Представитель министерства обороны сообщил Gizmodo, что министерство также заинтересовано в датчиках и сборе данных, связанных с беспилотными летательными аппаратами. Чиновник сказал, что Министерство обороны следит за автономными разработками таких компаний, как John Deere, которые развитие автономные системы для более внедорожных приложений. Компания John Deere, известная своими культовыми сельскохозяйственными рабочими лошадками с зеленой рамой и гигантскими желтыми колесами, в начале этого года представила полностью автономный трактор, который объединяет систему GPS с 12 камерами, обеспечивающими обнаружение препятствий на 360 градусов.

Теоретически, утверждает компания, фермеры будущего могли бы просто запрограммировать свой трактор и уйти, пока он автономно вспахивает, засевает и опрыскивает поля. Министерство обороны не совсем готово повесить свои танковые пушки для фермеров, но оно видит возможность учиться у частного сектора, чтобы улучшить автономию в суровых условиях бездорожья, с которыми, скорее всего, столкнется военная техника. Другими словами, автономный военный грузовик может иметь больше общего с промышленным трактором, чем с Tesla, едущей по шоссе Сан-Франциско.

Оборонная промышленность тесно связана с автономными технологиями

Сегодняшняя AV-индустрия, скорее всего, не существовала бы, если бы не Министерство обороны США. Словно Интернет а также GPS до этого беспилотные технологии получили огромную поддержку от DARPA, гонзо-исследовательского подразделения Пентагона. Почти два десятилетия назад, в 2004 году, агентство провело свой первый «Большой вызов», которая присудила миллионы призовых денег лоскутным конкурентам, которые смогли разработать автомобили, способные автономно перемещаться на большие расстояния. Ни одна из машин претендентов не смогла пройти 142-мильную трассу DARPA. Тем не менее, вслед за этой задачей агентство поставило еще пару задач, одну в 2005 году, а другую в 2007 году. Все это, как утверждает DARPA, должно было помочь стимулировать инновации в том, что тогда было малоизвестно.

С тех пор все значительно изменилось. AV-технологии ускорились далеко за пределы удаленной пустыни и оказались в центре внимания Силиконовой долины. Alphabet принадлежит УэймоGeneral Motors поддержали Круизи дочерняя компания Intel Мобайл в прошлом году все активизировали автономное тестирование в надежде на то, что в ближайшем будущем появятся настоящие потребительские товары. А еще есть Tesla, которая, несмотря на то, что предлагает сравнительно хуже возможностей без водителя, чем у других конкурентов, усложнил ситуацию, позволив своим Автопилот Бета-тестеры проверят его возможности на дорогах общего пользования, соображения безопасности будь проклят.

Несмотря на годы (и я имею в виду годы) невыполненных обещаний от шарлатанов AV, Леклер говорит, что автомобильная промышленность в 2022 году увидела «значительные достижения в области электрических и автономных транспортных средств». То же самое для ИИ в больших масштабах. Согласно недавно выпущенному Стэнфордским ежегодником Отчет об индексе ИИглобальные частные инвестиции в 2021 году составили 93,5 миллиарда долларов. Это более чем вдвое превышает инвестиции в 2020 году.

военные был занят, слишком. Не соглашаясь на автономию на четырех колесах, DARPA недавно завершенный 30-минутный автономный испытательный полет вертолета UH-60A Black Hawk без человека на борту. Этот автономный полет стал возможен благодаря экспериментальной системе автоматизации работы летного экипажа (ALIAS). Тем временем управляемые ИИ F-16 уже избитый пилоты-люди в симулированных воздушных боях. DARPA даже надеется продемонстрировать четыре Самолеты L-39 с искусственным интеллектом к 2024 году участвовал в воздушном бою над озером Онтарио.

DARPA успешно управляло этим вертолетом без людей.

Тем не менее, все эти тесты — это всего лишь тесты. Ограниченное доказательство концепций — это одно, но взять их и применить к реальной перестрелке — совсем другое. «Автономные устройства демонстрируют большие перспективы в воздухе и на море, — сказал Леклер, — но сложность наземного поля боя — это совершенно другая среда для работы AV. ограничено, но на поле боя ошибка может иметь разрушительные последствия».

Все это либо умопомрачительно круто, либо ужасно страшно, в зависимости от вашего уровня комфорта на будущих полях сражений, наполненных ассортиментом ИИ-брони. В лучшем случае все эти автономные системы могли бы означать меньшее количество солдат, подвергающихся опасности. Несмотря на озвученные опасения, Леклер сказал, что потенциал автономии может стоить того.

«Я полностью за то, чтобы вывести человека из машины и не подвергать наши войска смертельной опасности», — сказал Леклер. «Возможно, Министерству обороны следует сосредоточиться на транспортировке припасов и оборудования с помощью AV… в роли поддержки, пока не на поле боя».


Комментарии

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *