Банковские системы машинного обучения созрели для саботажа

Эксперты предупреждают, что банки и другие финансовые учреждения, использующие искусственный интеллект, могут быть особенно уязвимы для ответных российских кибератак по мере ужесточения налоговых международных санкций.

Эти страхи, освещенные в недавнем Wall Street Journal отчетприходит как Россия война на Украине продолжается уже второй месяц и является беспрецедентным заградительный огонь Международные санкции продолжают подрывать российскую экономику. Глобальные финансовые институты с самого начала играли неотъемлемую роль в режиме санкций. блокировка денежные потоки из некоторых российских банков, отрицание им доступ к международным рынкам, и даже замораживание имущество президента Владимир Путин и видные российские олигархи.

Тем не менее, эксперты опасаются, что быстрое использование этими же учреждениями моделей машинного обучения для автоматизации все большего количества их систем во имя эффективности может вернуться, чтобы укусить их за задницу. Эндрю Берт, бывший политический советник главы киберотдела ФБР, охарактеризовал уязвимости ИИ как «значительные и очень часто упускаемые из виду» во многих финансовых учреждениях, которые стали полагаться на них. «Это огромный неучтенный риск, — сказал Берт.

Так почему именно алгоритмы машинного обучения более уязвимы для атак? Ну, в общем, большинство проблем связано с необходимостью машинного обучения использовать большие объемы данных для улучшения вычислений. Эта реальность делает их особенно восприимчивыми к манипуляция данными атаки. В прошлом исследователи показано Злоумышленник может умышленно «яд” обучающие данные алгоритма, чтобы исказить или повлиять на любые результаты, которые он может выдать.

В то время как вопросы расовый, Пол, и другие предубеждения в алгоритмах ИИ, связанные с ограниченными данными, стали хорошо известны, некоторые исследователи опасаются, что злоумышленники, нацеленные на финансовые учреждения, могут использовать большие объемы предвзятых данных для атаки на алгоритмы финансовой системы, стремящиеся выяснить настроения рынка. Вспомните российские дезинформационные мемы, но применительно к финансовому сектору.

Что еще хуже, согласно с Согласно отчету Джорджтаунского центра безопасности и новых технологий за 2020 год, уязвимости машинного обучения нельзя исправить так же, как и другое программное обеспечение, а это означает, что любые потенциальные атаки могут длиться намного дольше.

«В этих системах скрыты уязвимости, которые отличаются от традиционных недостатков, с которыми у нас есть десятилетия опыта», — говорится в отчете. «Эти уязвимости широко распространены и недороги для использования с использованием инструментов, которые широко распространены и против которых часто мало защиты».

Эти алгоритмы также можно обмануть в режиме реального времени без больших наборов данных. Исследователи из Tencent’с Keen Security Lab, например, продемонстрировал несколько относительно простых методов, которые использовались, чтобы обмануть возможности машинного обучения Tesla еще в 2019 году, сначала обманывая дворники, чтобы они включались, когда они не должны были, а затем используя яркую наклейку на дороге, чтобы убедить Tesla, работающую на автопилоте, дрейфовать в встречную полосу. переулок.

«Я не видел никаких реальных способностей с точки зрения защиты от потока дезинформации», — сказал The Journal основатель Монреальского института этики ИИ Абхишек Гупта. Далее Гупта описал безопасность машинного обучения как «новую» область, наполненную неизвестными. «Когда вы внедряете машинное обучение в любую программную инфраструктуру, это открывает новые поверхности для атак, новые способы искажения поведения системы».

Хотя эти недостатки в системе безопасности вызывают беспокойство даже в лучшие времена, правительственные лидеры, включая президента Байдена, обеспокоены тем, что Россия может использовать кибератаки для нападения на эти учреждения, поскольку санкции продолжают наносить ущерб. В заявлении, опубликованном ранее на этой неделе, Байден посоветовал частным компаниям в США укреплять свои методы обеспечения безопасности, ссылаясь на «появляющиеся данные о том, что российское правительство изучает варианты потенциальных кибератак». Тем временем глобальные банки, как сообщается, усилили мониторинг сети и увеличили отработку потенциальных сценариев кибератак в течение нескольких недель после того, как российские военные начали свое вторжение. Примечания.