Несколько крупнейших городов страны полагались на доллары федерального налога для финансирования разработки программного обеспечения, обещающего предсказывать будущую преступность. Так прошло почти десятилетие. Однако впервые агентство, отвечающее за распределение этих средств, признало, что не имеет ни малейшего представления о том, как эти деньги используются.

По словам высокопоставленного чиновника, чиновники Министерства юстиции, которым поручено курировать гранты для государственных и местных правоохранительных органов, не вели «конкретных записей» относительно того, какие агентства использовали основной источник финансирования Министерства юстиции для закупки прогностических полицейских инструментов. Признание последовало за расследованием, проведенным группой законодателей-демократов в апреле 2020 года с целью получения полного списка полицейских управлений, которые тратят деньги федерального гранта на технологии, якобы предназначенные для прогнозирования преступности. Ответ Министерства юстиции, полученный исключительно Gizmodo, не только не дает полного отчета об этих средствах, но и игнорирует многие из основных вопросов, заданных федеральными законодателями.

Например, остается неясным, в какой степени такие инструменты оцениваются или когда-либо оценивались на предмет соответствия законам о гражданских правах. В письме департамента, подписанном ранее в этом году, требования об этих деталях были встречены в значительной степени двусмысленно. По крайней мере, один сенатор США сейчас выражает возмущение по поводу пробелов в знаниях правительства о его работе на деньги налогоплательщиков.

«Если у Министерства юстиции нет лучших ответов, чем этот, Конгрессу следует обсудить, следует ли вообще разрешать эти программы, не говоря уже о том, чтобы финансировать их за счет налогоплательщиков», — сказал Gizmodo сенатор Рон Уайден, демократ от штата Орегон. Все еще требуя ответов, сенатор с января просил о встрече в Министерстве юстиции. Он пока не получил ответа.

Замечания Уайдена прозвучали через четыре месяца после того, как Gizmodo и The Markup завершили более чем годичный спор. изучение в калифорнийскую прогностическую полицейскую фирму PredPol. Расследование было вызвано обнаружением более 7 миллионов прогнозов преступлений летом 2020 года на незащищенном сервере Amazon. Прогнозы охватили десятки городов США, затрагивая каждого 33 жителя США. И хотя ограниченность имеющихся данных о преступности препятствовала анализу истинного влияния PredPol на преступность, исследование выявил продукт, который в большинстве городов предназначался в основном для чернокожих и латиноамериканцев. В большинстве юрисдикций, по которым были доступны данные, самые бедные жители этих районов также подвергались массовым, иногда безжалостным преследованиям. Проще говоря, расследование показало, что чем меньше белых жителей проживает в том или ином районе, тем больше вероятность того, что PredPol предскажет там преступность. (Генеральный директор PredPol Брайан Макдональд оспорил выводы, заявив без объяснения причин, что данные их собственных прогнозов были «ошибочными» и «неполными».)

Инструменты прогнозирования для полиции, которые полагаются на исторические данные о преступлениях, переданные в алгоритмы, разработанные такими компаниями, как Оракул а также IBM— все чаще автоматизируют принятие решений о том, на чем полицейские управления концентрируют патрули. Такие продукты использовались для обозначения не только определенных районов как «горячих точек» преступности, но и специфичные люди как вероятные подозреваемые в преступлениях, которые на тот момент еще не были совершены.

В апреле 2020 года Уайден и другие демократы уведомили генерального прокурора США Меррика Гарланда о том, что они «выросли».глубоко обеспокоеныо неконтролируемом расширении интеллектуального полицейского управления по всей стране. Они запросили информацию о роли отдела и, установив крайний срок примерно через полтора месяца, приложили список соответствующих вопросов. Девять месяцев спустя, когда наконец пришел ответ, они обнаружили, что большинство из них остались без ответа.

В своем письме Гарланду законодатели запросили основные факты о финансировании Министерством юстиции программного обеспечения на основе ИИ. Например, они стремились узнать, какие государственные и местные агентства специально внедрили или продвигали исследования в области прогностических полицейских инструментов с помощью Министерства юстиции. Они стремились узнать, есть ли у Министерства юстиции какие-либо правила, разработанные для обеспечения того, чтобы такие инструменты «проверялись на эффективность, достоверность, надежность и предвзятость».

Письмо в ответ на этот запрос, подписанное исполняющим обязанности помощника генерального прокурора Питером С. Хёном, начинается с неопределенного признания того, что общенациональное использование предиктивной полиции породило «сложные вопросы». Хотя Хюн утверждал, что правительство по-прежнему «непреклонно привержено» защите гражданских прав американцев, когда дело доходит до прогнозирования преступности, эти заверения не произвели впечатления на Уайдена, главного ястреба Капитолийского холма по вопросам конфиденциальности и председателя влиятельного финансового комитета Сената.

Согласно ответу ассистента А. Г. Хёна, федеральное финансирование предиктивной полиции в основном поступает из двух источников. Одна, известная как Программа грантов помощи правосудию в память Эдварда Бирна (JAG), названа в честь полицейского Нью-Йорка. убит в 1988 г., по-видимому, выплачивает гранты на условиях, гораздо менее строгих, чем вторая. JAG, национальный «ведущий источникФинансирование уголовного правосудия, по данным Министерства юстиции, активно не отслеживает, используются ли средства для этой цели.

«У BJA нет конкретных записей, — сказал Хён, — которые подтверждают точное количество грантополучателей и субгрантополучателей в рамках Программы грантов помощи в области правосудия Мемориала Эдварда Бирна (JAG), которые используют предиктивную полицию».

Несмотря на его неблаговидные методы, по крайней мере, некоторое финансирование JAG было потрачено в этой области. Пытаясь решить проблемы законодателей, BJA удалось определить как минимум пять городов США, которые подали заявки на гранты на программы прогнозирования полицейских действий. К ним относятся Беллингем, штат Вашингтон; Темпл и Окала, Флорида; и Альгамбра и Фремонт, Калифорния. В случае с Темпл, как писал Хён, финансирование JAG было потрачено на программу прогнозирования, предназначенную для «выявления целей для вмешательства полиции».

В пяти городах суммы грантов варьировались от 12 805 до 774 808 долларов, при этом Хён описал последний как применение «программного решения для прогнозной аналитики», которое он назвал «PEN Registers». (Сразу не ясно, действительно ли это название реального предиктивного полицейского инструмента; «ручка регистр” — это название полицейского устройства, используемого для идентификации телефонных номеров, набранных с определенного телефона.)

В отличие от грантов JAG, второй источник финансирования, указанный Хёном, — конкурсная программа грантов, проводимая Бюро содействия правосудию (BJA), известная как Smart Policing Initiative (SPI), — как сообщается, удерживает получателей на более высоком уровне. Утверждается, что положения о финансировании включают, например, проверку того, действительно ли одобренные проекты достигают намеченных результатов. По словам Хёна, проекты, финансируемые SPI, в том числе полицейские инициативы по прогнозированию в Лос-Анджелесе, Чикаго и Батон-Роуг, дополнительно оцениваются исследователями, которым поручено оценить их влияние на гражданские права.

В электронном письме Уайден сказал, что неспособность членов Конгресса получить больше информации о деятельности правительства должна потребовать дальнейшего ответа. Возможно, он предположил, что Конгрессу даже пора взвесить запрет на эту технологию, в отношении которой группы по защите гражданских прав уже давно относятся с подозрением.

«К сожалению, — сказал Уайден, — Министерство юстиции предпочло не отвечать на большинство моих вопросов о федеральном финансировании полицейских программ прогнозирования». Его запрос в Министерство юстиции поддержали шесть коллег-демократов — сенаторы Эд Марки от Массачусетса, Алекс Падилла от Калифорнии, Рафаэль Уорнок от Джорджии и Джефф Меркли от Орегона, а также представители. Иветт Кларк из Нью-Йорка и Шелия Джексон Ли из Техаса.

Обращаясь в Министерство юстиции, Уайден и его коллеги заявили, что, по их мнению, алгоритмы, используемые для автоматизации принятия полицейскими решений, пострадали от отсутствия значимого надзора и заработали репутацию среди некоторых экспертов за усиление расовых предубеждений, которые уже давно пронизывают американские полицейские силы. По их словам, они были обеспокоены тем, что по крайней мере некоторые из коммерческих продуктов, обещающих предсказывать преступления, едва оправдывают свое название: аудиты не нашли «никаких доказательств того, что они эффективны в предотвращении преступлений», — заявили они.

Более того, законодатели написали, что алгоритмы прогнозирования могут даже «приравниваться к нарушениям конституционных прав граждан на равную защиту и надлежащую правовую процедуру в соответствии с законом». основное требование справедливого судебного разбирательства в Соединенных Штатах.

Ан внутренняя оценка Департамент полиции Лос-Анджелеса в 2019 году обнаружил, что полицейские стратегии, основанные на инструментах, управляемых ИИ, не имеют достаточного контроля и «часто отклоняются от заявленных целей». За последнее десятилетие полиция Лос-Анджелеса использовала ряд инструментов прогнозирования, используемых не только для прогнозирования мест предполагаемого совершения преступлений, но и для создания имен жителей Лос-Анджелеса, которые на основе собранных данных предположительно совершат преступления в будущем.

Некоторое программное обеспечение создано по образцу наихудшего поведения полицейских управлений. Исследование 2019 года, опубликованное Нью-Йоркским университетом, показало, что девять полицейских агентств предоставили данные о программном обеспечении. генерируется «в периоды, когда было обнаружено, что отдел причастен к различным формам незаконной и предвзятой полицейской практики». Те же исследователи отметили, что они наблюдали «незначительные попытки полицейских управлений или поставщиков прогностических систем адекватно оценить, смягчить или предоставить гарантии».

В своем письме Вайдену помощник А. Г. Хён отметил, что Министерство юстиции ранее два симпозиума для обсуждения предиктивной полиции, один в 2009 году и другой в 2010 году, и профинансировал разработку справочник для агентств, заинтересованных в интеллектуальном полицейском управлении, выпущенном в 2013 году корпорацией RAND.

И RAND, и эксперты, принимавшие участие в симпозиумах, предсказали проблемы, с которыми технология столкнется почти десять лет назад. Участники симпозиума отметили, например, что американская полиция «богатая история» из проблем, связанных с конфиденциальностью, которые «еще не решены». Тем временем РЭНД отметил, что партнерство полиции с частными компаниями может позволить правоохранительным органам обойти конституционные гарантии против сбора личных данных, написав: «Четвертая поправка практически не обеспечивает защиты данных, которые хранятся третьими лицами». По словам РЭНД, очень немногие отделы, использующие инструменты прогнозирования, фактически оценили «эффективность прогнозов» или «вмешательства, разработанные в ответ на их прогнозы».

Несмотря на то, что Хён признал, что Министерство юстиции финансировало инструменты прогнозирования, используемые для подозрения конкретных лиц, руководство, включенное в его письмо, по-видимому, предостерегает от этого, заявляя, что «меньше проблем» возникнет из-за целей, основанных на местоположении.