Журналисты разоблачили тайный эксперимент британской полиции с искусственным интеллектом

В Великобритании разгорелся скандал после того, как журналисты выяснили, что полиция региона Эйвон и Сомерсет вместе с мэрией Бристоля более десяти лет тайно тестировала системы искусственного интеллекта для прогнозирования преступности, используя конфиденциальные персональные данные тысяч граждан. Об этом сообщает Wired, журналисты которого получили доступ к внутренним документам и более 36 тысяч служебных отчетов.

Проект стартовал еще в 2014 году. В его рамках была создана база данных Think Family Database (TFD), в которую поступала информация из разных государственных источников. В частности, система содержала полицейские материалы, медицинские карточки, информацию о подростковых беременностях, получение бесплатного питания в школах, жилищные проблемы и другие социальные сведения. На основе этих данных алгоритмы оценивали риски для тысяч взрослых и детей, пытаясь предсказать, может ли человек совершить преступление, сбежать из дома или стать жертвой домашнего насилия. При этом сами граждане по данным расследования не знали, что их персональные данные используются для таких экспериментов.

Алгоритмы оказались ненадежными

Анализ документов показал, что эффективность моделей искусственного интеллекта оказалась значительно ниже ожиданий.

Эксперты, ознакомившиеся с материалами, пришли к выводу, что алгоритмы не обеспечивали достаточной точности для принятия решений, а их прогнозы нельзя было считать надежными. Из-за этого власти Бристоля без публичной огласки прекратили использование по меньшей мере двух моделей, предназначенных для прогнозирования рисков сексуального насилия над детьми. Их сочли непригодными для практического применения.

Правозащитные организации отмечают, что использование несовершенных алгоритмов для оценки людей может приводить к серьезным последствиям, в частности, безосновательному попаданию граждан в группы риска, ухудшению их репутации и ошибочным решениям со стороны государственных органов.

Несмотря на критику и неудачный опыт отдельных проектов, британское правительство не отказывается использовать искусственный интеллект в правоохранительной сфере. Напротив, страна продолжает реформу системы безопасности, которая предусматривает создание единой Национальной полицейской службы – структуры, которую уже называют британским аналогом ФБР.