Журналісти викрили таємний експеримент британської поліції зі штучним інтелектом

У Великій Британії розгорівся скандал після того, як журналісти з’ясували, що поліція регіону Ейвон і Сомерсет разом із мерією Бристоля понад десять років таємно тестувала системи штучного інтелекту для прогнозування злочинності, використовуючи конфіденційні персональні дані тисяч громадян. Про це повідомляє Wired, журналісти якого отримали доступ до внутрішніх документів і понад 36 тисяч службових звітів.

Проєкт стартував ще у 2014 році. У його межах було створено базу даних Think Family Database (TFD), до якої надходила інформація з різних державних джерел. Зокрема, система містила поліцейські матеріали, медичні картки, інформацію про підліткові вагітності, отримання безкоштовного харчування у школах, житлові проблеми та інші соціальні відомості. На основі цих даних алгоритми оцінювали ризики для тисяч дорослих і дітей, намагаючись передбачити, чи може людина вчинити злочин, втекти з дому або стати жертвою домашнього насильства. При цьому самі громадяни, за даними розслідування, не знали, що їхні персональні дані використовуються для таких експериментів.

Алгоритми виявилися ненадійними

Аналіз документів показав, що ефективність моделей штучного інтелекту виявилася значно нижчою за очікування.

Експерти, які ознайомилися з матеріалами, дійшли висновку, що алгоритми не забезпечували достатньої точності для ухвалення рішень, а їхні прогнози не можна було вважати надійними. Через це влада Бристоля без публічного розголосу припинила використання щонайменше двох моделей, призначених для прогнозування ризиків сексуального насильства над дітьми. Їх визнали непридатними для практичного застосування.

Правозахисні організації наголошують, що використання недосконалих алгоритмів для оцінювання людей може призводити до серйозних наслідків, зокрема безпідставного потрапляння громадян до груп ризику, погіршення їхньої репутації та помилкових рішень з боку державних органів.

Попри критику та невдалий досвід окремих проєктів, британський уряд не відмовляється від використання штучного інтелекту в правоохоронній сфері. Навпаки, країна продовжує реформу системи безпеки, яка передбачає створення єдиної Національної поліцейської служби — структури, яку вже називають британським аналогом ФБР.