Полиция британского региона Эйвон и Сомерсет совместно с мэрией Бристоля более десяти лет тайно тестировала искусственный интеллект для прогнозирования преступлений. Журналистское расследование показало, что алгоритмы постоянно давали сбои, а из-за низкой точности прогнозирования часть программ пришлось незаметно свернуть, сообщает Wired.
Проект запустили ещё в 2014 году. Силовики и местные власти создали базу данных Think Family Database (TFD). Туда сбрасывали личную информацию о жителях: от секретных полицейских досье и медицинских карт до данных о подростковой беременности, бесплатных обедах в школах или проблемах с жильем. Компьютерная система анализировала эти досье и оценивала тысячи взрослых и детей. Нейросети пытались предсказать, станет ли человек преступником, сбежит ли из дома и грозит ли ему насилие в семье. Испытуемые даже не подозревали о такой слежке.
Журналисты через официальные запросы получили доступ к документам и более чем 36 тыс. внутренних отчетов. Эксперты подтвердили, что результатам ИИ нельзя доверять из-за неудовлетворительного качества работы алгоритмов. В результате властям Бристоля пришлось тайно ликвидировать как минимум две модели, которые должны были выявлять риски сексуального насилия над детьми, поскольку их признали непригодными для работы.
Правозащитники предупреждают, что ошибочные выводы программ могут разрушить репутацию и судьбы невиновных людей. Несмотря на провал и критику, британское правительство намерено расширить этот опыт.
В то же время правительство Великобритании продолжает широкомасштабную реформу правоохранительной системы. В частности, страна планирует создать единую Национальную полицейскую службу, которую уже называют британским аналогом ФБР. Министерство внутренних дел страны уже готовит запуск аналогичных инструментов искусственного интеллекта в 43 полицейских подразделениях Англии и Уэльса.