ИИ научился выявлять риск домашнего насилия за несколько лет до обращения за помощью

Ученые разработали систему искусственного интеллекта, которая может помочь врачам выявлять риск насилия со стороны интимного партнера еще до того, как жертвы обратятся за помощью. Алгоритм анализирует медицинские данные пациентов и находит закономерности травм, характерные для случаев домашнего насилия, сообщает EuroNews.

Исследователи из США создали инструмент искусственного интеллекта, который помогает врачам идентифицировать пациентов с повышенным риском физического или психологического насилия со стороны бывшего или настоящего партнера. Технология использует данные, собранные во время обычных посещений больницы, чтобы выявлять скрытые закономерности травм.

Насилие со стороны интимного партнера может приводить к серьезным травмам, хронической боли и психическим расстройствам. В больницах обычно применяют прямые вопросы к пациентам об их безопасности дома, однако многие жертвы не раскрывают фактов насилия из-за страха, стереотипов или соображений безопасности.

ВАС ЗАИНТЕРЕСУЕТ

Песня романтизирует насилие: активисты призывают дисквалифицировать Румынию с "Евровидения"

Чтобы проверить эффективность технологии, ученые использовали медицинские записи почти 850 женщин, переживших насилие со стороны партнера, а также более 5200 пациенток аналогичного возраста из контрольной группы. На основе этих данных они создали три различные системы искусственного интеллекта. Результаты исследования опубликовали в журнале Nature.

Первая модель анализировала структурированные медицинские данные, в частности возраст и историю болезни. Вторая работала с текстовыми медицинскими заметками врачей и радиологическими отчетами, а третья сочетала оба типа информации. Лучший результат показала комбинированная система, которая правильно определила риск насилия в 88% случаев.

Алгоритм также смог выявлять потенциальные случаи насилия более чем за три года до того, как пациентки позже попадали в больничные программы помощи пострадавшим от домашнего насилия. Система анализирует большие массивы медицинских данных и находит характерные сочетания травм, которые могут свидетельствовать о риске.

ВАС ЗАИНТЕРЕСУЕТ

От борьбы с одиночеством до психоза: может ли быть длительное общение с ИИ полезным

Исследователи подчеркивают, что система не заменяет врачей и не ставит диагнозов. Она лишь сигнализирует о возможном риске, чтобы медики могли осторожно затронуть тему и предложить поддержку.

В будущем ученые планируют интегрировать технологию в электронные системы медицинских записей. Это позволит больницам получать автоматические оценки риска во время обычных медицинских осмотров.

В то же время исследование Центра противодействия цифровой ненависти (CCDH) показало, что популярные ИИ-модели в 75% случаев поддерживали сценарии насильственных нападений, предоставляя подробные советы по оружию и тактике атак. Несмотря на то, что Claude и My AI последовательно отказывали в помощи, системы ChatGPT и Gemini иногда генерировали опасный контент, что заставило разработчиков срочно усиливать протоколы безопасности.