Експерти знайшли помилки в медичних рекомендаціях штучного інтелекту IBM

Експерти-онкологи проаналізували рекомендації, які були складені штучним інтелектом Watson for Oncology для гіпотетичних пацієнтів, і залишилися незадоволені ними. Як повідомляє Naked science, фахівці виявили "численні приклади небезпечних і некоректних рекомендацій з лікування", але вважають, що подібні помилки неминучі при створенні такого масштабного проекту.

З системою Watson for Oncology працювали 230 лікарень та медичних центрів по всьому світу. Алгоритм аналізує дані пацієнта, в тому числі записи лікарів, сімейну історію онкологічних захворювань і результати аналізів, і зіставляє їх з базою даних доступних досліджень. ШІ не замінює лікаря-спеціаліста, але може надати додаткову "думку", якщо кілька експертів дотримуються різних точок зору.

Документи IBM наводять кілька прикладів невірних рішень суперкомп'ютера. Наприклад, у випадку 65-річного пацієнта з раком легенів і сильними кровотечами Watson запропонував застосувати комбінацію хіміотерапії і бевацизумаба - препарату на основі моноклональних антитіл. При цьому відомо, що бевацизумаб може посилювати кровотечі. Рекомендації ШІ не застосовувалися на практиці, оскільки алгоритми знаходяться на стадії тестів.

Експерти припускають, що помилки алгоритму можуть бути пов'язані з тим, що його тестували не на реальних даних пацієнтів, а на штучно створених ситуаціях. Представники IBM підкреслили, що штучний інтелект доопрацьовується з урахуванням рекомендації лікарів, а критичні зауваження дозволять зробити його більш ефективним.

Раніше штучний інтелект виявив ліки від малярії в зубній пасті. У ході дослідження вчені підключили штучний інтелект для аналізу того, як збудник, малярійний плазмодій, взаємодіє з триклозаном, антибіотиком із звичайної "лікувальної" зубної пасти. Цей антибіотик, як пояснюють біологи, пригнічує розмноження бактерій, заважаючи роботі одного з їхніх ключових ферментів, який відповідає за складання жирових молекул, необхідних для нормальної роботи клітинних стінок мікробів.