Вчені з Великої Британії та США створили квантову нейромережу та довели, що вона здатна до навчання. Дослідникам вдалося визначити, що згорткові нейронні мережі не страждають від проблеми «безплідного плато» і гарантовано навчаються, повідомляє Naked science.
Проблема «безплідного плато» характерна для багатьох архітектур нейромереж. У процесі навчання нейронні мережі рухаються ландшафтом функції втрат, прагнучи виявити нижню точку. Перейшовши на «безплідне плато», вона не відчуває достатнього перепаду висот, і не може визначити, у якому напрямі рухатися.
У новому дослідженні вчені вирішили з'ясувати, чи страждатимуть від цієї проблеми згорткові нейромережі. При їхньому створенні дослідники надихалися будовою зорової кори мозку. Згорткові нейронні мережі складаються з низки шарів з розмірністю, що поступово знижується, які зберігають ключові особливості набору даних. Таку структуру нейромереж використовують для різних завдань — від аналізу зображень до розпізнавання мови.
В результаті вчені довели, що подібні нейромережі несприйнятливі до "безплідного плато", на відміну від інших архітектур нейронних мереж. Вчені припускають, що квантові нейронні мережі, що масштабуються і навчаються, підійдуть для аналізу і моделювання матеріалів з високотемпературною зверхпровідністю, на які одночасно впливають безліч параметрів: температура, тиск, наявність домішок і різниця фаз. Класичним комп'ютерам такі обчислення не під силу.
Підписуйтесь на наш Telegram-канал з новинами технологій та культури.
Раніше компанії Microsoft і NVIDIA об'єднали зусилля та створили найбільший на даний момент штучний інтелект, здатні обробляти та імітувати людську мову. Він включає 530 мільйонів параметрів.