Нейронна мережа Джордана презентация

Машинне навчання та добування даних

Рекурентні нейронні мере́жі
Рекуре́нтні нейро́нні мере́жі — це тип нейронних мереж, в яких є зворотний зв'язок. При цьому під зворотним зв'язком мається на увазі зв'язок від логічно найвіддаленішого елементу до менш віддаленого. Наявність зворотних зв'язків дозволяє запам'ятовувати і відтворювати цілі послідовності реакцій на один стимул.

З точки зору програмування в таких мережах з'являється аналог циклічного виконання, а з точки зору систем — така мережа еквівалентна скінченному автомату. Такі особливості потенційно надають безліч можливостей для моделювання біологічних нейронних мереж. Але, на жаль, більшість можливостей в цей час погано вивчені у зв'язку з можливістю побудови всілякої архітектури і складністю їх аналізу.

Перцептрон Розенблатта
Перші ідеї про нейронні мережі із зворотними зв'язками описав Ф.Розенблатт на закінчення своєї книги про перцептрони в 1962 році.Ф.Розенблатт дав якісний опис декількох видів перцептронів з зворотним зв'язко.Перша група перцептронів була призначена для вироблення вибіркової уваги, а друга для вчення послідовності реакцій.

Нейронна мережа Елмана
Нейронна мережа Елмана — один з видів рекурентних мереж, яка так само як і мережа Джордана отримується з багатошарового перцептрона введенням зворотних зв'язків, тільки зв'язки йдуть не від виходу мережі, а від виходів внутрішніх нейронів. Це дозволяє врахувати передісторію процесів, що спостерігаються і накопичувати інформацію для вироблення правильної стратегії управління. Ці мережі можуть застосовуються в системах управління рухомими об'єктами, тому що їх головною особливістю є запам'ятовування послідовностей.

Нейронна мережа Джордана
Мережа Джордана — вид рекурентних нейронних мереж, яка отримується з багатошарового перцептрону, якщо на його вхід подати крім вхідного вектора вихідний із затримкою на один або кілька тактів.

Нейронна мережа Джордана
У перших рекурентних мережах головною ідеєю було дати мережі бачити свій вихідний образ на попередньому кроці. У такої мережі тільки частина рецепторів приймає сигнали з навколишнього світу, на інші рецептори приходить вихідний образ з попереднього моменту часу. Розглянемо проходження послідовності сигналів через мережу. Сигнал надходить на групу рецепторів сполучених із зовнішнім світом (INPUT) і проходить у прихований шар (HIDDEN). Перетворений прихованим шаром сигнал піде на вихідний шар (OUTPUT) і вийде з мережі, а його копія потрапить на затримку. Далі в мережу, на рецептори, що сприймають зовнішні сигнали, надходить наступний образ, а на контекстну групу рецепторів (CONTEXT) — вихідний образ з попереднього кроку з затримки. Далі з усіх рецепторів сигнал піде в прихований шар, потім на вихідний.