Пристрій двонаправленої асоціативної пам’яті

Пристрій двонаправленої асоціативної пам’яті, що складається з двох сенсорних шарів нейронів, який відрізняється тим, що в нього уведені два керуючі нейрони, перший з яких зв’язаний вихідними зв’язками з керуючими нейронами першого модуля, а другий зв’язаний аналогічними вихідними зв’язками з керуючими нейронами другого модуля, також обидва керуючих нейрони зв’язані вхідними зв’язками з усіма нейронами в проміжному шарі, елементи якого зв’язані парами двонаправлених зважених зв’язків з відповідними їм елементами розпізнавальних шарів двох однотипних паралельно працюючих модулів, кожний з яких являє собою дискретну нейронну мережу адаптивної резонансної теорії, що містять у собі шари інтерфейсних елементів, нейрони яких пов’язані з U 2 (19) 1 3 18624 4 тів, керуючий вхід яких, є першим керуючим вхозбудливими й гальмуючими зв’язками з усіма еледом пристрою, і вихід яких - з’єднаний з першим ментами сенсорних, інтерфейсних і розпізнавальвходом блоку обробки даних, другий вхід якого, них шарів, і керуючі нейрони, які зв’язані збудлиз’єднаний з виходом блоку пам’яті слів, а також вими й гальмуючими зв’язками з усіма блок пам’яті асоціативних зображень, перший вхід елементами сенсорних, інтерфейсних і розпізнаякого з’єднаний з виходом блоку обробки даних, вальних шарів, а також з відповідними керуючими другий вхід з’єднаний з першим виходом блоку нейронами, які в свою чергу зв’язані з усіма нейкерування, а третій вхід з’єднаний із другим вихоронами в проміжному шарі елементів нейронної дом блоку керування, із входом блоку пам’яті слів і мережі. У результаті додавання в структуру нейгрупою входів блоків пам’яті сюжетів, при цьому ронної мережі перерахованих вище елементів керуючий вхід блоку керування є другим керуючим досягається можливість донавчання двунаправлевходом пристрою [2]. ної асоціативної пам’яті в процесі її функціонуванПри порівнянні з першим аналогом пристрій ня. Це стає можливим завдяки тому, що нейронні формування асоціативних зображень не накладує мережі адаптивної резонансної теорії відносять ніяких обмежень на форму вхідних зображень. вхідне зображення до одного з відомих класів зоОднак розглянутий пристрій не в змозі здійснити бражень, якщо воно в достатній мірі подібно або двостороннє відновлення асоціацій з пам’яті. резонує із прототипом цього класу. Якщо знайдеНайбільш близьким до заявленого пристрою є ний прототип з певною точністю, що задається пристрій нейронної мережі, що одержала назву спеціальним параметром подібності, відповідає двонаправленої асоціативної пам’яті й складаєтьвхідному зображенню, то в режимі навчання він ся з двох сенсорних шарів елементів, нейрони модифікується, щоб стати більше схожим на яких зв’язані між собою парами зважених двунаппред’явлене зображення, а в режимі розпізнаванравлених зв’язків з відповідними ваговими коефіня залишається в активному стані відповідний цієнтами [3]. нейрон, що розпізнає. Коли вхідне зображення При порівнянні з відомими аналогами пристрій недостатньо подібно жодному з наявних прототи- прототип (двунаправлена асоціативна пам’ять) пів, то на його основі й у режимі навчання, й у рездатен здійснювати двостороннє відновлення асожимі розпізнавання створюється прототип нового ціацій з пам’яті пристрою (нейронної мережі) і має класу. Це можливо завдяки наявності в мережі більш широкі функціональні можливості при роботі великої кількості надлишкових нейронів, які не з асоціаціями. Однак у розглянутого прототипу використовуються доти, поки в цьому немає потвідсутня можливість виділення нових образів від реби. Отже, нові образи можуть запам’ятовуватись перекручених або зашумлених відомих образів, а мережею без перекручування вже запомненої ратакож відсутня можливість донавчання у процесі ніше інформації. Крім того, нейронні мережі адапйого функціонування. Це пов’язане з тим, що зативної резонансної теорії відрізняються здатністю пам’ятовування нових асоціацій вимагає процесу відокремлювати нові образи від перекручених або повного перенавчання ваг зв’язків даного призашумлених відомих образів. строю. Винахід ілюструється рисунком (Фіг.1) на якоТаким чином, недоліком прототипу є те, що він му наведена схема пристрою двунаправленої асоне в змозі донавчатись в процесі свого функціонуціативної пам’яті розробленої на основі дискретвання й не здатний відокремлювати нові образи них нейронних мереж адаптивної резонансної від перекручених або зашумлених відомих образів. теорії. Завдання корисної моделі - розробка приВинахід складається із двох додаткових керустрою двунаправленої асоціативної пам’яті, що ючих нейронів G1 , G2 і проміжного шару нейроволодіє можливістю донавчання в процесі свого 3 3 функціонування й здатністю відокремлювати нові нів Pd(d=1,...,m), елементи якого зв’язані парами образи від перекручених або зашумлених відомих двунаправлених зважених зв’язків H1 , Q1 i образів. jd gd Завдання вирішується завдяки тому, що приH2 , Q2 (j=1; d=1,…,m; g=1,…,m), з відповідними стрій двонаправленої асоціативної пам’яті перебуdj dg довується шляхом введення в його структуру двох 2 модулів на основі дискретних нейронних мереж їм елементами розпізнавальних шарів Y1 и Yg j адаптивної резонансної теорії (APT) і проміжного (j=1,...,m; g=1,...,m), двох однотипних паралельно шару нейронів, елементи якого зв’язані парами працюючих модулів, кожний з яких являє собою двонаправлених зважених зв’язків з відповідними дискретну нейронну мережу АРТ-1. Кожний моїм елементами розпізнавальних шарів, двох однодуль асоціативної нейронної мережі містить у собі типних паралельно працюючих модулів, кожний з яких являє собою дискретну нейронну мережу шари інтерфейсних елементів Z1 и Z2 (і=1,...,n; l i адаптивної резонансної теорії, що містить у собі l=1,...,k), нейрони яких зв’язані з відповідними їм шари інтерфейсних елементів, нейрони яких зв’язані з відповідними їм елементами сенсорних елементами сенсорних шарів S1 и S2 (і=1,...,n; l i шарів парами бінарних двунаправлених зв’язків, l=1,...,k), парами бінарних двунаправлених зв’язків, розпізнавальні шари елементів, нейрони яких 2 зв’язані з кожним з елементів у відповідним їм іншари розпізнавальних елементів Y1 и Yg j терфейсних шарах парами двонаправлених зважених зв’язків з безперервними ваговими коефіці(j=l,...,m; g=1,...,m), нейрони яких зв’язані з кожним єнтами, вирішуючі нейрони, які зв’язані 5 18624 6 гого модуля нейронної мережі; з елементів у відповідним їм інтерфейсних Z1 и i Uвх.Z1 , Uвх.Z2 (i=1,...,n; д=l,...,k) - вхідні сигнали i l 2 (і=1,...,n; l=1,...,k) шарах парами двунаправлеZ елементів інтерфейсного шару відповідно першого l й другого модуля нейронної мережі; них зважених зв’язків з безперервними ваговими Uвых.Z1 , Uвых.Z2 (i=1,...,n; l=l,...,k) - вихідні сигi l коефіцієнтами W1 , W 2 й V1 , V 2 (і=1,...,n; ij ji lg gl нали елементів інтерфейсного шару відповідно першого й другого модуля нейронної мережі; j=l,...,m; l=1,...,k; g=1,...,m), відповідно першого й другого модулів нейронної мережі. Також до скла(S1, S2 ), (S1 , S2 ), ...( S1 , S2 ) - пари асоціативних q q 1 1 2 2 ду модулів на основі дискретних нейронних мереж зображень, які запам’ятовуються обома модулями APT входять керуючі нейрони G1 , G1 , G2 , G2 й нейронної мережі; 2 1 2 1 вирішуючі нейрони R1 та R2 , які зв’язані збудли2 2 S1 (S1 , , Srn ), Sr (S2 ,...S2 ) , r=l,...,q - бінаr r1 r1 rk вими й гальмуючими зв’язками з усіма елементарні вхідні вектора r-й пари асоціативних зображень 1 й S2 (і=1,...,n; l=1,...,k), інтерми сенсорних S відповідно для першого й другого модуля нейронl i ної мережі; 1 и Z2 фейсних Z (і=1,...,n; l=1,...,k) та l i X - норма вектора X; 1 и Y2 (j=1,...,m; Pt(t=1,...,m) - нейрони проміжного шару, які розпізнавальних шарів Y g j зв’язують два модулі асоціативної нейронної меg=1,...,m) асоціативної нейронної мережі. режі; Пристрій двунаправленої асоціативної пам’яті, H1 , Q1 (j=1,...,m; t=1,...,m) - ваги зв’язку від функціонує відповідно до двох алгоритмів: наjt jt вчання й розпізнавання. елементів розпізнавального шару, до елементів В алгоритмах прийняті наступні позначення: проміжного шару відповідно першого й другого m - максимальне число пар асоціативних зомодуля нейронної мережі; бражень; n - число бінарних компонентів у вхідному векH2 , Q2 (j=1,…,m; t=l,...,m) - ваги зв’язку від tj tj торі першого модуля; елементів проміжного шару до елементів розпіk - число бінарних компонентів у вхідному векзнавального шару, відповідно першого й другого торі другого модуля; модуля нейронної мережі. L - константа, що перевершує одиницю, що Алгоритм навчання двунаправленої асоціатирекомендується значення: L=2; вної пам’яті, припускає виконання наступних кроp1, р2 - параметри подібності між вхідним векків: тором і вектором, що зберігається у вагах зв’язків Крок 1. Ініціюються параметри L, р1, р2 і ваги нейрона, що переміг, відповідно першого й другого модуля мережі; діапазон припустимих значень зв’язків , W1 , W 2 , V1 , и V2 (i=1,...,n; j=l,...,m; ij ji jl lj параметрів: 0