Пристрій аналогової двонаправленої асоціативної пам’яті

Пристрій аналогової двонаправленої асоціативної пам'яті, створений на основі нейронних мереж адаптивної резонансної теорії (APT), що складається із двох сенсорних шарів нейронів, проміжного шару нейронів, елементи якого зв'язані парами бінарних двонаправлених зважених зв'язків з усіма елементами шару загальних вирішальних нейронів двох модулів, до складу першого з яких входять два паралельно працюючі підмодулі, зв'язані один з одним однонаправленими зв'язками, і являє собою модифіковану безперервну нейронну мережу АРТ-2, що включає в себе шар інтерфейсних елементів, нейрони якого зв'язані з відповідними їм елементами сенсорного шару нейронів модуля парами двонаправлених зв'язків з безперервними ваговими коефіцієнтами, шар елементів, що розпізнають, нейрони якого зв'язані бінарними однонаправленими зв'язками з відповідними їм розпізнавальними нейронами другого підмодуля нейронної мережі, з кожним з елементів інтерфейсного шару підмодуля парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами та з відповідними їм загальними розпізнавальними нейронами модуля безперервної нейронної мережі парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішальний нейрон, який зв'язаний збудливими та гальмівними бінарними односпрямованими зв'язками з усіма елементами інтерфейсного шару нейронів й з усіма елементами шару нейронів, що розпізнають, та загальним вирішальним нейроном модуля, що у свою чергу зв'язаний бінарними однонаправленими вихідними зв'язками з усіма елементами загального розпі 2 (19) 1 3 Корисна модель відноситься до обчислювальної техніки, зокрема до області побудови інтелектуальних автоматизованих систем керування, а саме до напрямку створення систем діагностики складних технічних об'єктів у процесі їхньої експлуатації. Корисна модель може бути використане при побудові системи керування або діагностики такого складного технічного об'єкта як трифазний асинхронний тяговий електропривод. Відомий пристрій двонаправленої асоціативної пам'яті, що складається із двох сенсорних шарів, нейрони яких зв'язані між собою парами зважених двонаправлених зв'язків з відповідними ваговими коефіцієнтами [1]. Недоліками відомого пристрою є, з одного боку, відсутність можливості відділення нових образів від спотворених або зашумлених відомих образів, а, з іншого боку, відсутність можливості донавчання пристрою в процесі його функціонування. Це пов'язано, в першу чергу, з тим, що запам'ятовування нових асоціацій вимагає процесу повного перенавчання всіх вагових коефіцієнтів даного пристрою. Відомий пристрій двонаправленої асоціативної пам'яті, створеної на основі дискретних нейронних мереж адаптивної резонансної теорії, складається з двох сенсорних шарів нейронів та двох керуючих нейронів, які зв'язані вихідними зв'язками з керуючими нейронами відповідних модулів та вхідними зв'язками з усіма нейронами в проміжному шарі, елементи якого зв'язані парами двунаправлених зважених зв'язків з відповідними їм елементами розпізнавальних шарів двох однотипних паралельно працюючих модулів, кожний з яких являє собою дискретну нейронну мережу адаптивної резонансної теорії, що містить у собі шари інтерфейсних елементів, нейрони яких пов'язані з відповідними їм елементами сенсорних шарів парами бінарних двунаправлених зв'язків, шари розпізнавальних елементів, нейрони яких пов'язані з кожним з елементів у відповідним їм інтерфейсних шарах парами двунаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішуючи нейрони, які зв'язані збудливими вхідними зв'язками з усіма елементами сенсорних шарів, гальмуючими вхідними зв'язками з усіма елементами інтерфейсних шарів та збудливими вихідними зв'язками з усіма елементами розпізнавальних шарів й керуючи нейрони модулів, які зв'язані збудливими вхідними зв'язками з усіма елементами сенсорних шарів, збудливими вихідними зв'язками з усіма елементами інтерфейсних шарів та гальмуючими вхідними зв'язками з усіма елементами розпізнавальних шарів, а також зв'язані вхідними зв'язками з відповідними керуючими нейронами мережі [2]. При порівнянні з першим аналогом пристрій двонаправленої асоціативної пам'яті має можливість донавчання в процесі свого функціонування та здатен відокремлювати нові образи від спотворених або зашумлених відомих образів. Однак у 47481 4 розглянутого аналога відсутня можливість запам'ятовування й відновлення з пам'яті пристрою асоціативних зображень, які представлені у вигляді векторів з безперервними складовими. Найбільш близьким до заявленого пристрою є пристрій двонаправленої аналого-дискретної асоціативної пам'яті, створений на основі нейронних мереж адаптивної резонансної теорії (APT), що складається із двох сенсорних шарів нейронів, проміжного шару нейронів, елементи якого зв'язані парами бінарних двонаправлених зважених зв'язків з усіма елементами шару загальних вирішальних нейронів одного модуля та з усіма елементами розпізнавального шару, іншого модуля, що являє собою дискретну нейронну мережу АРТ-1 та включає в себе шар інтерфейсних елементів, нейрони якого пов'язані з відповідними їм елементами сенсорного шару модуля парами двонаправлених зважених зв'язків с бінарними ваговими коефіцієнтами, шар розпізнавальних елементів, нейрони якого пов'язані з кожним з елементів в інтерфейсному шарі парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішальний нейрон, який зв'язаний збудливими й гальмівними зв'язками з усіма елементами сенсорного, інтерфейсного та розпізнавального шарів і два керуючі нейрони, один із яких зв'язаний збудливими й гальмуючими зв'язками з усіма елементами сенсорного, інтерфейсного та розпізнавального шарів, а інший, зв'язаний збудливими й гальмівними зв'язками з усіма елементами сенсорного та розпізнавального шару нейронів, а так само з керуючим нейроном усього модуля, що у свою чергу зв'язаний вхідними зв'язками з усіма нейронами в проміжному шарі елементів нейронної мережі, та відрізняющийся тим, що в нього введені два однотипних паралельно працюючих підмодуля, розпізнавальні нейрони яких, зв'язані один з одним бінарними однонаправленими зв'язками, та представляючих собою модифіковані безперервні нейронні мережі АРТ-2, кожна з яких містить у собі шар інтерфейсних елементів, нейрони якого пов'язані з відповідними їм елементами сенсорного шару нейронів модуля парами двонаправлених зв'язків з безперервними ваговими коефіцієнтами, шар розпізнавальних елементів, нейрони якого зв'язані бінарними однонаправленими зв'язками з відповідними їм розпізнавальними нейронами, іншого підмодуля нейронної мережі, з кожним з елементів інтерфейсного шару підмодуля парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами та з відповідними їм загальними розпізнавальними нейронами, модуля безперервної нейронної мережі парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішальний нейрон, який зв'язаний збудливими й гальмівними бінарними однонаправленими зв'язками з усіма елементами інтерфейсного та розпізнавального шарів підмодуля й загальним вирішальним нейронам модуля, що в свою чергу зв'язаний бінарними однонаправленими вихідними зв'язками з усіма 5 елементами загального розпізнавального шару нейронів модуля нейронної мережі, а також, нормуючий нейрон, що зв'язаний безперервними однонаправленими вихідними зв'язками з усіма елементами інтерфейсного шару нейронів підмодуля нейронної мережі й безперервними однонаправленими вхідними зв'язками з усіма елементами сенсорного шару нейронів паралельно працюючого модуля аналогово-дискретної нейронної мережі [3]. При порівнянні з відомими аналогами пристрій - прототип (двонаправлена аналого-дискретна асоціативна пам'ять) має можливість донавчання в процесі свого функціонування та здатен відокремлювати нові образи від спотворених або зашумлених відомих образів, а також має можливість запам'ятовування у своїй пам'яті зображень, представлених у вигляді векторів з бінарними складовими й ставити їм в асоціацію зображення, представлені у вигляді векторів з безперервними складовими. Однак у розглянутого прототипу відсутня можливість запам'ятовування й відновлення з пам'яті пристрою асоціативних зображень, які представлені тільки у вигляді векторів з безперервними складовими. Таким чином, недоліком прототипу є те, що він не в змозі запам'ятовувати й відновлювати з пам'яті пристрою асоціативні зображення, які представлені тільки у вигляді векторів з безперервними складовими. Завдання корисної моделі є розробка пристрою аналогової двонаправленої асоціативної пам'яті, що володіє можливістю запам'ятовування й відновлення з пам'яті нейронної мережі асоціативних зображень, які представлені тільки у вигляді векторів з безперервними складовими. Завдання вирішується завдяки тому, що пристрій аналогової двонаправленої асоціативної пам'яті змінюється шляхомвведення в його структуру двох однотипних паралельно працюючих підмодулів, зв'язаних один з одним бінарними однонаправленими зв'язками, які являють собою модифіковані безперервні нейронні мережі АРТ-2, кожна з яких містить у собі шар інтерфейсних елементів, нейрони якого пов'язані з відповідними їм елементами сенсорного шару нейронів модуля парами двонаправлених зв'язків з безперервними ваговими коефіцієнтами, шар елементів, що розпізнають, нейрони якого зв'язані бінарними однонаправленими зв'язками з відповідними їм розпізнавальними нейронами іншого підмодуля нейронної мережі, з кожним з елементів інтерфейсного шару підмодуля парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами та з відповідними їм загальними розпізнавальними нейронами модуля безперервної нейронної мережі парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішальний нейрон, що зв'язаний збудливими й гальмівними бінарними однонаправленими зв'язками з усіма елементами інтерфейсного шару нейронів й шару нейронів, що розпізнають, та загальним вирішальним нейронам модуля, що у свою чергу зв'язаний бінарними однонаправленими вихідними зв'язками з усіма елементами загального розпізнавального 47481 6 шару нейронів модуля нейронної мережі, а також нормуючий нейрон, що зв'язаний безперервними однонаправленими вихідними зв'язками з усіма елементами інтерфейсного шару нейронів підмодуля нейронної мережі й безперервними однонаправленими вхідними зв'язками з усіма елементами сенсорного шару нейронів паралельно працюючого модуля безперервної нейронної мережі. У результаті додавання в структуру нейронної мережі перерахованих вище елементів досягається можливість роботи пристрою із зображеннями, які представляються у вигляді векторів з безперервними складовими. Це стає можливим завдяки тому, що використані при побудові пристрої безперервні нейронні мережі АРТ-2Д орієнтовані на роботу із зображеннями, які представлені тільки у вигляді векторів з безперервними складовими. Корисна модель ілюструється рисунком (Фіг.1), на якому наведена схема пристрою аналогової двонаправленої асоціативної пам'яті, розробленої на основі штучних нейронних мереж АРТ-2Д. Корисна модель складається із двох паралельно працюючих модулів М1, М2, кожний з яких являє собою нейронну мережу АРТ-2Д. До складу модулів М1 і М2 входять сенсорні шари елементів, відповідно S1i и S2l (і =1,..., n; l = 1,...,k), які приймають пари асоціативних вхідних зображень (S11, S12),(S21,S22),...,(S1q,S2q). Елементи сенсорних Sшарів модулів М1 і М2 передають вхідні зображення інтерфейсним нейронам Z1i,Z2i, i Z3l, Z4l (і =1,...,n; l=1,..., k), відповідно підмодулів М11, М12 і М21, М22 нейронної мережі. Елементи інтерфейсних шарів Z1i,Z2i, i Z3l, Z4l (і =1,...,n; l=1,..., k) пов'язані з елементами розпізнавальних шарів Yl,Y2 і YЗ,Y4 (j = 1,..., m; g = 1,..., m), відповідно підмодулів М11, М12 і М21, М22 нейронної мережі. З'єднання між елементами інтерфейсних та розпізнавальних шарів, здійснюється зваженими зв'язками з ваговими коефіцієнтами b1ij, b2ij, b3lg, b4lg, t1ji, t2ji, t3gl, t4gl, (i = 1,..., n; j = 1,..., m; l = 1,..., k; g = 1,..., m), відповідно для підмодулів М11, М12, М21, М22 нейронної мережі. У підмодулях М11, М12 і М21, М22 шари Y1j, Y2j i Y3g,Y4g (j = 1,..., m; g = 1,..., m) є шарами нейронів, що змагаються, у яких кожний елемент може перебувати в одному із трьох станів: активному, неактивному, загальмованому. У результаті розпізнавання вхідних зображень у підмодулях М11 і М21 нейронної мережі залишається активним тільки один нейрон розпізнавального шару Y1J та Y3G у відповідним їм шарах Y1j та Y3g (j = 1,..., m; g = 1,..., m). При цьому в режимі розпізнавання нейрони Y2J і Y4G підмодулів М12 і М22 виділяються за допомогою сигналів нейронів Y1J та Y3G підмодулів М11 і М21. За допомогою вирішальних нейронів R11, R12 і R21, R22 визначаються параметри подібності р11, р12 и р21, р22, відповідно для підмодулів М11, М12 і М21, М22 нейронної мережі, а за допомогою нейронів R1 і R2, які входять до складу модулів М1 і М2, визначаються загальні параметри подібностей р1 і р2. Двонаправлена асоціативна пам'ять, яка побудована на нейронних мережах АРТ-2Д, орієнтована на роботу з безперервними вхідними зображеннями, тому всі ваги зв'язків b1ij, b2ij, b3lg, b4lg, t1ji, t2ji, t3gl, t4gl, (i = 1,..., n; j = 1,..., m; l = 1,..., k; g = 1,..., 7 m) підмодулів М11, М12 і М21, М22 нейронної мережі є безперервними. Архітектуру мережі, крім модулів М1 і М2 на основі нейронних мереж АРТ-2Д, визначає шар проміжних нейронів Pd (d = 1,..., m), що зв'язує модулі М1 й М2 нейронної мережі. На етапі навчання модулі М1 й М2 нейронної мережі будуть запам'ятовувати пари асоціативних зображень. При цьому поряд із установленням значень ваг зв'язків усередині кожного з модулів, будуть установлюватися і матриці вагових коефіцієнтів проміжного шару нейронів Pd (d = 1,..., m), який зв'язує модулі М1 й М2 нейронної мережі. На основі цих вагових коефіцієнтів буде здійснюватися асоціативний зв'язок між запам'ятованими зображеннями двох модулів. Процес навчання нової нейронної мережі вважається закінченим, коли по закінченню чергової епохи навчання відсутні зміни вагових коефіцієнтів: b1ij, b2ij, b3lg, b4lg, (i = 1,..., n; j = 1,..., m; l = 1,..., k; g = 1,..., m) і t1ji, t2ji, t3gl, t4gl, (j = 1,..., m; i = 1,..., n; g = 1,..., m l = 1,..., k;), відповідно ваг зв'язків від елементів інтерфейсного шару до елементів розпізнавального шару, і ваг зв'язків від елементів розпізнавального шару, до елементів інтерфейсного шару, модулів M1 і М2 нейронної мережі. Матриці ваг зв'язків між елементами шарів, що розпізнають, модулів M1 і М2 нейронної мережі й елементами проміжного шару на умову навчання не впливають. В режимі розпізнавання вхідних зображень і визначення їм асоціативних зображень n- або kмірні вхідні вектора можуть подаватися відповідно на входи S1i або S2l (і=1,...,n; l=1,...,k) елементів, відповідно модулів M1 і М2 нейронної мережі. При роботі нейронної мережі не передбачається подача зображень на два поля вхідних елементів одночасно. Нейрон-переможець Х1J або Х2G модулів M1 або М2, активізується сигналами від пари нейронів шарів, що розпізнають, відповідно підмодулів М11,М12 або М21,М22. Нейрон-переможець Х1J модуля М1, визначається сигналами нейронівпереможців Y1J і Y2J розпізнавальних шарів Y1j, Y2j (j =1,..., m), відповідно підмодулів М11, М12. Аналогічним образом може визначатися й нейронпереможець Х2G для модуля М2 нейронної мережі, що відповідають сигналами нейронів-переможців Y3G и Y4G розпізнавальних шарів Y3g, Y4g (g=l,...,m), відповідно підмодулів М21, М22 нейронної мережі. Нейрони-переможці Y1J и Y3G, вибираються в результаті змагання нейронів розпізнавальних шарів Y1j и Y3g (j = 1,...,m; g = 1,...,m), підмодулів М11 і М21 нейронної мережі. Нейрони-переможці Y2J и Y4G підмодулів М12 і М22, вибираються не в результаті змагання нейронів розпізнавальних шарів Y2j и Y4g (j = 1,..., m; g = 1,...,m), підмодулів М12 і М22, а сигналами з відповідних Y1J и Y3G нейронівпереможців підмодулів М11 і М21, після їхньої перевірки за величиною параметрів р11 и р21 подібності. У зв'язку із цим введені зв'язки між парами Yнейронів Y1j, Y2j и Y3g Y4g (j = 1,..., m; g = 1,..., m) модулів М1 і М2 нейронної мережі. Виділені в такий спосіб нейрони Y2J и Y4G підмодулів М12 і М22, також перевіряються по величині параметрів подібності р12 и p22. Якщо нейрони Y2J и Y4G витримують цю перевірку та витримують наступну перевірку за 47481 8 величиною параметра подібності й пари нейронів Y1J, Y2J і Y3G, Y4G для модулів М1 і М2, то на виході нейрона Х1J, що розпізнає, або Х2G модулів M1 або М2 з'являється одиничний сигнал, що свідчить про розпізнавання вхідного зображення. Якщо нейрони Y2J i Y4G або пари елементів Y1J, Y2J и Y3G Y4G, модулів М1 і М2, не витримують перевірку за величиною параметрів подібності, то нейрони Y1J и Y3G, підмодулів М11 і М21, загальмовуються UвихY= -1; UвихY= -1) 1 3 J G , а нейрони Y2J и Y4G, підмодулів М12 і М22, переводяться в неактивний стан UвихY 2 = 0; UвихY 3 = 0). J G Після вибору нейрона-переможця Х1J або Х2G одного з модулів М1 або М2, здійснюється вибір нейрона-переможця іншого модуля нейронної мережі. Він визначається не в результаті змагання нейронів шару, що розпізнає, а активізується нейроном-переможцем модуля М1 або М2, через зв'язки елементів Р-шару. Цей нейрон-переможець за допомогою спадаючих зв'язків відновить в інтерфейсном шарі Z-елементів зображення, що зберігається в його пам'яті. Відновлене зображення повториться на шарі Z-елементів і надійде на вихід модуля. Таким чином, відбудеться вибір зображення, асоціативного вхідному зображенню, що подається на вхід іншого модуля нейронної мережі. Пристрій аналогової двонаправленої асоціативної пам'яті, на основі нейронних мереж АРТ-2Д, функціонує відповідно до двох алгоритмів: навчання й розпізнавання. В алгоритмах прийняті наступні позначення: m - максимальне число пар асоціативних зображень, що запам'ятовуються; n і k - число компонентів у вхідному векторі (зображенні) відповідно для модуля М1 й М2; р1 і р2 - параметри подібності модулів М1 і М2; q - число пар асоціативних зображень, що запам'ятовуються; р11, p12 i р21 і p22 - параметри подібності між вхідним вектором і векторами, що зберігаються у вагах зв'язків перемігших нейронів, відповідно Y1J, Y2J i Y3G Y4G підмодулів М11, М12 або М21, М22 нейронної мережі; діапазон припустимих значень параметрів подібності: 0 < р11, р12 £ 1; 0 < р21, р22 £ 1; b1ij, b2ij i b3lg, b4lg (i = 1,..., n; j = 1,..., m; l = 1,..., k; g = 1,..., m) - ваги зв'язків від елементів інтерфейсного шару до елементів розпізнавального шару нейронів, відповідно підмодулів М11, М12 і М21, М22; початкове значення, що рекомендуется, при навчанні b1ij = b1ij = b3lg = b4lg = 1 (і = 1,..., n; j, g = 1,...,m; l = 1,...,k), t1ji, t2ji i t3gl, t4gl, (j, g=1,...,m; і = 1,...,n; 1= l,..., k) ваги зв'язків від елементів розпізнавального шару, до елементів інтерфейсного шару нейронів, відповідно підмодулів М11, М12 і М21, М22; початкове значення, що рекомендуется, при навчанні t1ji = t2ji = t3gl = t4gl =1 (j, g=1,...,m; і = 1,...,n; l = 1,..., k); UвихS 1 , UвихS 2 i l (і = 1,...,n; l= 1,..., k) - вихідні сигнали елементів S-шару, відповідно модулів М1 і М2 нейронної мережі; 9 47481 U p , UвихZ p l - вхідні й вихідні и вхZ l сигнали елементів інтерфейсного шару, відповідно підмодулів М11, М12 і М21, М22 нейронної мережі; U вихY 1 , U вихY 2 UвихY 3 , U вихY 4 j j g g i (j, g=1,...,m) - вихідні сигнали розпізнавальних елементів, відповідно підмодулів М11, М12 і М21, М22 нейронної мережі; UвихX 1 , UвихX 2 j g (j, g= 1,...,m) - вихідні сигнали розпізнавальних елементів, відповідно модулів М1 і М2 нейронної мережі; UвхZ p , UвихZ p i i u u (S11, S1 2 ), (S u1, S u2 ),...,(S u1, S u2 ) q q 2 2 - пари асоціативних зображень, які належать навчальній мно { } u Mu = M1 , Mu ,...,Mu 2 L жині вхідних зображень, що відносяться до L образів (динамічних режимів), L