Нейромережевий пристрій для розпізнавання та класифікації зображень на границі декількох класів

Реферат: Винахід належить до галузі до обчислювальної техніки, області побудови автоматизованих систем розпізнавання та керування. Пристрій для розпізнавання та класифікації зображень на границі декількох класів виконаний з можливістю розпізнавати зображення на границях двох, трьох й більшого числа класів завдяки тому, що шар схем виділення одного, двох й більшої кількості одиничних сигналів з виходів шару вихідних нейронів в кожен момент часу пам'ятає число ненульових сигналів на виході нейронів вихідного шару, а другий шар вихідних нейронів запам'ятовує нейрони вихідного шару, що мають на своїх виходах ненульові сигнали. Технічним результатом, що досягається даним винаходом, є збільшення числа класів, які розпізнаються, або можливість розпізнавати зображення, що знаходиться на однаковій відстані Хемінга від двох, трьох або більшої кількості еталонних зображень, що зберігаються у вагах зв'язків нейронів шару, що запам'ятовує. UA 108009 C2 (12) UA 108009 C2 UA 108009 C2 5 10 15 20 25 30 35 40 45 50 55 60 Винахід належить до обчислювальної техніки, зокрема до області побудови автоматизованих систем розпізнавання та керування, а саме до напрямку побудови систем діагностики та керування складними технічними об'єктами. Винахід може бути використаний для побудови систем керування або діагностики такого складного технічного об'єкта, як трифазний асинхронний тяговий електропривод. Відомий пристрій розпізнавання й класифікації образів, складається з сенсорного шару нейронів (блока порогових елементів) і відрізняється тим, що в нього введений шар інтерфейсних елементів, нейрони якого пов'язані з відповідними їм елементами сенсорного шару вхідними бінарними односпрямованими зв'язками, шар розпізнавальних елементів, нейрони якого пов'язані з кожним з елементів у інтерфейсному шарі парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішальний нейрон, який пов'язаний збудливими вхідними зв'язками з усіма елементами сенсорного і інтерфейсного шарів й гальмівними зв'язками з усіма елементами розпізнавального і загального розпізнавального шарів нейронів, два керуючих нейрони, перший з яких пов'язаний вхідними збудливими зв'язками з усіма елементами сенсорного шару нейронів, вихідними збудливими зв'язками з усіма елементами інтерфейсного шару й гальмівними вхідними зв'язками з усіма елементами розпізнавального і загального розпізнавального шарів нейронів, другий з яких пов'язаний вхідними збудливими зв'язками з усіма елементами сенсорного шару й збудливими вихідними зв'язками з усіма елементами розпізнавального й загального розпізнавального шарів нейронів, а також загальний розпізнавальний шар нейронів, елементи якого пов'язані двонаправленими зваженими зв'язками з відповідними елементами інтерфейсного шару нейронів [1]. Недоліком відомого пристрою розпізнавання й класифікації образів є те, що він відносить до одного образу навіть ті зображення, що відносяться до двох або більшої кількості образів, тобто перебувають на границях двох або більшої кількості образів (або знаходяться на однаковій відстані від двох або більшого числа еталонних зображень, що зберігаються в пам'яті нейронної мережі). Відомий пристрій розпізнавання й класифікації образів, що складається з сенсорного шару нейронів, шару інтерфейсних елементів, нейрони якого пов'язані з відповідними їм елементами сенсорного шару вхідними бінарними односпрямованими зв'язками, шар розпізнавальних елементів, нейрони якого пов'язані з кожним з елементів у інтерфейсному шарі парами двонаправлених зважених зв'язків з безперервними ваговими коефіцієнтами, вирішальний нейрон, який пов'язаний збудливими вхідними зв'язками з усіма елементами сенсорного і інтерфейсного шарів й гальмівними зв'язками з усіма елементами розпізнавального шару нейронів, шар реєструючих нейронів, нейрони якого пов'язані з відповідними їм елементами шару розпізнавальних елементів вхідними й вихідними бінарними односпрямованими зв'язками, також вихід кожного реєструючого нейрона пов'язаний з його входом збудливим бінарним зв'язком, три керуючих нейрони, перший з яких пов'язаний вхідними збудливими зв'язками з усіма елементами сенсорного шару нейронів, вихідними збудливими зв'язками з усіма елементами інтерфейсного шару й гальмівними вхідними зв'язками з усіма елементами розпізнавального шару нейронів, другий з яких пов'язаний вхідними збудливими зв'язками з усіма елементами сенсорного шару й збудливими вихідними зв'язками з усіма елементами розпізнавального шару нейронів, третій з яких пов'язаний вхідним збудливим зв'язком з вирішальним нейроном і вихідними збудливими зв'язками з усіма елементами шару реєструючих нейронів [2]. При порівнянні з першим аналогом пристрій розпізнавання й класифікації образів не накладає обмежень, на число рішень. Однак розглянутий пристрій накладає обмеження на визначення міри близькості між вхідним зображенням й зображеннями, що зберігаються у вагах зв'язків нейронної мережі, оскільки міра близькості чорно-білих зображень визначається тільки одиничними (чорними) компонентами зображень, що може призводити до неправильних результатів. Найбільш близьким до заявленого пристрою є пристрій розпізнавання та класифікації образів, який складається з шару сенсорних нейронів, шару ітераційних нейронів, шару вихідних нейронів, шару запам'ятовуючих нейронів, джерела сигналу зміщення, вихід якого пов'язаний з входом кожного нейрона шару, що запам'ятовує, нейрони якого пов'язані вхідними бінарними односпрямованими зв'язками з виходами відповідних нейронів сенсорного шару й вихідними зв'язками з безперервними ваговими коефіцієнтами з входами відповідних нейронів шару ітераційних нейронів, перший вихід кожного нейрона якого пов'язаний збудливим зв'язком з його входом та гальмуючим зв'язком з входами всіх інших нейронів шару ітераційних нейронів, другі виходи нейронів ітераційного шару пов'язані з відповідними входами шару вихідних нейронів [3]. 1 UA 108009 C2 5 10 15 20 25 30 35 40 У порівнянні з відомими аналогами пристрій-прототип може розпізнавати навіть тоді, коли вхідне зображення знаходиться на однаковій мінімальній відстані Хемінга від двох або більшого числа еталонних зображень, що зберігаються у вагах зв'язків шару запам'ятовуючих нейронів, однак при цьому нейрони, що зберігають еталонні зображення класів, не визначаються. Таким чином, недоліком прототипу є те, що він не визначає класи зображень, на однаковій відстані від яких знаходиться вхідне зображення (на границях яких класів знаходиться вхідне зображення). Задача винаходу - розробка пристрою розпізнавання та класифікації образів, яке може розпізнавати зображення на границях двох, трьох й більшого числа класів (або розпізнавати зображення, що знаходиться на однаковій відстані Хемінга від двох, трьох або більшої кількості еталонних зображень, що зберігаються у вагах зв'язків нейронів шару, що запам'ятовує). Задача вирішується тим, що нейромережевий пристрій для розпізнавання та класифікації зображень на границі декількох класів, який складається з шару сенсорних нейронів, шару ітераційних нейронів, шару вихідних нейронів, шару запам'ятовуючих нейронів, джерела сигналу зміщення, вихід якого пов'язаний з входом кожного нейрона шару, що запам'ятовує, нейрони якого пов'язані вхідними бінарними односпрямованими зв'язками з виходами відповідних нейронів сенсорного шару й вихідними зв'язками з безперервними ваговими коефіцієнтами з входами відповідних нейронів шару ітераційних нейронів, перший вихід кожного нейрона якого пов'язаний збуджуючим зв'язком з його входом та гальмуючим зв'язком з входами всіх інших нейронів шару ітераційних нейронів, другі виходи нейронів ітераційного шару пов'язані з відповідними входами шару вихідних нейронів, перебудовується шляхом введення в його структуру другого шару вихідних нейронів, джерела сигналу установки в одиницю і шару схем виділення одного, двох й більшої кількості одиничних сигналів з виходів елементів шару вихідних нейронів, виходи всіх елементів якого з'єднані з входами всіх схем виділення одного, двох й більшої кількості одиничних сигналів, виходи яких з'єднані з входами всіх елементів другого шару вихідних нейронів, на один вхід кожного нейрона якого надходить вихідний сигнал одного з відповідних елементів вихідного шару, а вхід зміщення з'єднаний з джерелом сигналу зміщення та вхід установки з'єднаний з джерелом сигналу установки в одиницю. Це стає можливим завдяки тому, що шар схем виділення одного, двох й більшої кількості одиничних сигналів з виходів шару вихідних нейронів в кожен момент часу пам'ятає число ненульових сигналів на виході нейронів вихідного шару, а другий шар вихідних нейронів запам'ятовує нейрони вихідного шару, що мають на своїх виходах ненульові сигнали. Винахід ілюструється кресленнями (фіг. 1), на якому наведена схема пристрою розпізнавання та класифікації зображень на границях декількох класів на основі використання відстані Хемінга. Архітектура пропонованої нейронної мережі відрізняється від архітектури відомої мережі Хемінга тим, що в неї введений шар схем виділення 1, 2,…, (m-2), (m-1) одиничних сигналів: Сх1, Сх2,…, Сх(m-2), Сх(m-1) і додатковий шар Х-нейронів: Х1, Х2,…, Хm-1, Хm. Всі введені Х-нейрони мають функцію активації виду 1, якщо U вх  0, , (1) U вих  gU вх    0, якщо U вх  0, 45 де Uвux, Uвx - відповідно вихідний і вхідний сигнал нейрона, що має функцію активації g(Uвx). Схема виділення k (k  1, (m  1)) одиничних сигналів з m сигналів (фіг. 2) складається з трьох нейронів. На входи нейронів N1 і N2 надходять сигнали з виходів нейронів Y1, Y2,…, Ym. Сигнали U вихY1 , U вихY2 , …, U вихYm на виходи нейрона N1 надходять зі зв'язків з вагами WY1 N1  WY2 N 2  ...  WYm N 2  1 , а на входи нейрона N2 надходять зі зв'язків з вагами WY1 N 2  WY2 N 2  ...  WYm N 2  1 . Нейрони схеми мають функцію активації виду (1). При вазі зв'язку W0 N1  k сигналу зміщення нейрона N1 цей елемент видає одиничний вихідний сигнал в тому 50 55 випадку, якщо число вхідних одиничних сигналів менше або дорівнює k. Нейрон N2 при вазі зв'язку W0 N 2  k сигналу зміщення може видавати одиничний сигнал при числі вхідних одиничних сигналів Y-елементів більше або дорівнює k. Тому поодинокі сигнали на виходах нейронів N1 і N2 одночасно можуть з'явитися тільки при k одиничних сигналах на входах нейронів N1 і N2. Нейрон N3, що має функцію активації виду (1), може перейти в активний стан тільки при наявності одиничних сигналів на виходах обох нейронів N1 і N2. Таким чином, одиничних сигнал на вході схеми з'являється тільки при k одиничних сигналах на вході схеми. Сигнали на входах елементів X p (p  1, m) розраховуються за співвідношенням 2 UA 108009 C2 m 1 3 U вхХр  U вихYp WYpXp  W0 p 1  U вихXp WXpXp  W Cxk , Xp U вихСхk , p  1, m , (2) k 1 де UвихYp , UвихXp - вихідні сигнали нейронів Yp , X p , p  1, m ; WYpXp - вага зв'язку від нейрона Yp до нейрона X p , WYpXp  1, p  1, m ; 3 3 W0p - вага зв'язку сигналу зміщення нейрона X p , W0 p  2, p  1, m ; 5 WXpXp - вага зв'язку з виходу нейрона X p на його вхід, WXpXp  2, p  1, m ; WCxk,Xp - вага зв'язку з виходу схеми виділення k одиничних сигналів на вхід нейрона X p ; k  1, (m  1) , p  1, m ; WCxk , Xp  1 . Перед початком розпізнавання сигналом установки в одиницю всі нейрони Х-шару встановлюються в одиничний стан. Це стан будь-якого нейрона Хр надалі підтримується 10 зворотним зв'язком з виходу нейрона на його вхід: U вхХр  0 1   2 1  1  2  m 1 W Cxk , Xp  0  0 . За k 1 15 наявності функції активації (1) на виході нейрона Хр буде одиничний вихідний сигнал. Функціонування нейронної мережі в режимі розпізнавання: Виконується режим установки нейронів в початковий стан - вихідні сигнали нейронів Х-шару задаються рівними одиниці, а вихідні сигнали всіх інших нейронів - рівними нулю. Розглянемо декілька характерних режимів розпізнавання: 1. На вхід нейронної мережі подається зображення, що знаходиться на однаковій відстані Хемінга від усіх зображень, що зберігаються у вагах зв'язків нейронів Z j , j  1, m . Після визначення відстані між вхідними зображеннями і зображеннями, що зберігаються у вагах зв'язків нейронів Z j , ( j  1, m) , на виходах нейронів Z-шару з'являться вихідні сигнали 20 UвихZ1  UвихZ2  ...  UвихZm , величина яких пропорційна близькості вхідного зображення й 25 зображень, що зберігаються у вагах зв'язків нейронів Z-шapy. Сигнали з виходів нейронів Z-шару надходять на виходи нейронів А-шару, де починається ітераційний процес виділення максимального сигналу, що надійшов з виходів Z-нейронів. Якщо на виходах всіх Z-нейронів є позитивні вихідні сигнали, то й на виходах всіх А-нейронів буде позитивні сигнали, які надходить на входи Y-нейронів і переведе їх в активний стан: UвихYj  1 , j  1, m . Якщо на виходах всіх Y-нейронів є одиничні вихідні сигнали, то жоден з -нейронів не 30 35 40 45 50 змінить свого стану. Не зміниться стан й Х-нейронів. Якщо вхідне зображення знаходиться на однаковій відстані Хемінга від усіх зображень, що зберігаються у вагах зв'язків Z-нейронів, то ітераційний процес в шарі А-нейронів призведе до того, що на виходах всіх A-нейронів одночасно з'являться нульові сигнали, які приведуть до зміни стану Y-нейронів: UвихYj  0 , j  1, m . При цьому стан всіх схем виділення одиничних сигналів Сх1, Сx2, …, Сx(m-2), Сx(m-1) X-нейронів залишиться незмінним, а наявність поодиноких сигналів на виходах всіх X-нейронів вкаже на те, що вхідне зображення може бути віднесено до будь-якого з m класів зображень, тобто, що воно перебуває на однаковій відстані від кожного з m класів зображень чи на перетині цих класів зображень. 2. На вхід нейронної мережі подається зображення, що знаходиться на однаковій відстані Хемінга від d (2≤d≤(m-1)) зображень, що зберігаються у вагах зв'язків Z-шару нейронів. Після визначення міри близькості між вхідним зображенням і зображеннями, що зберігаються у вагах зв'язків Z-нейронів, на виходах нейронів Z-шару з'являються вихідні сигнали U вихZ j , ( j  1, m) , які надходять на входи нейронів A-шару, де починається ітераційний процес виділення максимального сигналу, що надійшов з виходів Z-нейронів. Якщо на виходах всіх Z-нейронів є позитивні вихідні сигнали, то й на виходах всіх A-нейронів будуть позитивні сигнали, які надходять на входи Y-нейронів і переведуть їх в активний стан: UвихYj  1 , j  1, m . Якщо на виходах всіх Y-нейронів є одиничні вихідні сигнали, то жодна зі схем виділення k одиничних сигналів або Х-нейронів не змінить свого стану. Якщо вхідне зображення знаходиться на однаковій відстані Хемінга від d=m-1 зображень, що зберігаються у вагах зв'язків Z-нейронів, то ітераційний процес в шарі А-нейронів призведе до того, що на виході одного A-нейрона (наприклад, нейрона Ар) з'явиться нульовий сигнал, який приведе до появи нульового сигналу і на виході нейрона Yp. Зменшення на одиницю числа позитивних сигналів на виході нейронів Yшару призведе до спрацьовування схеми Сx(m-1), вихідний сигнал якої викличе у відповідності з 3 UA 108009 C2 виразами (2) й (1) зміну сигналу на виході нейрона Хр: U вихX p  0 . Подальше продовження ітераційного процесу в шарі A-нейронів призведе до того, що на виходах (m-1) A-нейронів одночасно з'являться нульові сигнали: U вихAj  0 , j  1, m , j  p . При цьому стан всіх схем Сх1, 5 Сx2,…, Сx(m-2), Сx(m-1) й Х-нейронів залишиться незмінним, а наявність одиничних сигналів U вихX j  1 , ( j  1, m, j  p) , на виходах (m-1)-гo Х-нейрона вкаже на ті еталонні зображення, від яких вхідне зображення знаходиться на однаковій відстані. Розглянемо ситуацію, коли d