Нейрон “t_and_0″

Реферат: UA 97526 U UA 97526 U 5 10 15 20 25 30 35 40 45 50 55 Корисна модель належить до нейронів, призначених для реалізації логічних рішень та логічних функцій, які використовуються в нейрокібернетиці і можуть бути застосовані в нейрокомп'ютерах та штучних нейронних мережах при розв'язанні задач логічної обробки даних. Звичайно в багатошаровій нейронній мережі перший шар виконує функцію нормалізації та розмноження вхідних змінних, а кожний нейрон другого шару виконує функцію розділу простору ознак об'єктів на дві частки. Нейрони другого шару мають виходи у вигляді активаційних функцій із пороговими значеннями, наприклад "0" або "+1". Тому можна вважати, що наступні шари нейронів, по суті, виконують логічні операції. Ми будемо розглядати особливості використання багатовхідної логічної функції, яку лише умовно можна назвати функцією "AND" у зв'язку з тим, що вона повинна видавати на виході "+1", якщо всі вхідні змінні мають у сукупності призначене їм значення, яке може бути або "0" або "+1". Відомий нейрон, який виконує стандартну булеву функцію "AND" із двома вхідними значеннями змінних та виходом, які приймають значення "0" або "+1", при рівних "+1" ваговим коефіцієнтам входів, який має проміжну вирішальну функцію: u  x1  x 2 15 , , і вихідну активаційну порогову функцію: , 1 u  0,5, y(u)   0, u0,5, де x1 , x 2 - вхідні змінні, що мають значення "0" або +"1" [1, С. 62-63]. Недоліками цього нейрона є ускладнення нейронної мережі та виконання додаткових операцій, що призводить до збільшення вартості нейронної мережі, особливо при його застосуванні в мережах зі збільшеною кількістю вхідних змінних. Найбільш близьким до заявленого нейрона є обраний за прототип пристрій, який отримується за відомим методом аналізу, що реалізує логічну функцію у вигляді таблиці істинності зі вхідними значеннями змінних та виходом, що приймають значення "0" або "+1". Безпосередньо таблиці істинності не використовуються в нейронних мережах, а будь-який її вихід звичайно розглядається на базі використання сукупності стандартних булевих функцій, які широко описані у фаховій літературі з нейронних мереж [1, - С. 62-63]. Тому таблицю істинності при багатьох вхідних змінних можна розглядати як складну нейронну схему, складену зі стандартних булевих функцій у вигляді нейронів з вихідним та вхідними значеннями змінних "0" або "+1" при рівності "+1" вагових коефіцієнтів входів, яка має значення виходу "+1" при заданих варіантах значень усіх вхідних змінних [2]. Причини, які перешкоджають одержанню очікуваного технічного результату в прототипі у вигляді пристрою для реалізації одного виходу таблиці істинності (спрощення нейронної мережі та розрахунків, що призводить до зменшення вартості нейронної мережі; розширення логічних можливостей) є обмеженість у виборі стандартних булевих логічних операцій, порівняно з теоретично можливими. Недоліками прийнятого за прототип пристрою є ускладнення нейронної мережі та виконання додаткових операцій, що призводить до збільшення вартості нейронної мережі, особливо при збільшенні кількості вхідних змінних. В основу корисної моделі поставлено задачу: - отримання логічної аналогії з відомою булевою функцією AND: можливість отримати на виході "+1", якщо всі вхідні змінні дорівнюють "+1"; - спрощення нейронної мережі за рахунок заміни одним нейроном набору багатьох нейронів, які виконують стандартні булеві функції і реалізують один вихід таблиці істинності; - спрощення розрахунків у нейронній мережі шляхом заміни ряду проміжних вирішальних функцій та відповідних їм активаційних функцій кількох нейронів стандартних булевих функцій на один нейрон з однією вирішальною та активаційною функціями; - отримання додаткових можливостей логічного висновку. Загальні суттєві ознаки запропонованого нейрона T_AND_0, які співпадають із суттєвими ознаками прототипу, полягають у тому, що нейрон T_AND_0, із вихідним та вхідними значеннями змінних "0" або "+1" при рівності "+1" вагових коефіцієнтів входів, має вихід "+1" за значень "+1" усіх вхідних змінних. Суттєві ознаки запропонованого нейрона, що є достатніми у всіх випадках і характеризують запропоновану корисну модель, на відміну від прототипу, полягають у тому, що нейрон має розширені логічні можливості, проміжну вирішальну функцію: 1 UA 97526 U u N N  x i   i 1  i  N 1 x   (1  N  n 0 ) i (1) та вихідну порогову функцію активації: , 1 u  0,5, y(u)   0, u0,5, 5 (2) де x  , x  - вхідні змінні, поділені на дві групи; i i i  1 2,..., N - порядкові номери вхідних змінних x i ; , i  N  1 N  2, ..., N - порядкові номеривхідних змінних x  ; , i  та  і; x N - загальна кількість вхідних змінних x i i  10 N - максимальна кількість вхідних змінних x i , яка повинна мати призначені значення "+1" для отримання виходу y(u)  1 ; (N  N ) - максимальна кількість вхідних змінних x  , яка повинна мати призначені значення i "0" для отримання виходу y(u)  1 ; 15 20 25  n0  N - число, яке враховує, що лише загальна кількість (N  n0 ) вхідних змінних x i та x i нейронної мережі повинна мати призначені значення для отримання на виході нейрона y(u)  1 . Передбачуваний нейрон ілюструється рисунками, на яких наведено: Фіг. 1. Простір ознак класів 1,  2 та 3 . Фіг. 2. Структурна схема нейрона "T_AND_0". Фіг. 3. Варіант спрощеної структурної схеми нейрона "T_AND_0". На Фіг. 1 позначені: - x1 , x 2 - осі координат; - 1, 2 , 3 - позначення класів об'єктів та їх розміщення; - z1, z 2 - активаційні функції нейронів, які розділяють класи об'єктів. На Фіг. 2 позначено: - x  , x  - вхідні змінні, поділені на дві групи; i i - i  1, 2,..., N - порядкові номери вхідних змінних x  ; i i  N  1 N  2, ..., N - порядкові номери вхідних змінних x  ; , i  та  і; x N - загальна кількість вхідних змінних x i i  30 N - максимальна кількість вхідних змінних x i , яка повинна мати призначені значення "+1" для отримання виходу y(u)  1 ; (N  N ) - максимальна кількість вхідних змінних x  , яка повинна мати призначені значення i "0" для отримання виходу y(u)  1 ; 35 40  n0  N - число, яке враховує, що лише загальна кількість (N  n0 ) вхідних змінних x i та x i нейронної мережі повинна мати призначені значення для отримання на виході нейрона y(u)  1 , - u - проміжна вирішальна функція нейрона "T_AND_0"; - y(u) - активаційна функція нейрона "T_AND_0"; - 1 - блок із формулою проміжної вирішальної функції нейрона "T_AND_0"; - 2 - блок із формулою вихідної активаційної функції нейрона "T_AND_0". На основі таблиці істинності (табл. 1) розглянемо особливості застосування в ролі нейронів логічних булевих функції з двома вхідними змінними ( x1, x 2 ) та виходом y i , де i  1 2,..., 16 , порядковий номер виходу, при коефіцієнтах входів нейронів рівним 1 [1, - С. 62-63]. 2 UA 97526 U Таблиця Таблиця істинності нейрона з двома вхідними змінними x 1 та x 2 x1 0 0 1 1 5 10 15 20 25 30 x2 0 1 0 1 y1 0 0 0 0 y2 0 0 0 1 y3 0 0 1 0 y4 0 0 1 1 y5 0 1 0 0 y6 0 1 0 1 y7 0 1 1 0 y8 0 1 1 1 y9 1 0 0 0 y10 1 0 0 1 y11 1 0 1 0 y12 1 0 1 1 y13 1 1 0 0 y14 1 1 0 1 y15 1 1 1 0 y16 1 1 1 1 Із множини булевих функцій двох змінних згідно з табл. при теоретичному аналізі нейронних мереж звичайно розглядаються лише виділені сірим фоном стандартні булеві функції "AND", "OR", "XOR" (у2, y8, y10). Відомо, що більш складні логічні залежності можна отримати за допомогою вказаних стандартних булевих функцій або за допомогою таблиць істинності типу табл. 1. Недоліки використання лише стандартних булевих функцій "AND", "OR", "XOR" (у 2, y8, y10) можна визначити на прикладі розподілу класів 1   3 Фіг. 1. На Фіг. 1 наведено активаційні функції z 1 та z 2 у вигляді двох поряд розмішених безперервної та штрихової паралельних ліній. Наприклад, вважаємо, що з боку штрихової лінії нерівність z1  0,5 виконується, а з протилежного боку - ні (тобто z10,5 ). За Фіг. 1 видно, що в загальному випадку виділення будьякої ділянки з об'єктами лише одного класу вимагає сумісного використання вирішальних функцій зі значенням більше за 0,5 та меншим за 0,5. Між тим, булева функція "AND" для отримання виходу "+1" вимагає від усіх вхідних змінних, щоб вони мали значення "+1", які більші за 0,5. Якщо активаційна функція має з боку ділянки розміщення класу значення "0", то для виділення границь існування класів її значення потрібно інвертувати для використання булевої функції "AND". Згідно Фіг. 1 для визначення об'єктів класу 1 на основі вхідних даних функцій активації z1(u1)  0 та z 2 (u2 )  1 (які використовуються замість x 1 та x 2 ) було б вигідно використати булеву функцію y 5 табл. 1, яка відповідає y AND5 згідно з логічною умовою ' ' y AND5 : 0; sf((z1(u1)0,5) AND (z 2 (u2 )0,5)) then y AND5 : 1' ' . Із цього видно, що при використанні булевих функцій навіть для двох вхідних змінних не завжди отримується оптимальна конфігурація нейронної мережі. Задача ускладнюється при використанні багатьох вхідних змінних. Подібна обмеженість ускладнює апаратну та програмну реалізацію нейронних мереж, викликає її подорожчання внаслідок виконання ускладнених розрахунків та більшої кількості елементів. У нейронних мережах пропонована логічна функція T_AND_0 може об'єднувати в просторі ознак у єдине ціле границі, що обмежують окремі групи об'єктів визначеного класу, або об'єднувати в єдиний клас ряд окремих груп цих об'єктів. Пропонований нейрон T_AND_0 зображений на Фіг. 2. Нейрон T_AND_0 при рівності "+1" вагових коефіцієнтів входів, має поділені на дві групи вхідні змінні x  , x  , які можуть мати значення змінних "0" або "+1", де   1, 2,..., N  - порядкові i i номери вхідних змінних x  ;   N  1, N  2,..., N - порядкові номери вхідних змінних x  ; i i  та  , x N - загальна кількість вхідних змінних x i 35  N - максимальна кількість вхідних змінних для отримання виходу y(u)  1 ; i x i яка повинна мати призначені значення "+1" (N  N ) - максимальна кількість вхідних змінних x  яка повинна мати призначені значення i "0" для отримання виходу y(u)  1 ; - n0  N - число, яке враховує, що лише загальна кількість (N  n0 ) вхідних змінних x  та i 40 x  нейронної мережі повинна мати призначені значення для отримання на виході нейрона i y(u)  1 . - u - проміжна вирішальна функція нейрона "T_AND_0"; 3 UA 97526 U 5 - y(u) - активаційна функція нейрона "T_AND_0"; - 1 - блок із формулою проміжної вирішальної функції нейрона "T_AND_0"; - 2 - блок із формулою вихідної активаційної функції нейрона "T_AND_0". Проміжна вирішальна функція нейрона T_AND_0 має вигляд формули (1) і представлена на Фіг. 2 блоком 1, а вихідна порогова функція активації представлена на Фіг. 2 блоком 2 і визначається за формулою (2). Розглянемо роботу нейрона T_AND_0 Фіг. 2 із виходом "+1" при забезпеченні заданих умов: 1. Вхідні дані дорівнюють: N  N,n0  0, x i  u N i 1 10 N  x i   сигналу  i  N 1  x i  1 x   (1  N  n 0 )  i - відсутні. За формулою (1) отримуємо  N  x i  0  1  N  0 , і у випадку відсутності хоча б одного i 1 згідно з формулою (2) значення виходу y(u)  0 . Сама формула (1) у цьому N випадку спрощується до u  (  x  )  1  N) із відповідним спрощенням структурної схеми до i i 1 вигляду Фіг. 3. 15 2. Усі змінні x  мають значення "+1", а всі змінні x  мають значення "0". При n0  0 за i i формулою (1) маємо результат u  N  N  1  N  0  1 , і згідно формули (2) значення виходу y(u)  1 . 3. Для випадку 2 приймемо n0  3 (тобто вважаємо, що три змінні x  , дорівнюють 0). Тоді i за формулою (1) маємо результат u  N i 1 20 25 N  x i    i  N 1 x   (1  N  n 0 )  (N  3)  0  (1  N  3) , і i згідно з формулою (2) значення виходу y(u)  1 . Використання запропонованого винаходу дозволяє спростити нейронну мережу і розрахунки та отримати додаткові можливості логічного висновку. Використана інформація: 1. Руденко О. Г. Штучні нейронні мережі. / О. Г. Руденко, Є. В. Бодянський. - Харків: ТОВ "Компанія СМІТ", 2006.-404 с 2. Шапорев С. Д. Математическая логика. Курс лекций и практических занятий. / С. Д. Шапорев. - СПб: БХВ - Петербург, 2005. - 416 с. ФОРМУЛА КОРИСНОЇ МОДЕЛІ 30 Нейрон T_AND_0 із вихідним та вхідними значеннями змінних "0" або "+1" при рівності "+1" вагових коефіцієнтів входів, зі значенням виходу "+1" при значеннях "+1" усіх вхідних змінних, який відрізняється тим, що має розширені логічні можливості, проміжну вирішальну функцію: u N  x i i1 35  N   iN 1 x   (1  N   n 0 ) i та вихідну порогову функцію активації: , 1 u  0,5, y(u)   0, u0,5, де x i , x  - вхідні змінні, поділені на дві групи; i i  1 2, ..., N  - порядкові номери вхідних змінних x i ; , i  N   1 N   2, ..., N - порядкові номери вхідних змінних x  ; , i N - загальна кількість вхідних змінних x i та x  і; i 40 N - максимальна кількість вхідних змінних x i , яка повинна мати призначені значення "+1" для отримання виходу y(u)  1 ; 4 UA 97526 U (N  N  ) - максимальна кількість вхідних змінних x  , яка повинна мати призначені значення "0" i для отримання виходу y(u)  1 ; 5 n0  N - число, яке враховує, що лише загальна кількість (N  n0 ) вхідних змінних x i та x  i нейронної мережі повинна мати призначені значення для отримання на виході нейрона y(u)  1 . Комп’ютерна верстка Л. Ціхановська Державна служба інтелектуальної власності України, вул. Урицького, 45, м. Київ, МСП, 03680, Україна ДП “Український інститут промислової власності”, вул. Глазунова, 1, м. Київ – 42, 01601 5