Нейрон “t_or_0″

Реферат: UA 99113 U UA 99113 U 5 10 15 Корисна модель належить до нейронів, призначених для реалізації логічних рішень та логічних функцій, які використовуються в нейрокібернетиці і можуть бути застосовані в нейрокомп'ютерах та в штучних нейронних мережах при розв'язанні задач логічної обробки даних. Зазвичай у багатошаровій нейронній мережі перший шар виконує функцію нормалізації та розмноження вхідних змінних, кожний нейрон другого шару виконує функцію розділу простору ознак об'єктів на дві частки. Нейрони другого шару мають виходи у вигляді активаційних функцій із пороговими значеннями, наприклад "0" або «+1". Тому можна вважати, що наступні шари нейронів по суті виконують логічні операції. Ми будемо розглядати особливості використання багатовхідної логічної функції, яку лише умовно можна назвати функцією "OR" у зв'язку з тим, що вона повинна видавати на виході «+1", якщо хоча б одна з багатьох вхідних змінних має заздалегідь призначене їй значення "0" або «+1". Відомий нейрон [1, с. 62-63], який виконує стандартну булеву функцію "OR" і складається з послідовно з'єднаних блока суматора та активаційного блока з входами у блок суматора, які мають вагові коефіцієнти «+1" і призначені для введення у блок суматора вхідних змінних з базовими значеннями "0" або «+1", перемножених на відповідні вагові коефіцієнти «+1" входів блока суматора, вихід якого з'єднаний з входом активаційного блока з пороговою функцією активації та з виходом нейрона "0" або «+1", який відрізняється тим, що блок суматора призначений для отримання суми u  x1  x 2  0,5 , 20 де х1, х2 - вхідні змінні, на своєму виході, причому вихід блока суматора з'єднаний з входом активаційного блока, призначеного для отримання на своєму виході вихідного значення нейрона, згідно з пороговою ,  1 u  0,5, yu   0, u  0,5 .  функцією 25 30 35 40 45 50 55 Недоліками цього нейрона є ускладнення нейронної мережі та виконання додаткових операцій, що призводить до збільшення вартості нейронної мережі, особливо при його застосуванні в мережах зі збільшеною кількістю вхідних змінних. Найбільш близьким до заявленого нейрона є вибраний як найближчий аналог пристрій, який отримується за відомим методом аналізу, що реалізує логічну функцію у вигляді таблиці істинності зі вхідними значеннями змінних та виходом, що приймають значення "0" або «+1". Безпосередньо таблиці істинності не використовуються в нейронних мережах, а будь-який її вихід звичайно розглядається на базі використання сукупності стандартних булевих функцій, які широко описані у фаховій літературі щодо нейронних мереж [1, с. 62-63]. Тому таблицю істинності при багатьох вхідних змінних можна розглядати як складну нейронну схему, складену зі стандартних булевих функцій у вигляді нейронів із вихідним та вхідними значеннями змінних "0" або «+1" при рівності «+1" вагових коефіцієнтів входів, яка має значення виходу «+1" при заданих варіантах значень усіх вхідних змінних [2]. Причиною, що перешкоджає одержанню очікуваного технічного результату в найближчому аналозі у вигляді пристрою для одного виходу таблиці істинності (спрощення нейронної мережі та розрахунків, що призводить до зменшення вартості нейронної мережі; розширення логічних можливостей), є обмеженість у виборі стандартних булевих логічних операцій, порівняно з теоретично можливими. Недоліками прийнятого як найближчий аналог пристрою є ускладнення нейронної мережі та виконання додаткових операцій, що призводить до збільшення вартості нейронної мережі, особливо при збільшенні кількості вхідних змінних. При застосуванні булевих функцій їх базові величини звичайно не згадуються. Пояснюється це тим, що якщо змінити значення вхідних змінних х1, х2 та виходу у(u) з базових величин ("0" або «+1") на базові величини («-1" або «+1"), то структура нейрона не змінюється (лише в суматорі та активаційному блоці постійна величина з "0,5" замінюється на «-0,5"), такий нейрон має аналогічні описані вище недоліки при використанні. При зміні базових величин також не змінюється й нейронна мережа, складена з нейронів, що виконують булеві функції. В основу корисної моделі поставлено задачу: - отримання логічної аналогії з відомою булевою функцією OR: можливість отримати на виході «+1", якщо одна будь-яка вхідна змінна дорівнює «+1"; - спрощення нейронної мережі за рахунок заміни одним нейроном багатьох нейронів у вигляді набору нейронів, які виконують стандартні булеві функції; - спрощення розрахунків у нейронній мережі шляхом заміни ряду проміжних вирішальних функцій та відповідних їм активаційних функцій стандартних булевих функцій на одну вирішальну та активаційну функцію; 1 UA 99113 U 5 10 - отримання додаткових можливостей логічного висновку. Загальні суттєві ознаки запропонованого нейрона T_OR_0, які співпадають з суттєвими ознаками найближчого аналога, полягають у тому, що нейрон T_OR_0 складається з послідовно з'єднаних блока суматора та активаційного блока, з входами у блок суматора, які мають вагові коефіцієнти «+1" і призначені для введення у блок суматора вхідних змінних з базовими значеннями "0" або «+1", перемножених на відповідні вагові коефіцієнти «+1" входів блока суматора, вихід якого з'єднаний з входом активаційного блока з пороговою функцією активації та з виходом нейрона "0" або «+1". Суттєві ознаки запропонованого нейрона, що є достатніми в усіх випадках і характеризують запропоновану корисну модель на відміну від найближчого аналога, полягають у тому, що   довільна кількість входів N у блок суматора поділена на дві групи для вхідних змінних x i та x i ,   у кількості відповідно  та (    ) , з яких для отримання виходу нейрона у(u)=+1 хоча б одна    вхідна змінна x i , i  1, 2,...,  з першої групи входів у кількості  повинна мати призначене для     першої групи значення x i   1 , або хоча б одна вхідна змінна x i , i    1,   2 ,...,  з другої 15   групи входів у кількості (    ) повинна мати призначене для другої групи значення x i  0 , блок суматора призначений для отримання суми N u   xi  i 1  де x i , x  i  1 x  i N i N 1 , (1)   - вхідні змінні, поділені на дві групи у кількості  та (    ) ; i  1, 2 , ...,   - порядкові номери вхідних змінних x  i ; 20 i     1    2 , ...,  - порядкові номери вхідних змінних x i ; ,   N - загальна кількість вхідних змінних x i та x i ;    0,1 2,...,  - максимальна кількість вхідних змінних x  i , хоча б одна з яких повинна мати , призначене значення «+1" для отримання виходу у(u)=+1; (     ) - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна мати 25 призначене значення "0" для отримання виходу у(u)=+1; на своєму виході, причому вихід блока суматора з'єднаний з входом активаційного блока, призначеного для отримання на своєму виході вихідного значення нейрона, згідно з пороговою функцією активації ,  1 u  0,5, yu   0, u  0,5 . (2).  30 Передбачуваний нейрон ілюструється кресленнями, на яких наведено: Фіг. 1. Простір ознак класів 1 ,2 . Фіг. 2. Структурна схема нейрона "T_OR_0". Фіг. 3. Варіант використання структурної схеми нейрона "T_OR_0". На фіг. 1 позначені: 35 - x1, õ2 - осі координат; - 1 ,2 - позначення класів об'єктів та їх розміщення; - z1, z2 - активаційні функції нейронів, які розділяють класи об'єктів. На фіг. 2 позначено: x  i , x i - вхідні змінні, поділені на дві групи; 40 i  1, 2 , ...,   - порядкові номери вхідних змінних x  i ; i     1    2 , ...,  - порядкові номери вхідних змінних x i ; ,   N - загальна кількість вхідних змінних x i та x i ;   - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна мати призначене значення «+1" для отримання виходу у(u)=+1; 45 (     ) - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна мати призначене значення "0" для отримання виходу у(u)=+1; 2 UA 99113 U 5 1 - блок суматора з формулою проміжної вирішальної функції нейрона "T_OR_0"; 2 - активаційний блок з пороговою функцією активації на виході нейрона і з виходом "0" або «+1"; u - значення проміжної вирішальної функції нейрона "T_OR_0" на виході блока суматора 1; у(u) - значення, згідно з активаційною функцією нейрона "T_OR_0" виходу нейрона на виході активаційного блока 2. На основі таблиці істинності (табл.) розглянемо особливості застосування в ролі нейронів логічних булевих функції з двома вхідними змінними ( x1, x2 ) та виходом уi, де і=1, 2,…, 16 порядковий номер виходу, при коефіцієнтах входів нейронів рівний 1 [1, с. 62-63]. 10 Таблиця Таблиця істинності нейрона з двома вхідними змінними х 1 та х2 x1 20 y1 y2 y3 y4 y5 y6 y7 y8 y9 y10 y11 y12 y13 y14 y15 y16 0 0 1 1 15 x2 0 1 0 1 0 0 0 0 0 0 0 1 0 0 1 0 0 0 1 1 0 1 0 0 0 1 0 1 0 1 1 0 0 1 1 1 1 0 0 0 1 0 0 1 1 0 1 0 1 0 1 1 1 1 0 0 1 1 0 1 1 1 1 0 1 1 1 1 Із множини булевих функцій двох змінних, згідно з табл., при теоретичному аналізі нейронних мереж звичайно розглядаються лише виділені сірим фоном стандартні булеві функції "AND", "OR", "XOR" (y2, y8, y10)· Відомо, що більш складні логічні залежності можна отримати за допомогою вказаних стандартних булевих функцій, або за допомогою таблиць істинності типу табл. Недоліки використання лише стандартних булевих функцій "AND", "OR", "XOR" (y2, y8, y10) можна визначити на основі розподілу класів 1 та  2 фіг. 1 та табл. На фіг. 1 наведено активаційні функції z1 та z2 у вигляді двох поряд розмішених безперервної та штрихової паралельних ліній. Наприклад, вважаємо, що з боку штрихової лінії нерівність z1  0,5 виконується, а з протилежного боку - ні (тобто z1  0,5 ). Із фіг. 1 видно, що клас 1 має дві ділянки і класифікований об'єкт може потрапити до однієї з цих ділянок. 25 30 35 40 45 Оскільки об'єкт належить до одного класу 1 , то незалежно від того, в яку ділянку класу 1 він потрапив, ми використовуємо логічну умову OR (функція у8 табл.) і виконуємо відповідні дії. Але в дійсності цілком може статися, що умови роботи конкретного пристрою вимагають, щоб ми прийняли рішення за функцією у8 не в повному обсязі, наприклад, а згідно з функцією у4 або у6. Ці функції ми можемо описати за допомогою ряду стандартних булевих функцій, але це ускладнить нейронну систему (наприклад результат можна отримати за допомогою використання для однієї з вхідних змінних додаткової стандартної булевої функції NOT). Тобто при отриманні логічних висновків з двох вхідних змінних х 1 або х2 може виникнути потреба у однаковому виході, якщо будь-яка одна з цих двох вхідних змінних набуває заздалегідь призначену їй величину ("0" або «-1"). Із цього видно, що при використанні стандартних булевих функцій навіть для двох вхідних змінних не завжди отримується оптимальна конфігурація нейронної мережі. Задача ускладнюється при використанні багатьох вхідних змінних. Подібна обмеженість ускладнює апаратну та програмну реалізацію нейронних мереж, викликає її подорожчання внаслідок виконання ускладнених розрахунків та більшої кількості елементів. У нейронних мережах одна пропонована логічна функція T_OR_0 може об'єднати в єдине ціле клас, який у просторі ознак складається з багатьох ділянок. Пропонований нейрон T_OR_0 зображено на фіг. 2. Нейрон T_OR_0 має вихідне та вхідні значення змінних "0" або «+1" при рівності «+1" вагових коефіцієнтів входів і може мати вихід «+1", коли хоча б одна з вхідних змінних набуває призначене їй значення "0" або «+1". На фіг. 2 блок суматора 1 вміщує проміжну вирішальну функцію нейрона T_OR_0 у вигляді формули (1), а активаційний блок 2 вміщує вихідну порогову функцію активації у вигляді формули (2). Розглянемо роботу нейрона T_OR_0 на фіг. 2 при забезпеченні заданих умов: 3 UA 99113 U N  1. Вхідні дані дорівнюють:    . За формулою (1) отримуємо випадку наявності хоча б одного сигналу x i u   xi  i 1  1  x    xi i N N i N 1 i 1 ,іу   1 , згідно з формулою (2), значення виходу N у(u)=+1. Сама формула (1) в цьому випадку спрощується до спрощенням структурної схеми до вигляду фіг. 3. u   xi i 1 із відповідним     2. Вхідні дані дорівнюють: x i  1, x i  0, N  0, N  N  0 . За формулою (1) отримуємо 5  1  x  N  N  N   N i N u   xi  i 1 N i N 1 , і, згідно з формулою (2), значення виходу y(u)=+1. Щоб   вихід отримав значення у(u)=0, потрібно ввести всі значення вхідних змінних x i  0, x i  1. Використання запропонованої корисної моделі дозволяє спростити нейронну мережу і розрахунки та отримати додаткові можливості логічного висновку. 10 15 Джерела інформації: 1. Руденко О. Г. Штучні нейронні мережі / О. Г. Руденко, Є. В. Бодянський. - Харків: ТОВ "Компанія СМІТ", 2006. - 404 с 2. Шапорев С. Д. Математическая логика: Курс лекций и практических занятий / С. Д. Шапорев. - СПб.: БХВ - Петербург, 2005. - 416 с. ФОРМУЛА КОРИСНОЇ МОДЕЛІ 20 25 Нейрон, який складається з послідовно з'єднаних блока суматора та активаційного блока, з входами у блок суматора, які мають вагові коефіцієнти "+1" і призначені для введення у блок суматора вхідних змінних з базовими значеннями "0" або "+1", перемножених на відповідні вагові коефіцієнти "+1" входів блока суматора, вихід якого з'єднаний з входом активаційного блока з пороговою функцією активації та з виходом нейрона "0" або "+1", який відрізняється тим, що довільна кількість входів N у блок суматора поділена на дві групи для вхідних змінних x i та xi ; у кількості відповідно   та (     ) , з яких для отримання виходу нейрона у(u)=+1, хоча б одна вхідна змінна x  i , i  1, 2,...,   , з першої групи входів у кількості   повинна мати призначене  для  першої групи значення x i  1 ,  або хоча б одна  вхідна змінна x i , i    1   2 ,...,  , з другої групи входів у кількості (    ) повинна мати призначене для , 30 другої групи значення x  i  0 , блок суматора призначений для отримання суми N u x i 1  i  1  x  , N   i i  N  1 де x  i , x i - вхідні змінні, поділені на дві групи у кількості   та (     ) ; i  1, 2 ,...,   - порядкові номери вхідних змінних x i ; 4 UA 99113 U i     1    2 ,...,  - порядкові номери вхідних змінних xi ; , 5 10 N - загальна кількість вхідних змінних x i та xi ;    0,1 2,...,  - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна мати , призначене значення "+1" для отримання виходу у(u)=+1; (     ) - максимальна кількість вхідних змінних xi , хоча б одна з яких повинна мати призначене значення "0" для отримання виходу у(u)=+1; на своєму виході, причому вихід блока суматора з'єднаний з входом активаційного блока, призначеного для отримання на своєму виході вихідного значення нейрону, згідно з пороговою функцією активації ,  1 u  0,5, yu   0, u  0,5 .  Комп’ютерна верстка І. Скворцова Державна служба інтелектуальної власності України, вул. Василя Липківського, 45, м. Київ, МСП, 03680, Україна ДП “Український інститут інтелектуальної власності”, вул. Глазунова, 1, м. Київ – 42, 01601 5