Нейрон “t_or_1″

Реферат: UA 102141 U UA 102141 U 5 10 15 20 25 30 35 40 45 50 55 Корисна модель належить до нейронів, призначених для реалізації логічних рішень та логічних функцій, які використовується в нейрокібернетиці і можуть бути застосовані в нейрокомп'ютерах та в штучних нейронних мережах при розв'язанні задач логічної обробки даних. Зазвичай у багатошаровій нейронній мережі перший шар виконує функцію нормалізації та розмноження вхідних змінних, кожний нейрон другого шару виконує функцію розділу простору ознак об'єктів на дві частки. Нейрони другого шару мають виходи у вигляді активаційних функцій із пороговими значеннями, наприклад, "0" або "+1". Тому можна вважати, що наступні шари нейронів, по суті, виконують логічні операції. Ми будемо розглядати особливості використання багатовхідної логічної функції, яку лише умовно можна назвати функцією "OR" у зв'язку з тим, що вона повинна видавати на виході "+1", якщо хоча б одна з багатьох вхідних змінних має заздалегідь призначене їй значення "-1" або "+1". Відомий нейрон [1, с. 62-63], який виконує стандартну булівську функцію "OR" і складається з послідовно з'єднаних блока суматора та активаційного блока, з входами у блок суматора, які мають вагові коефіцієнти "+1" і призначені для введення у блок суматора вхідних змінних з базовими значеннями "0" або "+1", перемножених на відповідні вагові коефіцієнти "+1" входів блока суматора, вихід якого з'єднаний з входом активаційного блока з пороговою функцією активації та з виходом нейрона "0" або "+1", у якому блок суматора призначений для отримання суми: u  x1  x2  0,5 , де х1, х2 - вхідні змінні, на своєму виході, причому вихід блока суматора з'єднаний з входом активаційного блока, призначеного для отримання на своєму виході вихідного значення нейрона згідно з пороговою функцією u  x1  x2  0,5 Недоліками цього нейрона є ускладнення нейронної мережі та виконання додаткових операцій, що призводить до збільшення вартості нейронної мережі особливо при його застосуванні в мережах зі збільшеною кількістю вхідних змінних. Найбільш близьким аналогом до заявленого нейрона є пристрій, який отримується за відомим методом аналізу, що реалізує логічну функцію у вигляді таблиці істинності зі вхідними значеннями змінних та виходом, що набувають значень "0" або "+1". Безпосередньо таблиці істинності не використовуються в нейронних мережах, а будь-який її вихід звичайно розглядається на базі використання сукупності стандартних булівських функцій, які широко описані у фаховій літературі щодо нейронних мереж [1, с. 62-63]. Тому таблицю істинності при багатьох вхідних змінних можна розглядати як складну нейронну схему, складену зі стандартних булівських функцій у вигляді нейронів з вихідним та вхідними значеннями змінних "0" або "+1" при рівності "+1" вагових коефіцієнтів входів, яка має значення виходу "+1" при заданих варіантах значень усіх вхідних змінних [2]. Причини, які перешкоджають одержанню очікуваного технічного результату найближчого аналога у вигляді пристрою для одного виходу таблиці істинності (спрощення нейронної мережі та розрахунків, що призводить до зменшення вартості нейронної мережі; розширення логічних можливостей) є обмеженість у виборі стандартних булівських логічних операцій, порівняно з теоретично можливими. Недоліками найближчого аналога є ускладнення нейронної мережі та виконання додаткових операцій, що призводить до збільшення вартості нейронної мережі особливо при збільшенні кількості вхідних змінних. При застосуванні булівських функцій їх базові величини звичайно не згадуються. Пояснюється це тим, що якщо змінити значення вхідних змінних х1, х2 та виходу у(u) з базових величин ("0" або "+1") на базові величини ("-1" або "+1"), то структура нейрона не змінюється (лише в суматорі та активаційному блоці постійна величина з "0,5" замінюється на "-0,5"), такий нейрон має аналогічні описані вище недоліки при використанні. При зміні базових величин також не змінюється й нейронна мережа, складена з нейронів, що виконують булівські функції. В основу корисної моделі поставлено задачу: - отримання логічної аналогії з відомою булівською функцією OR: можливість отримати на виході "+1", якщо одна будь-яка вхідна змінна дорівнює "+1"; - спрощення нейронної мережі за рахунок заміни одним нейроном багатьох нейронів у вигляді набору нейронів, які виконують стандартні булівські функції; - спрощення розрахунків у нейронній мережі шляхом заміни ряду проміжних вирішальних функцій та відповідних їм активаційних функцій стандартних булівських функцій на одну вирішальну та активаційну функцію; - отримання додаткових можливостей логічного висновку. 1 UA 102141 U 5 10 Загальні суттєві ознаки запропонованого нейрона T_OR_1, які співпадають із суттєвими ознаками найближчого аналогу, полягають у тому, що нейрон T_OR_1 складається з послідовно з'єднаних блока суматора та активаційного блока, з входами у блок суматора, які мають вагові коефіцієнти "+1" і призначені для введення у блок суматора вхідних змінних з базовими значеннями "-1" або "+1", перемножених на відповідні вагові коефіцієнти "+1" входів блока суматора, вихід якого з'єднаний з входом активаційного блоку з пороговою функцією активації та з виходом нейрона "-1" або "+1". Суттєві ознаки запропонованого нейрона, що є достатніми у всіх випадках і характеризують запропоновану корисну модель на відміну від найближчого аналога, полягають у тому, що довільна кількість входів N у блок суматора поділена на дві групи для вхідних змінних u  x1  x 2  0,5 та u  x1  x 2  0,5 у кількості відповідно  та (    ) , з яких, для   отримання виходу нейрона у(и)=+1, хоча б одна вхідна змінна x i ,i  1, 2, ...,  , з першої  групи входів у кількості  , повинна мати призначене для першої групи значення x    i   1 , або  , i    1,   2 , ... ,  , з другої групи входів у кількості (    ) , повинна мати призначене для другої групи значення x  i 1 , блок суматора хоча б одна вхідна змінна x i  15 призначений для отримання суми: N    1  x  u   1  xi  i 1 N   (1) i i  N 1 ,  20 де x i , x  i - вхідні змінні, поділені на дві групи у кількості    та (    ) ; i  1, 2 , ... ,   - порядкові номери вхідних змінних x i ; i     1,    2 , ... ,  - порядкові номери вхідних змінних x  i ; N - загальна кількість вхідних змінних x  i та x  i ;    0,1, 2, ...,  - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна 25 мати призначене значення "+1" для отримання виходу у(u)=+1; (    ) - максимальна кількість вхідних змінних x  i , хоча б одна з яких повинна мати 30 призначене значення "-1" для отримання виходу у(u)=+1; на своєму виході, причому вихід блока суматора з'єднаний з входом активаційного блока, призначеного для отримання на своєму виході вихідного значення нейрона згідно з пороговою функцією активації  1, u  0,5, yu     1, u  0,5 . (2) Передбачуваний нейрон ілюструється кресленнями, на яких наведено: 35 Фіг. 1. Простір ознак класів 1 ,  2 . Фіг. 2. Структурна схема нейрона "T_OR_1". Фіг. 3. Варіант використання структурної схеми нейрона "T_OR_1". На Фіг. 1 позначено: x1 , õ 2 - осі координат; - 1 ,  2 - позначення класів об'єктів та їх розміщення; - z1 , z 2 - активаційні функції нейронів, які розділяють класи об'єктів. 40 На фіг. 2 позначено: x i , x  i - вхідні змінні, поділені на дві групи; 2 UA 102141 U i  1, 2 , ... ,   - порядкові номери вхідних змінних x i ; i     1,    2 , ... ,  - порядкові номери вхідних змінних x  i ;   N - загальна кількість вхідних змінних x i та x i ;  - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна мати 5 призначене значення "+1" для отримання виходу у(u)=+1; (    ) - максимальна кількість вхідних змінних x  i , хоча б одна з яких повинна мати 10 15 призначене значення "-1" для отримання виходу у(u)=+1; u - значення проміжної вирішальної функції нейрона "T_OR_1" на виході блока суматора 1; у(u) - значення виходу нейрона згідно з активаційною функцією нейрона: "T_OR_1" на виході активаційного блока 2; 1 - блок суматора з формулою проміжної вирішальної функції нейрона: "T_OR_1"; 2 - активаційний блок з пороговою функцією активації на виході нейрона з виходом "-1" або "+1". На основі таблиці істинності розглянемо особливості застосування в ролі нейронів логічних булівських функції з двома вхідними змінними (х 1, х2) та виходом уі, де і=1,2,…, 16 - порядковий номер виходу, три коефіцієнти входів нейронів рівним 1 [1, с. 62-63]. Таблиця Таблиця істинності нейрона з двома вхідними змінними х 1 та х2 x1 20 25 30 35 40 x2 y1 y2 y3 y4 y5 y6 y7 y8 y9 y1 y11 y12 y13 y14 y15 y16 -1 -1 1 1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 0 1 -1 -1 1 -1 -1 -1 1 1 -1 1 -1 -1 -1 1 -1 1 -1 1 1 -1 -1 1 1 1 1 -1 -1 -1 1 -1 -1 1 1 -1 1 -1 1 -1 1 1 1 1 -1 -1 1 1 -1 1 1 1 1 -1 1 1 1 1 Із множини булівських функцій двох змінних згідно з табл. 1 при теоретичному аналізі нейронних мереж звичайно розглядаються лише виділені сірим фоном стандартні булівські функції "AND", "OR", "XOR" (у2, у8, у10)· Відомо, що більш складні логічні залежності можна отримати за допомогою вказаних стандартних булівських функцій або за допомогою таблиць істинності типу, що наведено у таблиці. Недоліки використання лише стандартних булівських функцій "AND", "OR", "XOR" (у1, У8, У10) можна визначити на основі розподілу класів 1 та  2 Фіг. 1 та таблиці. На Фіг. 1 наведено активаційні функції z1 та z2 у вигляді двох поряд розмішених безперервної та штрихової паралельних ліній. Наприклад, вважаємо, що з боку штрихової лінії нерівність z1  0,5 виконується, а з протилежного боку - ні (тобто z1 < 0,5). Із Фіг 1 видно, що клас 1 має дві ділянки, і класифікований об'єкт може потрапити в однієї з цих ділянок. Оскільки об'єкт належить до одного класу 1 , то незалежно від того, в яку ділянку класу 1 він потрапив, ми використовуємо логічну умову OR (функція у8 табл. 1) і виконуємо відповідні дії. Але в дійсності цілком може статися, що умови роботи конкретного пристрою вимагають, щоб ми прийняли рішення за функцією y8 не в повному обсязі, наприклад, а згідно з функцією у4 або у6. Ці функції ми можемо описати за допомогою ряду стандартних булівських функцій, але це ускладнить нейронну систему (наприклад, результат можна отримати за допомогою використання для однієї з вхідних змінних додаткової стандартної булівської функції NOT). Тобто при отриманні логічних висновків з двох вхідних змінних x1 або х2 може виникнути потреба у однаковому виході, якщо будь-яка одна з цих двох вхідних змінних набуває заздалегідь призначену їй величину ("+1" або "-1"). Із цього видно, що при використанні стандартних булівських функцій навіть для двох вхідних змінних не завжди отримується оптимальна конфігурація нейронної мережі. Задача ускладнюється при використанні багатьох вхідних змінних. Подібна обмеженість ускладнює апаратну та програмну реалізацію нейронних мереж, викликає її подорожчання внаслідок виконання ускладнених розрахунків та більшої кількості елементів. 3 UA 102141 U 5 У нейронних мережах одна пропонована логічна функція T_OR_1 може об'єднати в єдине ціле клас, який у просторі ознак складається з багатьох ділянок. Пропонований нейрон T_OR_1 зображено на Фіг. 2. Нейрон T_OR_1 має вихідне та базові вхідні значення змінних "-1" або "+1" при рівності "+1" вагових коефіцієнтів входів і може мати вихід "+1", коли хоча б одна з вхідних змінних набуває призначене їй значення "-1" або на Фіг. 2 блок суматора 1 вміщує проміжну вирішальну функцію нейрона T_OR_1 у вигляді формули (1), а активаційний блок 2 вміщує вихідну порогову функцію активації у вигляді формули (2). Розглянемо роботу нейрона TORI на Фіг. 2 при забезпеченні заданих умов: 1. 10 N вхідні  дані    . дорівнюють: За формулою (1)   1  x    1  x  u   1  xi  N N   отримуємо  , і у випадку наявності хоча б одного сигналу xi   1 , згідно з формулою (2), значення виходу у(u)=+1. Сама формула (1) в цьому випадку i 1 i  спрощується до i 1 i  N 1  N  u   1  xi i 1 2. вхідні дані дорівнюють: x N  із відповідним спрощенням структурної схеми до вигляду фіг. 3;  i  1, a x  i  1 . За формулою (1) отримуємо   1  x   2N u   1  xi  15 i N i  N  1  i     2 N  N   2N , і, згідно з формулою (2), значення виходу y(u)=+1. Щоб вихід отримав значення у(u)=0, потрібно ввести всі значення вхідних i 1   20 змінних x i  1, x i  1 Використання запропонованого винаходу дозволяє спростити нейронну мережу і розрахунки та отримати додаткові можливості логічного висновку. Використана інформація: 1. Руденко О. Г. Штучні нейронні мережі / О. Г. Руденко, Є. В. Бодянський. - Харків: ТОВ "Компанія СМІТ", 2006. - 404 с 2. Шапорев С. Д. Математическая логика. Курс лекций и практических занятий / С. Д. Шапорев. - СПб.: БХВ - Петербург, 2005. - 416 с. 25 ФОРМУЛА КОРИСНОЇ МОДЕЛІ 30 Нейрон T_OR_1, який складається з послідовно з'єднаних блока суматора та активаційного блока, з входами у блок суматора, які мають вагові коефіцієнти "+1" і призначені для введення у блок суматора вхідних змінних з базовими значеннями "-1" або "+1", перемножених на відповідні вагові коефіцієнти "+1" входів блока суматора, вихід якого з'єднаний з входом активаційного блока з пороговою функцією активації та з виходом нейрона "-1" або "+1", який відрізняється тим, що довільна кількість входів N у блок суматора поділена на дві групи для вхідних змінних x i та xi у кількості відповідно   та (     ) , з яких, для отримання виходу нейрона у(u)=+1, хоча б одна вхідна змінна x  i , i  1, 2,...,   , з першої групи входів у кількості 35   , повинна мати призначене для першої групи значення x  i   1 , або хоча б одна вхідна змінна x  i , i     1,    2 ,...,  , з другої групи входів у кількості (     ) , повинна мати призначене для другої групи значення x  i  1 , блок суматора призначений для отримання суми: N u  1  x    1  x  i1 40  i N iN 1  i (1) де x  i , x i - вхідні змінні, поділені на дві групи у кількості   та (     ) ; i  1, 2 ,...,   - порядкові номери вхідних змінних x i ; i     1    2 ,...,  - порядкові номери вхідних змінних xi ; , N - загальна кількість вхідних змінних x i та xi ; 4 UA 102141 U    0,1 2,...,  - максимальна кількість вхідних змінних x i , хоча б одна з яких повинна мати , 5 призначене значення "+1" для отримання виходу у(u)=+1; (     ) - максимальна кількість вхідних змінних xi , хоча б одна з яких повинна мати призначене значення "-1" для отримання виходу у(u)=+1, на своєму виході, причому вихід блока суматора з'єднаний з входом активаційного блока, призначеного для отримання на своєму виході вихідного значення нейрона згідно з пороговою функцією активації: ,  1 u  0,5, yu   ,  1 u  0,5 . Комп’ютерна верстка І. Мироненко Державна служба інтелектуальної власності України, вул. Василя Липківського, 45, м. Київ, МСП, 03680, Україна ДП "Український інститут інтелектуальної власності", вул. Глазунова, 1, м. Київ – 42, 01601 5