Нейрон “троянда3″

Реферат: UA 96453 U UA 96453 U 5 10 15 20 25 30 35 40 45 50 Корисна модель належить до нейрокібернетики і може бути використана в нейрокомп'ютерах, у штучних нейронних мережах, при розв'язанні задач логічної обробки даних. Відомий нейрон, який має вхідні змінні х1, х2,…, xj, …, xn, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj, …, wn, призначеного для отримання на своєму виході проміжної функції u1=F1(w1x1, w2x2,…, wjxj, …, wnxn)+A1, де А1 вільний член функції u1, яка призначена для розділу своєю поверхнею простору змінних х 1, х2,…, xj, …, хn на дві ділянки, з каналом для передачі значень проміжної функції u1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона у(u1), яка має вигляд порогової функції [1]. Недоліком цього нейрона є функціональна обмеженість, яка дає можливість розділити одним нейроном простір змінних лише на дві частки і не дозволяє одному нейрону розділити цей простір на задану довільну кількість ділянок. Ця функціональна обмеженість призводить до ускладнення і подорожчання нейронної мережі та до збільшення часу розрахунків через збільшення кількості нейронів для розв'язання вказаної проблеми. Найбільш близьким аналогом є відомий нейрон ADALINE, який має вхідні змінні х1, х2,…, xj, …, xn і вхідну постійну величину А, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj, …, wn, wA, призначеного для отримання на своєму виході проміжної функції u1=F1(w1x1, w2x2,…, wjxj, …, wnxn, wAA), яка призначена для розділу своєю поверхнею простору змінних x1, х2, …, xj, …, xn на ділянки, з каналом для передачі проміжної функції u1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона, і яка має вигляд порогової функції за величиною u1 [2]. Недоліком нейрона ADALINE є функціональна обмеженість, яка дає можливість розділити одним нейроном простір змінних лише на дві частки і не дозволяє одному нейрону ADALINE розділити цей простір х1, х2,…, xj, …, хn на задану довільну кількість ділянок. Ця функціональна обмеженість приводить до ускладнення і дорожчання нейронної мережі та до збільшення часу розрахунків через збільшення кількості нейронів для розв'язання вказаної проблеми. Причиною, яка перешкоджає одержанню очікуваного технічного результату у аналогу ADALINE (спрощення схеми нейронної мережі, спрощення розрахунків, зменшення вартості нейронної мережі, зменшення часу розрахунків) є особливості застосування порогової активаційної функції по величині проміжної функції u1, яка дозволяє розділити простір змінних х1, х2, …, xj, …, хn лише на дві частки. Недоліками нейрона ADALINE є функціональна обмеженість із-за розділу простору змінних х1, х2, …, xj, …, xn лише на дві ділянки, через що за необхідності розділу нейроном простору змінних на більшу кількість ділянок потрібно використати більшу кількість нейронів ADALINE, що підвищує вартість нейронної мережі та збільшує час отримання результатів рішення. В основу корисної моделі поставлено задачу підвищення функціональних можливостей за рахунок розділу одним нейроном простору вхідних змінних x1, х2,…, xj, …, xn на задану довільну кількість однакових ділянок. Це зменшує вартість, складність та час розрахунків у нейронній мережі із-за зменшення кількості нейронів для розв'язання проблеми. Загальні суттєві ознаки запропонованого нейрона "Троянда3", які співпадають з суттєвими ознаками аналога, полягають у тому, що нейрон "Троянда3" має вхідні змінні x1, х2,…, xj, …, xn, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj, …, wn, призначеного для отримання на своєму виході проміжної функції u1=F1(w1x1, w2x2,…, wjxj, …, wnxn), яка призначена для розділу своєю поверхнею простору змінних x1, х2,…, xj, …, xn на ділянки, з каналом для передачі значень проміжної функції u1 з виходу першого блоку на вхід другого блока нейрона з активаційною функцією. Суттєві ознаки запропонованого нейрона "Троянда3", що є достатніми у всіх випадках і характеризують запропонований нейрон на відміну від аналога, полягають у тому, що перший блок нейрона призначений для отримання виходу у вигляді проміжної функції u1=F1(w1x1, w2x2,…, wjxj, …, wnxn) без вільного члена, а другий блок нейрона має активаційну функцію, яка  серед множини ділянок незмінної величини u1 1  u1  const з порядковим номером 1=1, 2,  3,…, згідно з яким однакові за величиною ділянки u1 1 упорядковано розміщені вздовж осі u1 у 55 бік зростання величини проміжної функції u1, призначена для визначення вихідною функцією  нейрона цілочислового порядкового номера 1 ділянки u1 1 , у яку попадає вхідне значення другого блока нейрона u1, і яка має вигляд: 1 UA 96453 U  u  umin  1  1  Truns 1 1  ,  u1    де TrunsR - функція зрізання числа реального типу R до цілочислового значення у бік 5 10 15 20 25 зменшення R шляхом вилучення його дробової частини; min u1 - мінімальне значення u1, з якого починається розділ u1 на ділянки. Суть корисної моделі пояснюється кресленням, на яких наведено цифрові та символьні позначення елементів, які пояснюють роботу нейрона: Фіг. 1. Нейрон "Троянда3". Фіг. 2. Графік розділу одним нейроном "Троянда3" простору змінних x1 та u1 на окремі однакові ділянки. Фіг. 3. Графік розділу двома нейронами "Троянда3" простору змінних (х 1, х2) та (u1, u2) на окремі однакові ділянки. На Фіг. 1 використано наступні позначення: - 1 - перший блок нейрона "Троянда3"; - 2 - другий блок нейрона "Троянда3" з активаційною функцією; - x1, х2,…, xj……хn - вхідні змінні нейрона "Троянда3"; - w1, w2,…, wj, …, wn - вагові коефіцієнти входів нейрона "Троянда3"; - u1 - значення проміжної функції без вільного члена u1=F1(w1x1, w2x2,…, wjxj, …, wnxn) з виходу першого блока нейрона "Троянда3"; - 1 - вихід нейрону "Троянда3" у вигляді порядкового номера ділянки, у яку попадає вхідне значення другого блоку нейрону "Троянда3" u1. На Фіг. 2 використано наступні позначення: - x1=0…18 - ось вхідної змінної. Мінімальне числове значення змінної x1, яке охоплюється min аналізом нейрона "Троянда3", позначене як x1 =6; - u1=0…36 - ось значень проміжної функції виходу з першого блока нейрона "Троянда3". Мінімальне числове значення проміжної функції u1, яке охоплюється аналізом нейрона min "Троянда3", позначене як u1 =12; 1 - u1  6  const - довжина ділянок з порядковим номером 1, розташованих вздовж осі значень проміжної функції u1; 30 - порядкові номери ділянок, розміщених вздовж осі u1; довжина усіх  чотирьох ділянок вздовж осі u1 є однаковою і дорівнює u1 1  u1  6  const ; - 3 - вертикальні паралельні лінії (безперервна та штрихова), які виділяють ділянки з 35 40 порядковими номерами вздовж осі u1, що охоплюються аналізом нейрона "Троянда3". На Фіг. 3 використано наступні позначення: - x1, x2 - осі вхідних змінних для двох нейронів "Троянда3" при двох вхідних змінних: x1=0…50, x2=0…10; - u1=16…48 - ось значень проміжної функції виходу з першого блока першого нейрона "Троянда3". Мінімальне числове значення змінної u1, яке охоплюється аналізом першого min нейрона "Троянда3", позначене як u1 =16; - u2=-4…23 - ось значень проміжної функції виходу з першого блока другого нейрона "Троянда3". Мінімальне числове значення змінної u1, яке охоплюється аналізом другого нейрону min "Троянда3", позначене як u1 =- 4;  - u1 1  8  const - довжина ділянок з порядковим номером 1, які упорядковано укладаються  ; всі ділянки u1 1 є однаковими вздовж осі min вздовж осі u1 в сторону її зростання, починаючи з u1 45 значень проміжної функції u1; - u 2  9  const - розмір ділянок з порядковим номером 2, які упорядковано укладаються 2 ; всі ділянки u 2 є однаковими вздовж 2 min вздовж осі u2 в сторону її зростання, починаючи з u2 осі значень проміжної функції u2; 50 - порядкові номери ділянок, розміщених вздовж осі u1; довжина усіх  чотирьох ділянок вздовж осі u1 однакова і дорівнює u1 1  8 ; 2 UA 96453 U - порядкові номери ділянок, розміщених вздовж осі u2; довжина усіх трьох ділянок вздовж осі u2 однакова і дорівнює u 2  9 ; 2 - 4 - паралельні лінії (безперервна та штрихова), які виділяють ділянки з порядковими 5 10 15 номерами вздовж осі u1, що охоплюються аналізом першого нейрона "Троянда3"; - 5 - паралельні лінії (безперервна та штрихова), які виділяють ділянки з порядковими номерами вздовж осі u2, що охоплюються аналізом другого нейрона "Троянда3". Розглянемо суть роботи пропонованого нейрона "Троянда3". На кресленні (фіг. 1) показано загальну схему нейрона "Троянда3", у якому вхідні змінні x1, х2,…, xj, …, xn підключені до входів з ваговими коефіцієнтами w1, w2,…, wj, …, wn першого блока 1 нейрона "Троянда3". Виходом першого блока 1 є проміжна функція u1=F1(w1x1, w2x2,…, wjxj, …, wnxn) без вільного члена, яка підключена до входу другого блока 2 нейрона "Троянда3". Подана на вхід другого блока 2 нейрона "Троянда3" змінна u1 обробляється у другому блоці 2 активаційною функцією  u  umin  1  1  Truns 1 1  , (1)  u1    де TrunsR - функція зрізання числа реального типу R до цілочислового значення у бік зменшення R шляхом вилучення його дробової частини; min u1 - мінімальне значення u1, з якого починається розділ u1 на ділянки u1 ; 20 25 30 35  u1  u1 1  const - довжина ділянки (крок вздовж осі значень вхідної проміжної функції u1); вважаємо, що всі ділянки мають однакову довжину, яка на виході нейрону "Троянда3" (виході другого блоку 2 нейрону) видає порядковий номер ділянки, у яку попадає вхідне значення u1. Таким чином, подані на вхід нейрона "Троянда3" змінні х 1, x2, …, xj, …, хn у першому блоці 1 переробляються на числове значення проміжної функції u1=F1(w1x1, w2x2,…, wjxj, …, wnxn) без вільного члена, яка підключена до входу другого блока 2 нейрона "Троянда3". Блок 2 нейрону "Троянда3" своєю активаційною функцією (1) перетворює числове значення проміжної функції u1 на порядковий номер ділянки 1 серед множини ділянок, упорядковано розміщених вздовж осі u1 в сторону її збільшення. Для конкретних значень параметрів робота нейрона "Троянда3" пояснюється Фіг. 2 (один нейрон "Троянда3" з однією вхідною змінною x1) та Фіг. 3 (два нейрони "Троянда3", кожний з яких має дві вхідні змінні х1, х2). Нейрон "Троянда3" Фіг. 2 з однією вхідною змінною x1 розділяє простір змінної x1 та значень проміжної функції u1 на ділянки функцією нерівності: u1  w1x1  A 1 , (2) яка з використаним для Фіг. 2 значенням w1=2 (вагового коефіцієнта вхідної змінної x1) має вигляд: u1  2x1  A 1 , (3) де функції u1;  - порядкові номери ділянок, розміщених вздовж осі значень проміжної  40  min A 1  u1  u1 1  1  1  12  6  1  1 - числова величина вільного члена нерівностей (2) та 45 (3), яка при зміні значення 1 дискретно змінюється, що приводить до зсуву відповідної граничної прямої лінії нейрону по осях u1 та x1. У результаті для значень u1 та x1 один нейрон "Троянда3" замінює собою чотири нейрони ADALINE (по кількості вільних членів A1 , яка визначається за максимальною величиною 1); min u1  12 - мінімальне значення u1;  u1 1  6  const - розмір ділянок з порядковим номером 1, які упорядковано укладаються  min вздовж осі u1 в сторону її зростання, починаючі з u1 ; довжини всіх ділянок u1 1 є однаковими вздовж осі значень проміжної функції u1. 3 UA 96453 U Таким чином, подана на вхід нейрона "Троянда3" змінна x1 у першому блоці 1 (Фіг. 1) перераховується на числове значення проміжної функції u1 згідно з рівняннями (2) та (3), яка у другому блоці 2 нейрона "Троянда3" перетворює числове значення u1 на порядковий номер  ділянки u1 1 серед множини ділянок, упорядковано розміщених вздовж осі u1 в сторону її 5 10 15 збільшення. Для виконання дій одного нейрона "Троянда3" по осі u1 треба використати чотири нейрони типу ADALINE, що ускладнює нейронну мережу, збільшує її вартість та час виконання операцій приблизно у 4 рази. На Фіг. 3 два нейрони "Троянда3" при двох вхідних змінних х 1, х2 розділяють простір змінних (х1, х2) та (u1, u2) на ділянки своїми функціями нерівності. Перший нейрон "Троянда3" розділяє простір змінних (х 1, х2) та (u1, u2) на ділянки функцією нерівності: u1  w1x1  w 2 x 2   A 1 , (4) яка з використаними для Фіг. 3 значенням w1=0,8 та w2=2 (ваговими коефіцієнтами вхідних змінних x1 та х2) має вигляд: u1  0,8x1  2x2   A 1 , (5) де проміжної функції u1;  - порядковий номер ділянок, розташованих вздовж осі значень   min A 1  u1  u1 1  1  1  16  81  1 - числова величина вільного члена нерівностей (4) та 20 25 (5), яка при зміні значення 1 дискретно змінюється, що приводить до зсуву відповідної граничної прямої лінії нейрону по осях u1 та (х1, х2). В результаті перший нейрон "Троянда" замінює собою чотири нейрони ADALINE (за кількістю вільних членів A1 , яка визначається за максимальною величиною 1); min u1  16 - мінімальне значення u1;  u1 1  8  const - розмір ділянок з порядковим номером 1, які упорядковано укладаються  min вздовж осі u1 в сторону її зростання, починаючи з u1 ; всі ділянки u1 1 є однаковими вздовж 30 35 40 осі значень проміжної функції u1. Другий нейрон "Троянда3" розділяє простір змінних (х 1, х2) та проміжних функції (u1, u2) на ділянки функцією нерівності: u2  w1x1  w 2x2   A  2 , (6) яка з використаними для Фіг. 3 значенням w1=0,4 та w2=-3 (ваговими коефіцієнтами вхідних змінних x1 та х2) має вигляд: u2  0,4x1  3x2   A  2 , (7) де проміжної функції u2;  - порядковий номер ділянок, розташованих вздовж осі значень  A  2  umin  u 2   2  1   4  9 2  1 - числова величина вільного члена нерівностей (6) та 2 2 (7), яка при зміні значення 2 дискретно змінюється, що приводить до зсуву відповідної граничної прямої лінії нейрона по осях u2 та (х1, х2). В результаті другий нейрон "Троянда" замінює собою три нейрони ADALINE (за кількістю вільних членів A2 , яка визначається по максимальній величині 2); umin  4 - мінімальне значення u2; 2 u 2  9  const - розмір ділянок з порядковим номером 2, які упорядковано укладаються 2 ; всі ділянки u 2 є однаковими вздовж 2 min вздовж осі u2в сторону її зростання, починаючи з u2 45 50 осі значень проміжної функції u2. Таким чином, подані на вхід першого нейрона"Троянда3" змінні x1 та х2 у першому блоці 1 (Фіг. 1) перераховуються згідно з рівняннями (4) та (5) на числове значення проміжної функції u1, яка у другому блоці 2 нейрону "Троянда3" перетворює числове значення u1 на порядковий номер ділянки 1 серед множини ділянок, упорядковано розміщених вздовж осі u1 в сторону її збільшення. Аналогічно, подані на вхід другого нейрона "Троянда3" змінні х 1 та х2 у першому блоці 1 (Фіг. 1) перераховуються згідно з рівняннями (6) та (7) на числове значення проміжної функції u2, яка 4 UA 96453 U 5 10 у другому блоці 2 нейрона "Троянда3" перетворює числове значення u2 на порядковий номер ділянки 2 серед множини ділянок, упорядковано розміщених вздовж осі u2 в сторону її збільшення. Для виконання дій першого нейрона "Троянда3" треба використати чотири нейрони ADALINE, а для виконання дій другого нейрона "Троянда3" треба використати три нейрони ADALINE. У цілому для виконання дій двох нейронів "Троянда3" згідно з Фіг. 3 треба використати сім нейронів ADALINE і можна вважати, що за рахунок використання двох нейронів "Троянда3" складність нейронної мережі, її вартість та час виконання операцій зменшуються приблизно у 7/2=3,5 разу порівняно з використанням нейронів ADALINE. Використана інформація: 1. McCulloch W.S., Pitts W.A. A logical calculus of the ideas immanent in nervous activity // Bulletin of the Mathematical Biophysics. - № 5. - 1943. 2. Widrow В., Hoff M.E.Jr. Adaptive switching circuits // Western Conference Rec, IRE. - 1960. № 4. - P. 94-104. 15 ФОРМУЛА КОРИСНОЇ МОДЕЛІ Нейрон, який має вхідні змінні x1, x2,..., x j,..., xn , що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w 2,..., w j,..., wn , призначеного для отримання на своєму 20 виході проміжної функції u1  F1w1x1, w 2x2, ..., w jx j,..., wnxn  , яка призначена для розділу своєю поверхнею простору змінних x1, x2,..., x j,..., xn на ділянки, з каналом для передачі значень 25 проміжної функції u1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона, який відрізняється тим, що перший блок нейрона призначений для отримання виходу у вигляді проміжної функції u1  F w1x1, w 2x2, ..., w jx j,..., wnxn  без вільного члена, а другий блок нейрона має активаційну 1  функцію, яка серед множини ділянок незмінної величини u1 1  u1  const номером 1  1, 2, 3,... , згідно з яким однакові за величиною ділянки  u1 1 з порядковим упорядковано розміщені вздовж осі u1 у бік зростання величини проміжної функції u1, призначена для  визначення вихідною функцією нейрона цілочислового порядкового номера 1 ділянки u1 1 , у 30 яку попадає вхідне значення другого блока нейрона u1 , і яка має вигляд:  u  umin  1  1  Truns 1 1  ,  u1    де TrunsR - функція зрізання числа реального типу R до цілочислового значення у бік зменшення R шляхом вилучення його дробової частини; min u1 - мінімальне значення u1 , з якого починається розділ u1 на ділянки. 5 UA 96453 U Комп’ютерна верстка Д. Шеверун Державна служба інтелектуальної власності України, вул. Урицького, 45, м. Київ, МСП, 03680, Україна ДП “Український інститут промислової власності”, вул. Глазунова, 1, м. Київ – 42, 01601 6