Нейрон “троянда4″

Реферат: UA 96454 U UA 96454 U 5 10 15 20 25 30 35 40 45 50 55 Корисна модель належить до нейрокібернетики і може бути використана у нейрокомп'ютерах, у штучних нейронних мережах, при розв'язанні задач логічної обробки даних. Відомий нейрон, який має вхідні змінні х1, x2,…, xj,…, хn, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj, …, wn, призначеного для отримання на своєму виході проміжної функції u1=F1(w1x1, w2x2,…, wjxj,…, wnxn)+A1, де Α1 вільний член функції u1, яка призначена для розділу своєю поверхнею простору змінних х 1, x2,…, xj,…, хn на дві ділянки, з каналом для передачі значень проміжної функції u 1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона у(u1), яка має вигляд порогової функції [1]. Недоліком цього нейрона є функціональна обмеженість, яка дає можливість розділити одним нейроном простір змінних лише на дві частки і не дозволяє одному нейрона розділити цей простір на задану довільну кількість ділянок. Ця функціональна обмеженість призводить до ускладнення і подорожчання нейронної мережі та до збільшення часу розрахунків через збільшення кількості нейронів для розв'язання вказаної проблеми. Найбільш близьким аналогом є нейрон ADALINE, який має вхідні змінні х 1, x2,…, xj,…, хn, і вхідну постійну величину А, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj,…, wn, wA, призначеного для отримання на своєму виході проміжної функції u1=F1(w1x1, w2x2,…, wjxj,…, wnxn, wAA), яка призначена для розділу своєю поверхнею простору змінних х1, x2,…, xj,…, хn, на ділянки, з каналом для передачі значень проміжної функції u1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона у(u1), і яка має вигляд порогової функції за величиною u1 [2]. Недоліком нейрона ADALINE є функціональна обмеженість, яка дає можливість розділити одним нейроном простір змінних лише на дві частки і не дозволяє одному нейрону ADALINE розділити цей простір х1, x2,…, xj,…, хn, на задану довільну кількість ділянок. Ця функціональна обмеженість призводить до ускладнення і дорожчання нейронної мережі та до збільшення часу розрахунків через збільшення кількості нейронів для розв'язання вказаної проблеми. Причиною, яка перешкоджає одержанню очікуваного технічного результату у аналозі ADALINE (спрощення схеми нейронної мережі, спрощення розрахунків, зменшення вартості нейронної мережі, зменшення часу розрахунків), є особливості застосування порогової активаційної функції за величиною проміжної функції U1, яка дозволяє розділити простір змінних х1, x2,…, xj,…, хn, лише на дві частки. Недоліками прийнятого за аналог нейрона ADALINE є функціональна обмеженість через розділ простору змінних х 1, x2,…, xj,…, хn, лише на дві ділянки, через що за необхідності розділу нейроном простору змінних на більшу кількість ділянок потрібно використати більшу кількість нейронів ADALINE, що підвищує вартість нейронної мережі та збільшує час отримання результатів рішення. В основу корисної моделі поставлено задачу підвищення функціональних можливостей за рахунок розділу одним нейроном простору вхідних змінних х1, x2,…, xj,…, хn, на задану довільну кількість однакових ділянок. Це зменшує вартість, складність та час розрахунків у нейронній мережі із-за зменшення кількості нейронів для розв'язання проблеми. Загальні суттєві ознаки запропонованого нейрона "Троянда4", які співпадають з суттєвими ознаками аналога, полягають у тому, що нейрон "Троянда4" має вхідні змінні х 1, x2,…, xj,…, хn, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj,…,wn, призначеного для отримання на своєму виході проміжної функції u 1=F1(w1x1, w2x2,…,wjxj,…, wnxn), яка призначена для розділу своєю поверхнею простору змінних х 1, x2,…, xj,…, хn, на ділянки, з каналом для передачі значень проміжної функції u 1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона у(u1). Суттєві ознаки запропонованого нейрона "Троянда4", що є достатніми у всіх випадках і характеризують запропоновану корисну модель на відміну від аналога, полягають у тому, що перший блок нейрона має вихід у вигляді проміжної функції u1=F1(w1x1, w2x2,…, wjxj,…, wnxn) без вільного члена, другий блок нейрона з активаційною функцією з'єднаний через канал зв'язку з блоком даних, який має вектор нижніх границь u1 ділянок з неоднаковою довжиною: 1   1 u1 1  u1 1   u1 1  0, де u1 - нижні границі ділянок з неоднаковою довжиною Δ u1 , упорядковано розташованих 1 1 за порядковими номерами α1 вздовж осі значень проміжної функції u1; 1 UA 96454 U α1=1, 2,…, К - порядкові номери ділянок та нижніх границь цих ділянок u1 з неоднаковою 1 довжиною Δ u1 ; 1 К - загальна кількість ділянок довжиною Δ u1 вздовж осі значень проміжної функції u1, 5 та призначений, за допомогою використанням нерівності: 1 активаційної функції у вигляді логічної умови з y(u1) =0; y(u1) = α1, якщо u1  u1 1 та з початком перевірки нерівності u1  u1 з номера ділянки α1 = К, для визначення 1 10 15 20 25 30 цілочислового виходу нейрона у(u1), рівного порядковому номеру α1 ділянки Δ u1 , на яку 1 припадає значення вхідної змінної u1.· Передбачуваний нейрон "Троянда4" ілюструється кресленням, на яких наведені цифрові та символьні позначення елементів, які пояснюють роботу нейрона: Фіг. 1 - Нейрон "Троянда4". Фіг. 2 - Графік розділу одним нейроном "Троянда4" простору змінних x 1 та u1 на неоднакові ділянки. Фіг. 3 - Графік розділу двома нейронами "Троянда4" простору змінних (х 1, х2) та (u1, u2) на неоднакові ділянки. На Фіг. 1 використано наступні позначення: - 1 - перший блок нейрона "Троянда4"; - 2 - другий блок нейрона "Троянда4" з активаційною функцією; - х1, x2,…, xj,…, хn - вхідні змінні нейрона "Троянда4"; - w1, w2,…, wj,…, wn - вагові коефіцієнти входів нейрона "Троянда4"; - u1 - проміжна функція u1=F1(w1x1, w2x2,…, wjxj,…, wnxn) з виходу першого блока 1 нейрона "Троянда4"; - α1 - вихід нейрона "Троянда4" у вигляді порядкового номеру ділянки, у яку попадає вхідне значення проміжної функції u1. На Фіг. 2 використано наступні позначення: - x1=0…18 - вісь вхідної змінної. Мінімальне числове значення змінної Хі, яке охоплюється min аналізом нейрона "Троянда4", позначене як x1 =6; - u1=0-36 - вісь значень вихідної проміжної функції для першого блока нейрона "Троянда4". Мінімальне числове значення проміжної функції u1, яке охоплюється аналізом нейрона min "Троянда4", позначене як u1 =12; - Δ u1 - довжина ділянок з порядковим номером α1 вздовж осі значень проміжної функції u1; 1 35 40 45 - порядкові номери ділянок, розміщених вздовж осі u1; довжина усіх трьох ділянок вздовж осі u1 є не однаковою; - 3 - вертикальні паралельні лінії (безперервна та штрихова), які виділяють ділянки з порядковими номерами вздовж осі u1, що охоплюються аналізом нейрона "Троянда4". На Фіг. 3 використано наступні позначення: - х1, х2 - осі вхідних змінних для двох нейронів "Троянда4" при двох вхідних змінних: x 1=0-50, х2=0-10; - u1=16…48 - вісь значень вихідної проміжної функції з першого блока першого нейрона "Троянда4". Мінімальне числове значення проміжної функції u1, яке охоплюється аналізом min першого нейрона "Троянда4", позначене як u1 =16; - u2 = -4-23 - вісь значень вихідної проміжної функції з першого блока другого нейрона "Троянда4". Мінімальне числове значення проміжної функції u2, яке охоплюється аналізом min другого нейрона "Троянда4", позначене як u2 =- 4; -Δ u1 - довжина ділянок з порядковим номером α1, які упорядковано укладаються вздовж 1 mm осі u1 в сторону її зростання, починаючі з u1 50 ; всі ділянки Δ u1 є не однаковими по довжині і 1 упорядковано (за нумерацією, а не по довжині) розміщені вздовж осі значень проміжної функції u1; 2 UA 96454 U - Δ u2 2 - розмір ділянок з порядковим номером α2, які упорядковано за нумерацією укладаються вздовж осі и2 в сторону її зростання, починаючі з u2 ; всі ділянки Δ u2 є не min 2 однаковими вздовж осі значень проміжної функції u 2; 5 - порядкові номери ділянок, розміщених вздовж осі u1 довжина трьох ділянок вздовж осі u1 є неоднаковою; - порядкові номери ділянок, розміщених вздовж осі u2; довжина трьох ділянок вздовж осі u2 є неоднаковою; - 4 - паралельні лінії (безперервна та штрихова), які виділяють ділянки з порядковими 10 15 20 номерами вздовж осі u1, що охоплюються аналізом першого нейрона "Троянда4"; - 5 - паралельні лінії (безперервна та штрихова), які виділяють ділянки з порядковими номерами вздовж осі u2, що охоплюються аналізом другого нейрона "Троянда4". Розглянемо суть роботи пропонованого нейрона "Троянда4". На Фіг. 1 показано загальну схему нейрона "Троянда4", у якому вхідні змінні х1, x2,…, xj,…, хn підключені до входів з ваговими коефіцієнтами w1, w2,…, wj,…, wn першого блока 1 нейрона "Троянда4". Виходом першого блока 1 є проміжна функція u1=F1(w1x1, w2x2,…, wjxj,…, wnxn), яка підключена до входу другого блока 2 нейрона "Троянда4". Проміжна функція u1=F1(w1x1, w2x2,…, wjxj,…, wnxn) без вільного члена, подана на вхід другого блока 2 з активаційною функцією нейрона "Троянда4", розглядається як деяка змінна, вздовж осі якої u1 упорядковано розміщені ділянки з неоднаковою довжиною:   1 u1 1  u1 1   u1 1  0, де u1 - нижні границі ділянок з неоднаковою довжиною Δ u1 , які зберігаються у блоці 1 1 даних; 25 α1=1, 2,…, К - порядкові номери ділянок з неоднаковою довжиною Δ u1 та нижніх границь 1 цих ділянок u1 ; ділянки з довжинами Δ u1 вважаються упорядковано розташованими за 1 1 порядковими номерами αϊ вздовж осі значень проміжної функції u1; К - загальна кількість ділянок довжиною Δ u1 вздовж осі значень проміжної функції u1. 1 30 Блок 2 нейрона "Троянда4" має активаційну функцію, призначену за допомогою активаційної функції у вигляді логічної умови з використанням нерівності: y(u1) =0; y(u1) = α1, якщо u1  u1 1 (1) та з початком перевірки нерівності u1  u1 з номера ділянки α1 = К, для визначення 1 цілочислового виходу нейрона у(u1), рівного порядковому номеру α1 ділянки Δ u1 , на яку 1 35 40 припадає значення вхідної змінної u1. Таким чином, подані на вхід нейрона "Троянда4" змінні х1, x2,…, xj,…, хn у першому блоці 1 переробляються на числове значення проміжної функції u1=F1(w1x1, w2x2,…, wjxj,…, wnxn), яка підключена до входу другого блока 2 нейрона "Троянда4". Блок 2 нейрона "Троянда4" своєю активаційною функцією (1) перетворює числове значення проміжної функції u 1 на порядковий номер ділянки, яка визначається серед множини ділянок, упорядковано за своїми порядковими номерами розміщених вздовж осі u1 в сторону її збільшення. Для конкретних значень параметрів робота нейрона "Троянда4" пояснюється Фіг. 2 (один нейрон "Троянда4" з однією вхідною змінною x1) та Фіг. 3 (два нейрони "Троянда4" з двома вхідними змінними х1, х2). Нейрон "Троянда4" з однією вхідною змінною x 1 (Фіг. 2) розділяє простір змінних x1 та u1 на ділянки функцією нерівності u1=w1x1  u1 , 1 (2) 3 UA 96454 U яка з використаним для Фіг. 2 значенням w1=2 (вагового коефіцієнту вхідної змінної x1) має вигляд u1=2x1  u1 , 1 (3) - порядкові номери неоднакових за довжиною Δ u1 ділянок, 1 розміщених за порядковими номерами вздовж осі значень проміжної функції u 1; де 5   u1 1 - нижні граничні значення неоднакових довжин (відрізків) ділянок Δ u1 1 , розміщених вздовж осі u1 за порядковими номерами α1. Це числова величина вільного члена нерівностей (2) та (3), яка при зміні значення αϊ дискретно змінюється, що призводить до зсуву відповідної граничної прямої лінії нейрона по осях u1 та x1. У результаті один нейрон "Троянда4" замінює собою три нейрони ADALINE (за кількістю вільних членів 10 максимальною величиною α1); min u1 =12 - мінімальне значення u1; Δ u1 1  u1 1 , яка визначається за - розмір ділянок з порядковим номером α 1 які упорядковано за нумерацією укладаються вздовж осі u1 в сторону її зростання, починаючі з u1 15 20 25 ; всі ділянки Δ u1 є не min 1 однаковими по довжині вздовж осі значень проміжної функції u1. Таким чином, подана на вхід нейрона "Троянда4" змінна x1 у першому блоці 1 (Фіг. 1) перераховується на числове значення проміжної функції u1 згідно з рівняннями (2) та (3), яке у другому блоці 2 нейрона "Троянда4" перетворюється на порядковий номер ділянки серед множини ділянок, упорядковано розміщених вздовж осі u1 в сторону її збільшення. Для виконання дій одного нейрона "Троянда4" треба використати три нейрони ADALINE, що ускладнює нейронну мережу, збільшує її вартість та час виконання операцій приблизно в 3 рази. На Фіг. 3 два нейрони "Троянда4" при двох вхідних змінних x 1, х2 розділяють на ділянки своїми функціями нерівності простір двох змінних (х1, х2) та двох проміжних функцій (u1, u2). Перший нейрон "Троянда4" розділяє простір змінних (х1, х2) та (u1, u2) на ділянки функцією нерівності: (4) u1 = (w1x1+w2x2)  u1 , 1 яка з використаними для Фіг. 3 значеннями w1=0,8 та w2=2 (ваговими коефіцієнтами вхідних змінних x1 та х2) має вигляд: u1 = (0,8x1+2x2)  u1 , 1 де проміжної функції u1; 30 35 (5) - порядковий номер ділянок, розташованих вздовж осі значень   u1 1 - нижнє граничне значення неоднакових ділянок Δ u1 1 вздовж осі u1 Фіг. 3. Це числова величина вільного члена нерівностей (4) та (5), яка при зміні значення α1 дискретно змінюється, що призводить до зсуву відповідної граничної прямої лінії нейрона по осях u1 та (х1, х2). У результаті один нейрон "Троянда4" замінює собою три нейрони ADALINE (за кількістю вільних членів u1 , яка визначається за максимальною величиною α1); 1 min u1 =16 - мінімальне значення u1; Δ u1 - розмір ділянок з порядковим номером α 1 які упорядковано укладаються вздовж осі u1 1 min в сторону її зростання, починаючі з u1 40 ; всі ділянки Δ u1 є неоднаковими вздовж осі значень 1 проміжної функції u1. Другий нейрон "Троянда4" розділяє простір змінних (х 1, х2) та (u1, u2) на ділянки функцією нерівності: (6) u2 = (w1x1+w2x2)  u2 , 2 яка з використаними для Фіг. 3 значенням Wi=0,4 та w2=-3 (ваговими коефіцієнтами вхідних змінних х1 та х2) має вигляд: u2 = (0,4x1+3x2)  u2 , 2 (7) 4 UA 96454 U де проміжної функції u2; 5 - порядковий номер ділянок, розташованих вздовж осі значень u2 - нижче граничне значення неоднакових ділянок Δ u2 вздовж осі u2 є елементом, що 2 2 входить у активаційну функцію. Це числова величина вільного члена нерівностей (6) та (7), яка при зміні значення α2 дискретно змінюється, що призводить до зсуву відповідної граничної прямої лінії нейрона за осями u2 та (х1, х2). В результаті один нейрон "Троянда4" замінює собою три нейрони ADALINE (за кількістю вільних членів u2 , яка визначається за максимальною 2 min величиною α2); u2 =- 4 - мінімальне значення u2; Δ u2 - розмір ділянок з порядковим номером α2, які упорядковано укладаються вздовж осі 2 10 15 20 25 ; всі ділянки Δ u2 є неоднаковими вздовж осі значень min u2 в сторону її зростання, починаючі з u2 2 проміжної функції u2. Таким чином, подані на вхід першого нейрона "Троянда4" змінні х1 та х2 у першому блоці 1 (Фіг. 1) перераховуються згідно з рівняннями (4) та (5) на числове значення проміжної функції, яка у другому блоці 2 нейрона "Троянда4" перетворює числове значення u1 на порядковий номер ділянки α1, множина яких упорядковано розміщена за їх нумерацією вздовж осі u 1. Аналогічно, подані на вхід другого нейрона "Троянда4" змінні x1 та х2 у першому блоці 1 (Фіг. 1) перераховуються згідно з рівняннями (6) та (7) на числове значення проміжної функції u 2, яка у другому блоці 2 другого нейрона "Троянда4" перетворює числове значення u2 на порядковий номер ділянки α2, множина яких упорядковано розміщена за їх нумерацією вздовж осі u 2. Для виконання дій першого та другого нейрона "Троянда4" треба використати по три нейрони ADALINE. У цілому для виконання дій двох нейронів "Троянда4" згідно Фіг. 3 треба використати шість нейронів ADALINE (можна вважати, що за рахунок використання двох нейронів "Троянда4" складність нейронної мережі, її вартість та час виконання операцій зменшуються приблизно у 6/2=3 рази). Використана інформація: 1. McCulloch W.S., Pitts W.A. A logical calculus of the ideas immanent in nervous activity // Bulletin of the Mathematical Biophysics. - № 5. - 1943. 2. Widrow В., Hoff M.E.Jr. Adaptive switching circuits // Western Conference Rec, IRE. - 1960. № 4. - P. 94-104. 30 ФОРМУЛА КОРИСНОЇ МОДЕЛІ 35 40 Нейрон, який має вхідні змінні х1, x2,…, xj,…, хn, що з'єднані з входами першого блока нейрона з відповідними ваговими коефіцієнтами w1, w2,…, wj,…, wn, призначеного для отримання на своєму виході проміжної функції u1= F1(w1x1, w2x2,…,wjxj,…, wnxn), яка призначена для розділу своєю поверхнею простору змінних х1, x2,…, xj,…, хn, на ділянки, з каналом для передачі значень проміжної функції u1 з виходу першого блока на вхід другого блока нейрона з активаційною функцією, призначеною для отримання вихідної функції нейрона у(u 1), який відрізняється тим, що перший блок нейрона має вихід у вигляді проміжної функції u1= F1(w1x1, w2x2,…,wjxj,…, wnxn), без вільного члену, другий блок нейрона з активаційною функцією  з'єднаний через канал зв'язку з блоком даних, який має вектор нижніх границь u1 1 ділянок з неоднаковою довжиною:   1 u1 1  u1 1 45   u1 1  0,   де u1 1 - нижні границі ділянок з неоднаковою довжиною Δ u1 1 , упорядковано розташованих за порядковими номерами 1 вздовж осі значень проміжної функції u1;  1 = 1, 2,…, К - порядкові номери ділянок та нижніх границь цих ділянок u1 1 з неоднаковою  довжиною Δ u1 1 ;  К - загальна кількість ділянок довжиною Δ u1 1 вздовж осі значень проміжної функції u1, 50 та призначений, за допомогою активаційної функції у вигляді логічної умови з використанням нерівності:  y(u1) =0; y(u1) = 1, якщо u1  u1 1 5 UA 96454 U  та з початком перевірки нерівності u1  u1 1 з номера ділянки 1 = К, для визначення  цілочислового виходу нейрона у(u1), рівного порядковому номеру 1 ділянки  u1 1 , на яку припадає значення вхідної змінної u1. Комп’ютерна верстка Л. Литвиненко Державна служба інтелектуальної власності України, вул. Урицького, 45, м. Київ, МСП, 03680, Україна ДП “Український інститут промислової власності”, вул. Глазунова, 1, м. Київ – 42, 01601 6