Спосіб побудови нейро-нечітких мереж на основі асоціативних правил

Реферат: Спосіб побудови нейро-нечітких мереж полягає у тому, що беруть набір значень характеристик досліджуваних об'єктів або процесів, використовуючи які, визначають параметри нейро-нечіткої мережі, причому вимірюють значення характеристик діагностованих виробів, з виміряних характеристик формують базу транзакцій, далі здійснюють дискретизацію діапазону значень чисельних характеристик та генерують набори характеристик з рівнем підтримки, не нижчим за граничне значення, в результаті чого формують набори, що часто зустрічаються, на основі яких синтезують асоціативні правила з необхідним рівнем достовірності, після цього об'єднують правила з сусідніми інтервалами значень деяких змінних та видаляють надлишкові правила, далі з видобутих асоціативних правил створюють базу асоціативних правил, на основі якої синтезують структуру нейро-нечіткої мережі, а також визначають значення параметрів функцій належності та вагових коефіцієнтів нейро-нечіткої мережі; після чого для діагностування вимірюють значення діагностичних ознак для діагностованого виробу і подають їх на синтезовану нейро-нечітку мережу та виконують прийняття рішення стосовно значення прогнозованого параметра на основі значення виходу побудованої нейро-нечіткої мережі. UA 88634 U (12) UA 88634 U UA 88634 U 5 10 15 20 25 30 35 40 45 50 55 60 Корисна модель стосується кібернетики й обчислювальної техніки і може бути використана для побудови нейро-нечітких мереж - обчислювальних пристроїв для технічного або медичного діагностування за ознаками. Процесом як об'єктом технології є сукупність дій з вимірювання параметрів (ознак), які характеризують діагностовані вироби, перетворення даних про вироби для формування структури та визначення параметрів функціональних вузлів, а також керування процесом побудови нейро-нечіткої мережі з метою автоматизації технічного або медичного діагностування. Продуктами, щодо яких виконуються дії, є дані про значення параметрів діагностованих виробів. Продуктом, за допомогою якого виконуються дії, є електронно-обчислювальна машина (ЕОМ). Відомий спосіб побудови нейро-нечіткої мережі [1], прийнятий за прототип, який полягає в тому, що беруть набір значень характеристик досліджуваних об'єктів або процесів, після чого вручну задають архітектуру мережі, кількість нечітких термів та функцій належності, після чого за допомогою ЕОМ визначають параметри нейро-нечіткої мережі (значення вагових коефіцієнтів та параметрів функцій належності нейро-нечіткої мережі), мінімізуючи різницю між результатами нейро-нечіткої апроксимації та реальною поведінкою об'єкту шляхом обчислення модельного значення виходу об'єкту, що відповідає заданій архітектурі мережі, та частинних похідних, які характеризують чуттєвість похибки до зміни параметрів нейро-нечіткої мережі. Недоліками відомого способу є: необхідність участі людини для визначення архітектури нейро-нечіткої мережі, кількості нечітких термів та функцій належності до кожного нечіткого терму; висока ітераційність процесу визначення значень вагових коефіцієнтів та параметрів функцій належності та викликана нею низька швидкість процесу побудови нейро-нечіткої мережі; необхідність обчислення частинних похідних, які характеризують чуттєвість похибки до зміни параметрів нейро-нечіткої мережі; недостатньо високі апроксимаційні та узагальнюючі властивості побудованої нейро-нечіткої мережі внаслідок занесення багатьох об'єктів навчальної вибірки до її структури та параметрів. В основу корисної моделі поставлена задача створення способу побудови нейро-нечітких мереж з підвищеним рівнем автоматизації процесу побудови та точністю діагностування за синтезованими нейро-мережами. Поставлена задача вирішується тим, що у способі побудови нейро-нечітких мереж на основі асоціативних правил беруть набір значень характеристик досліджуваних об'єктів або процесів, використовуючи які визначають параметри нейро-нечіткої мережі. Причому вимірюють значення характеристик діагностованих виробів, з виміряних характеристик формують базу транзакцій, далі здійснюють дискретизацію діапазону значень чисельних характеристик та генерують набори характеристик з рівнем підтримки, не нижчим за граничне значення, в результаті чого формують набори, що часто зустрічаються, на основі яких синтезують асоціативні правила з необхідним рівнем достовірності, після цього об'єднують правила з сусідніми інтервалами значень змінних та видаляють надлишкові правила, далі звидобутих асоціативних правил створюють базу асоціативних правил, на основі якої синтезують структуру нейро-нечіткої мережі, а також визначають значення параметрів функцій належності та вагових коефіцієнтів нейро-нечіткої мережі; після чого для діагностування вимірюють значення діагностичних ознак для діагностованого виробу і подають їх на синтезовану нейро-нечітку мережу та виконують прийняття рішення стосовно значення прогнозованого параметру на основі значення виходу побудованої нейро-нечіткої мережі. У порівнянні з прототипом відмінними ознаками є: неітеративність процесу визначення значень вагових коефіцієнтів та параметрів функцій належності, що зменшує час побудови нейро-нечіткої мережі; автоматичне визначення структури нейро-нечіткої мережі, кількості нечітких термів та функцій належності на основі асоціативних правил, що виключає необхідність залучення людини до цього процесу; відсутність необхідності обчислення частинних похідних, які характеризують чуттєвість похибки до зміни параметрів нейро-нечіткої мережі, а також скорочення масивів даних, на основі яких створюється нейро-нечітка мережа, внаслідок чого забезпечується підвищення рівня автоматизації процесу побудови нейро-нечіткої мережі, точності діагностування, а також апроксимаційних та узагальнювальних властивостей синтезованих нейро-нечітких мереж. Причинно-наслідковий зв'язок взаємодії існуючих ознак з новими полягає в тому, що на основі виміряних значень характеристик діагностованих виробів в запропонованому способі формують базу транзакцій, використовуючи яку видобувають асоціативні правила, на основі яких визначають структуру нейро-нечіткої мережі, а також значення параметрів її функцій 1 UA 88634 U 5 10 15 належності та вагових коефіцієнтів, що дозволяє зменшити час побудови, підвищити точність діагностування за допомогою синтезованої нейро-нечіткої мережі, а також її апроксимаційні та узагальнювальні властивості. Технічним результатом корисної моделі є збільшення рівня автоматизації процесу побудови нейро-нечіткої мережі, що забезпечується автоматичним визначенням структури нейро-нечіткої мережі, кількості нечітких термів та функцій належності на основі асоціативних правил; підвищення точності діагностування за побудованою нейро-нечіткою мережею у порівнянні зі способом, прийнятим як прототип. У технічному рішенні, що заявляється, нові ознаки при взаємодії з відомими дають новий технічний результат, що дозволяє вирішити поставлену задачу. Таким чином, у порівнянні з прототипом запропоноване технічне рішення містить вищевказані істотні ознаки і, отже, відповідає вимозі "новизна". Ознаки, що відрізняють технічне рішення, яке заявляється, від прототипу, не виявлені в інших технічних рішеннях при вивченні цієї галузі техніки. Побудову нейро-нечіткої мережі здійснюють у такий спосіб. Спочатку випадковим чином із доступної множини виробів вибирають ND виробів для випробувань, після чого для кожного j -го відібраного виробу Tj , j  1 2,..., ND вимірюють ,   значення параметрів t1j , t 2 j ,..., t N j , які характеризують його стан або властивості стосовно T 20 25 30 j завдання діагностування, що вирішується, а також проводять випробування, у результаті яких вимірюють значення вихідного параметра Y . На основі отриманих експериментальних спостережень формують базу транзакцій (вибірку спостережень за діагностованими виробами) D  T1, T2 ,..., TND . Сформовану навчальну вибірку D у вигляді відповідних структур даних вводять до пам'яті ЕОМ. Далі виконують виявлення асоціативних правил вигляду X  Y на основі заданого набору даних D . Для цього генерують всі набори X з рівнем підтримки, не нижче заданого граничного значення minsupport( X ), у результаті чого формують набори X , що часто зустрічаються. Потім формують всі правила X  Y з рівнями вірогідності, не нижче заданого граничного значення minconfidence( X  Y ). При кількісних значеннях вихідного параметра Y та вхідних ознак X виконують розбиття (дискретизацію) діапазону їх можливих значень на інтервали. У результаті такого розбиття кожну j -ту транзакцію Tj представляють списком елементів t1j , t 2 j ,..., t N j , у якому кожний i -й  item j  елемент t ij представляють у вигляді: t ij = (елемент  a ; діапазон значень елемента  a ), при цьому множина I  1, 2 ,..., N  можливих значень, які можуть входити в список елементів t ij 1 кожної транзакції Tj , містить елементи  a : 35   a  a min ; a max  Nрозб  а  a min c ; a max c , a  1,2,...N1 , с 1 де a min й a max - мінімальне й максимальне значення, які може приймати a-й елемент  a множини I ;  a min c і a max c - мінімальне й максимальне значення c-го інтервалу розбиття значень a-го 40 45 елемента  a множини I ; Nрозб а - кількість інтервалів розбиття a-го елемента  a . Після дискретизації значень вихідної Y та вхідних X змінних виконують пошук асоціативних правил X  Y . При такому пошуку кожний діапазон дискретизації кожної змінної вважають окремим елементом, який може бути використаний при побудові асоціативного правила. При цьому послідовно виявляють всі правила для кожного можливого значення вихідного параметра Y . Таким чином, виконують пошук асоціативних правил для кожного з Nрозб Y , діапазонів розбиття вихідного параметра. У результаті такого пошуку виявляють Nпр правил вигляду: Правило b: Якщо Nb  Xa  Xa min b ; Xa max b  , то Y  Ymin b ; Ymax b  , b  1,2,..., Nпр , a1 де Nb - кількість ознак в b-му правилі X  Y ; 2 UA 88634 U X a min b та Xa max b - мінімальне та максимальне значення ознаки X a в b-му правилі, відповідно; Ymin b і Ymax b - мінімальне та максимальне значення вихідного параметра Y в b -му правилі, 5 відповідно. Після цього об'єднують правила з сусідніми інтервалами значень деяких змінних та видаляють надлишкові правила. Далі на основі виявлених раніше правил синтезують базу із Nпр правил, яку подають таким чином: Правило 1: Якщо 10 Правило2: Якщо N1  Xa  Xa min 1; Xa max 1  , то Y  Ymin 1; Ymax 1  ; a 1 N2  Xa  Xa min 2 ; Xa max 2  , то Y  Ymin 2 ; Ymax a1 … Правило Nпр : Якщо 2 ;  Xa  Xa min Nпр ; Xa max Nпр  , то Y  Ymin Nпр ; Ymax Nпр  . NNпр a 1 Після цього визначають параметри нейронів першого шару нейро-нечіткої мережі, які відповідають нечітким термам вхідних змінних з функціями належності  (1) , a  1,2,..., Nрозб а , ac 15 с  1,2,..., Nрозб а , де  (1) - функція належності a-ї ознаки c-му терму; ac NX - кількість вхідних параметрів X у базі правил; Nрозб а - кількість інтервалів розбиття a-ї ознаки. У випадку, якщо ознака X a є якісною, значення величини Nрозб а визначають рівним двом, для кількісних ознак значення величини 20 Nрозб а визначають в процесі дискретизації. Функцію належності задають виразом:  25 30 ( Xa MXac )2 2  e 2 Xac , де MXac - математичне сподівання a-ї ознаки X a в c-му термі;  Xac - середньоквадратичне відхилення значень ознаки X a в c-му термі від математичного сподівання; MXac - величина, що визначає ширину функції ac . Значення параметрів ( MXac ,  Xac ) визначають таким чином, щоб для кожної a-ї ознаки ширина функції належності ac для c-го терму визначалася виходячи із границь діапазонів значень ознаки X a на кожному з інтервалів розбиття її значень, знайдених раніше: (1) ac 1 ( X a min c  X a max c ) ; 2 Xa min c  NXac 1  Xac   Xa max c  Xa min c . 2 4 На входи нейронів другого шару подають значення виходів нейронів першого шару, що утворюють антецеденти правил. Далі за виходом кожного b-го нейрону, b  1,2,...Nпр , цього шару M Xac    35 визначають ступінь виконання відповідного правила: ( 2 )  min ( w ( 2,b ) (1) ) , ac ac b 40 де w ( 2,b ) - вагові коефіцієнти, що визначають наявність зв'язку між нейронами першого шару ac та відповідними нейронами другого шару, які й відображають наявність c-го терму a-ї ознаки в умові b-го правила. Після цього визначають нормалізовані ступені виконання правил за допомогою нейронів третього шару: a 1,2,... NX c 1,2,... Nрозб а 3 UA 88634 U ( 3 )  b ( 2) b Nпр , b  1,2,..., Nпр . ( 2) c с 1  Далі обчислюють лінійні комбінації вхідних ознак X a з урахуванням ступенів виконання правил та визначають виходи нейронів четвертого шару: 5 NX y b  ( 3 )  w ( 4,b ) Xa , b  1,2,..., Nпр . a b a 1 При цьому кожний b-й нейрон четвертого шару з'єднують з усіма входами мережі X a , a  1 2,..., NX , а також з b-м нейроном третього шару. , Вихід нейро-нечіткої мережі обчислюють як вихід нейрону п'ятого шару за формулою: y Nпр  yb . b 1 10 15 20 Після побудови нейро-нечіткої мережі виконують діагностування виробів на її основі. Для цього вимірюють значення діагностичних ознак x ij  для діагностованого виробу і подають їх на входи синтезованої нейро-нечіткої мережі, після чого виконують прийняття рішення стосовно значення прогнозованого параметру y на основі значення виходу побудованої нейро-нечіткої мережі. На основі запропонованого способу здійснювалася побудова нейро-нечіткої мережі для медичного діагностування нейро-артритичних аномалій. Було досліджено 344 пацієнти, внаслідок чого отримано результати вимірювань показників (ознак), що характеризували їх здоров'я. З виміряних характеристик сформовано базу транзакцій, яка містила ND  344 транзакції, кожна з яких представляла інформацію про конкретного пацієнта та характеризувалося декількома з NI  I  69 ознак. спостереження містило у середньому 14 ознак. Фрагмент бази транзакцій з пронормованими значеннями ознак наведено у табл. Кожне Таблиця Фрагмент бази транзакцій № транзакції Зміст транзакції 1 1  0,24 ;  26  0,17 ;  28  0,93 ; 32  1 0 ; 37  0,57 ; 39  0,17 ; 42  0,07 ; , ;  48  1 0 ; 52  0,49 ; 59  1 0 ; 62  0,61 ; 63  0,38 ; 67  0,78 , ,  46  0,31 18  0,33 ; 24  0,07 ; 29  0,72 ; 39  0,28 ;  0,62 ;  42  0,91 ;  48  1 0 ; 49  0,59 ; 51  0,49 ; 52  0,51 ; 55  1 0 ; , ,  1 0 ; 61  0,21 ; 62  0,28 ; 64  0,83 ; 67  0,15 ; 69  0,11 ,  3  0,18 ; 2  41 59  3  0,71 ; 3 4 6 12  1,0 ; 11  1,0 ; 12  1,0 ; 43  0,37 ;  45  0,21;  48 66  0,14 ; 68  0,77 21  0,60 ; 24  0,41 ; 31  0,98 ; 36  0,72 ;  1 0 ; 54  0,45 ; 55  1 0 ; 62  0,63 ; 64  0,51 ; , ,  2  0,96 ;  21  0,51 ; 27  0,34 ; 31  0,58 ; 37  0,69 ; 44  0,22 ; 45  0,84 ;  48  1 0 ; 54  0,17 ; 62  0,42 ; 63  0,45 ; 67  0,40 ,  9  0,03 ; 5 11  1,0 ; 11  1,0 ;  48  1 0 ; 50  0,13 ; , 64  0,14 20  0,91 ; 36  0,88 ;  41  0,71 ; 42  0,43 ;  0,08 ; 57  1 0 ; 59  1 0 ; 61  0,18 ; 63  0,31 ; , , 12  1,0 ; 54 1  0,86 ; 16  0,73 ; 18  0,17 ; 25  0,24 ; 31  0,43 ; 39  0,72 ; 42  0,94 ; , , 46  0,59 ;  48  1 0 ; 52  0,41 ; 59  1 0 ; 61  0,37 ; 63  0,52 ; 67  0,23 4 UA 88634 U Таблиця Фрагмент бази транзакцій № транзакції Зміст транзакції 19  0,43 ; 26  0,19 ; 29  0,83 ; 37  0,39 ;  0,88 ;  42  0,91 ; 47  0,09 ;  48  1 0 ; 50  0,31 ; 51  0,59 ; 52  0,71 ; ,  1 0 ; 59  1 0 ; 61  0,35 ; 62  0,28 ; 64  0,93 ; 65  1 0 ; 67  0,25 ; , , ,  0,34  5  0,29 ; 7  41 58 68 11  1,0 ; 12  1,0 ; 8 9 15 20 … 344 10  2  0,19 ; 11  1,0 ; 15  0,93 ; 24  0,27 ; 29  0,59 ; 34  0,33 ; 46  0,76 ; 50  0,78 ; 51  0,54 ; 54  0,31 ; 58  1 0 ; 61  0,19 ; 62  0,27 ; 63  0,21 ; , 65  1 0 ; 66  0,85 ; 68  0,49 , … 5  2  0,16 ; 14  0,92 ; 16  0,36 ; 30  0,77 ;  42  0,61 ;  45  0,82 ;  48  1 0 ; , ; 61  0,35 ; 64  0,57 53  0,09  5  0,35 ; 15  0,33 ; 17  0,27 ; 26  0,22 ; , 33  0,48 ; 39  0,62 ;  43  0,91 ; 45  0,39 ;  48  1 0 ; 51  0,81 ; 60  0,82 ; 62  0,50 ; 64  0,43 Далі були побудовані нейро-нечіткі мережі з використанням запропонованого способу та з використанням прототипу. Після цього побудовані нейро-нечіткі мережі використовувалися для виявлення взаємозв'язків між різними захворюваннями виду "Якщо встановлений набір діагнозів D1 , D 2 ,…, DkD і значення чисельних показників перебувають у певних межах x i  A iyj , то в пацієнта може бути встановлений діагноз y j " та для діагностування захворювань у нових пацієнтів. Для цього вимірювали значення діагностичних ознак, подавали їх на синтезовану нейро-нечітку мережу та виконували прийняття рішення стосовно значення прогнозованого параметру на основі значення виходу побудованої нейро-нечіткої мережі. Вирішення цієї задачі запропонованим способом дозволило побудувати нейро-нечітку мережу, що характеризується помилкою прогнозування 2,9 % (при використанні прототипу 4,7 %), що свідчить про збільшення апроксимаційних властивостей побудованої нейро-нечіткої мережі та зменшення часу її побудови. Технічним результатом внаслідок використання пропонованого способу є: збільшення рівня автоматизації процесу побудови нейро-нечіткої мережі, що виявляється у виключенні необхідності участі людини при визначенні структури нейро-нечіткої мережі, кількості нечітких термів та функцій належності; підвищення апроксимаційних властивостей синтезованого дерева рішень внаслідок збільшення точності прогнозування чи класифікації. Джерело інформації: 1. Schnitman, L.A Neurofuzzy Training Method for Mamdani-Like Structures [Text] /L. Schnitman, J.A.M. Felippe de Souza, T. Yoneyama// Proceedings of the 5th WSES Multi-conference on Circuits, Systems, Communications & Computers (CSCC 2001), July 2001. - Crete, Greece, 2001. - P. 573579. 25 ФОРМУЛА КОРИСНОЇ МОДЕЛІ 30 35 Спосіб побудови нейро-нечітких мереж, який полягає у тому, що беруть набір значень характеристик досліджуваних об'єктів або процесів, використовуючи які, визначають параметри нейро-нечіткої мережі, який відрізняється тим, що вимірюють значення характеристик діагностованих виробів, з виміряних характеристик формують базу транзакцій, далі здійснюють дискретизацію діапазону значень чисельних характеристик та генерують набори характеристик з рівнем підтримки, не нижчим за граничне значення, в результаті чого формують набори, що часто зустрічаються, на основі яких синтезують асоціативні правила з необхідним рівнем достовірності, після цього об'єднують правила з сусідніми інтервалами значень деяких змінних та видаляють надлишкові правила, далі з видобутих асоціативних правил створюють базу 5 UA 88634 U 5 асоціативних правил, на основі якої синтезують структуру нейро-нечіткої мережі, а також визначають значення параметрів функцій належності та вагових коефіцієнтів нейро-нечіткої мережі; після чого для діагностування вимірюють значення діагностичних ознак для діагностованого виробу і подають їх на синтезовану нейро-нечітку мережу та виконують прийняття рішення стосовно значення прогнозованого параметра на основі значення виходу побудованої нейро-нечіткої мережі. Комп’ютерна верстка А. Крулевський Державна служба інтелектуальної власності України, вул. Урицького, 45, м. Київ, МСП, 03680, Україна ДП “Український інститут промислової власності”, вул. Глазунова, 1, м. Київ – 42, 01601 6