Спосіб класифікації об’єктів в умовах неповної та нечіткої інформації
Номер патенту: 72155
Опубліковано: 17.01.2005
Формула / Реферат
Спосіб класифікації об’єктів в умовах неповної та нечіткої інформації, що включає поетапне подавання на входи мережі екземплярів об’єктів, обчислення рівня збудження нейрона, настроювання ваг, який відрізняється тим, що включає операцію кластеризації нейронів шляхом введення та перетворення даних у багатофункціональному пристрої, що програмується, а саме: ПЕОМ, після виконання операції обчислювання рівня збудженості нейрона та до операції настроювання ваг.
Текст
Винахід відноситься до обчислювальної техніки, а саме, до проектування інтелектуальних систем (ИС) у задачах класифікації. В умовах сьогодення для задач класифікації використовуються переважно нейроні мережі [1], більшість яких відома з загально доступної літератури [2, 4], інші ж методи є модифікаціями існуючих що носять вузько специфічний характер та не можуть бути придатними для вирішення широко класу задач. Способи, що є загальними, відрізняються методами навчання (з вчителем чи без вчителя), алгоритмом підстройки сінаптичній ваги, але однією з основних проблем є неузгодженість типів нейронів при проектуванні мережі. Існують дві основних концепції щодо використання типів нейронів у нейромережах: використовува ти тільки один тип нейрона (переважно прецептрон [2, 4]) - збуджуючий нейрон, використовувати два типи нейронів - збуджуючий та гальмуючий [2]. Кожна з цих концепцій має свої об'єктивні переваги. Використання тільки збуджуючих нейронів робить задачу навчання більш простою, тому що при використанні однотипних елементів потрібно виконання меншої кількості обчислювальних операцій та алгоритми корекції сінаптичної ваги є спільними для всіх нейронів, виходячи з цього - навчання мережі є більш бистрим та спосіб проектування мережі є нескладним та доступним для реалізації на персональних ЕОМ. Також значної структурної різниці між нейронами, що виконують гальмуючи та збуджуючи функції, виходячи з сучасних досягнень нейрофізіології, немає. Використання двох типів нейронів робить функціонування мережі у режимі нормальної роботи хуткішим, якість класифікації більш високо. Окрім того, у нейрофізіології на даний час превалює думка, що функціональні відмінності між цими типами нейронів існує. Але алгоритм навчання цього типу мереж в силу великої кількості параметрів нейронів, які треба обробляти та зберігати, є складним для реалізації на персональних ЕОМ. [2] Вищенаведене свідчить про важливість розробки адекватного алгоритму проектування мережі, що є доступним для практичної реалізації на персональних ЕОМ, та має високу якість класифікації, яка не позначиться негативно на часі навчання на функціонування мережі Найбільш близьким до запропонованого є спосіб моделювання нейромережі по типу "когнітрон" [3], який використовує два типи нейронів, кожен нейрон в постсінатичному шарі має визначену область зв'язку в досінаптичному шарі, різні активаційні функції для різних типів нейронів, а також різні алгоритми обчислювання значень ваги сінаптичного зв'язку для різних типів зв'язку (гальмуючи х та збуджуючи х). Окрім того, для більш ефективного використання переваг цього способу додається латеральне гальмування, що досягається за рахунок визначення області конкуренції для кожного нейрону у відповідному шарі. Суттєвим недоліком прототипу є складність практичної реалізації на персональній ЕОМ, велика кількість обчислювальних операцій, високий час навчання та великий об'єм пам'яті, що необхідна для зберігання всіх параметрів структурно різних типів нейронів, а також попереднє визначення кількості гальмуючих нейронів, що приходяться на кожен нейрон постсінаптичного шару та збільшення кількості нейронів загалом. Ознаками, якими відрізняється запропонований спосіб є введення структурної подібності для всіх нейронів, але збереження функціональної відмінності в залежності від умови задачі класифікації. Перевагою винаходу є адаптація мережі до задачі, що вирішується, шляхом самовизначення співвідношення гальмуючих та збуджуючих нейронів, подібність алгоритму настройки сінаптичної ваги, та подібність активаційних функцій. Задачею заявленого способу є стр уктурна уніфікація нейронів та зв'язків, а також усіх перетворень, що здійснюються при збереженні функціональних відмінностей у типів нейронів та отримання адаптивності при апріорно невизначений топології гальмуючих нейронів. З те хнічної точки зору, результат, який отримують при вирішенні завдання полягає у можливості скорочення термінів навчання, зменшенні необхідного об'єму пам'яті для використання, зменшення типів та кількості обчислювальних операцій при непогіршенні якості класифікації. Поставлене завдання вирішується визначенням області зв'язку нейронів постсінаптичного шару, як об'єднання відповідної кількості кластерів нейронів на досінаптичному шарі (нейроних ядер), шляхом вирішення задачі нечіткої кластерізації на попередньому шарі та визначення спільної області зв'язку для нейроних ядер поточного шару. Множина нейронів кожного шару (універсальна чітка множина нейронів шару i - Ui ) розбивається на k підмножин (у загальному випадку нечітких) Uij , j = 1...k. Кожен нейрон шару i ( u ip , p = 1 ...n, де n - кількість нейронів у шарі i) належить якимсь з вищевказаних підмножин ( uip Î Uij ) з деяким ступенем приналежності m j (u ip ). Нечіткі підмножини нейронів (нейроні ядра) нейроного шару і перетинаються один з одним винятково нечіткими областями, та область взаємоперетину хоча б двох нейроних ядер має буди непустою (Фіг.). Функції m j (u ip ) нормуються, тобто необхідне виконання умови å m (u j ip ) = 1. j Можливі випадки (випадок m j (u ip ) = 0 не розглядається, як неінформативний) 1. m j (u ip ) = 1 2. 0 < m j (u ip ) < 1 Нейрони другого типу належать до декількох областей зв'язку що, у загальному випадку, конкурують (за аналогією з когнітроном) нейронных ядер постсинаптического шару. Нейрони цього типу визначають, які конкуруючі нейроні ядра постсинаптического шару збуджуються сильніше. Тобто, навчання якого з конкуруючи х постсинаптических ядер сильніше активува ти, а якого загальмувати. Відповідно, виходячи з такої «вирішальної» функції, будемо називати нейрони другого тип у - гальмуючими, а нейрони, що відносяться до першого типу збуджуючими. Гальмуючі нейрони відповідним чином, у залежності від ступеня приналежності тієї або іншої області зв'язку, повинні зменшувати значення входів нейронів постсинаптического шару, з якими вони зв'язані. Для реалізації цієї залежності звичайний спосіб визначення входу нейрона, що визначається наступною формулою net i = åw x j j (1), де net - значення входу нейрона, w j - значення вагового коефіцієнта сінапса j спрямованого від jго нейрона попереднього шару, хi - вихідне значення jго нейрона попереднього шару, æ ö ç ÷ j узагальнюється до наступної net = ç m i (u ip ) ÷ ç u ÎUс в ÷ è ip i ø Õ (å w x ) (2). i i При використанні формули (2) для нейронів гальмуючого типу 0 < m ij < 1, вхідне значення нейрона буде залежати від того, з яким ступенем приналежності буде той або інший гальмуючий нейрон належати до його області зв'язку та одночасно реалізується латеральне гальмування. Кластеризування проводиться за допомогою любого відомого алгоритму, що забезпечує групове розбиття за критерієм відстані до центра, тобто відстань між елементами одного кластеру повинна бути меншою за відстань до елементів іншого кластеру [5]. У якості норми використовується рівень збудженості нейрона а також накладаються обмеження " Uij / U (U I U ) ¹ O. (3) j i g i g¹j У якості активаційної функції може бути використана будь-яка, але для збільшення ефективності результату 1- m é æ log(m) ö ù класифікації рекомендовано використовувати функцію Вебера-Фехнера [3] OUT = · ê1 + thç ç ÷ ÷ ú (4), де 2m ë è 2 øû OUT - ви хід нейрона. Навчання сінаптичної ваги здійснюється за допомогою узагальнення методів Хеба [4] та Хемінга [4]. Вибирається група найбільш збуджених нейроне ядро, та його значення ваг його сінаптичних зв'язків обчислюються за формулою [2]: w ij ( t + 1) = w ij ( t ) + OUTi OUTj де w ij (t ) - сила сінапса від нейрона і до нейрона до j момент часу t; OUTi - ви хідний рівень досінаптичного нейрона рівний ; OUTj - ви хідний рівень постсінаптичного нейрона. Навчання мережі здійснюється шляхом циклічного виконання наступних шагів 1. поетапним подаванням на входи мережі екземплярів образів з вибірки для навчання 2. обчислення рівня збудженості нейрона за формулою (3) 3. рішенням задачі кластерізації 4. настроювання ваг за формулою (4) до моменту, коли стр уктура мережі не застабілизується з необхідною точністю. Посилаючись на теорему Колмогорова [4], можна впевнено стверджувати, що даний алгоритм збігається за кінцеву кількість кроків. Виходячи з того, алгоритмі використовується структурно ідентичні елементи та перетворення алгоритм за типом реалізації є подібним до алгоритмів з одним типом нейронів, які є практично та відносно швидко навчається, можна стверджувати, що алгоритм, за принципом подібності, є практично реалізуємим та відносно швидко навчається також. Зважаючи на те, що алгоритм зберіг функціональну розбіжність типу нейронів, якість класифікації є аналогічною не гіршою за методи, що використовують два стр уктурних типа нейронів. Таким чином, можна стверджувати, що спосіб за своєю ефективністю значно перевершує прототип, дозволяє адаптувати топологію до необхідного класу задач та є практично реалізуємим на персональній ЕОМ. Такі переваги надають підстави для застосування способу в класифікації образів. Перелік фігур креслення Фіг. - Нейроні ядра, як області зв'язку. Гальмуючи та збуджуючи нейрони. На Фіг. Схематично зображено фрагмент нейромережі, побудованої за способом, що пропонується. Пусті кола -нейрони, заштриховані кола гальмуючи нейрони, відрізок з стрілкою - умовно-збуджуючий зв'язок, стрілка вказує напрямок зв'язку, відрізок з кулькою - умовно-гальмуючий зв'язок, пунктирними овалами відокремлені нейроні ядра. Список використаної літератури 1. Grossberg S. 1976. Adaptive pattern classification and universal recording, 1: Parallel development and coding of neural feature detectors. Biological Cibernatics 23:187-202. 2. Ф. Уоссермен Нейрокомпьютерная техника: Теория и практика-пер. с англ. - М.: Мир, 1992. - 184с. 3. Fukushima К. 1975. Cognitron: A self-organizing mult ilayered neural network. Biological Cybernetics 20:121-36. 4. B.B. Круглов, М.И. Дли, Р.Ю. Голунов. Нечеткая логика и искусственные нейронные сети - М.:Физматлит, 2001. - 224 с. 5. Бендат Дж., Пирсол А. Прикладной анализ случайных данных: Пер. с англ. - М.: Мир, 1989. - 540с., ил.
ДивитисяДодаткова інформація
Назва патенту англійськоюMethod for classifying objects with incomplete or uncertain information
Автори англійськоюKorshevniuk Lev Oleksandrovych
Назва патенту російськоюСпособ классификации объектов при наличиии неполной или недостоверной информации
Автори російськоюКоршевнюк Лев Александрович
МПК / Мітки
МПК: G06G 7/20
Мітки: неповної, спосіб, класифікації, нечіткої, умовах, об'єктів, інформації
Код посилання
<a href="https://ua.patents.su/3-72155-sposib-klasifikaci-obehktiv-v-umovakh-nepovno-ta-nechitko-informaci.html" target="_blank" rel="follow" title="База патентів України">Спосіб класифікації об’єктів в умовах неповної та нечіткої інформації</a>
Попередній патент: Летючі ножиці
Наступний патент: Спосіб мінералізації харчових продуктів
Випадковий патент: Спосіб одержання титанового чавуну