Спосіб нормування вхідних даних автоматизованої штучної нейронної системи технічного контролю

Спосіб нормування автоматизованої штучної нейронної системи технічного контролю, який включає периферійні пристрої - блоки та центральний процесор із системою лінійного нормування вхідних даних для навчання штучних нейронних систем, який відрізняється тим, що додатково автоматизують нормування вхідних даних автоматизованої штучної нейронної системи технічного контролю, яка включає периферійні пристрої блок лінійного переднормування, блок нелінійного нормування із змінним видом лінійності, та 3 рення, хоч і побудовані за аналогією природного мозку, є істотно обмеженими в архітектурному плані (відсутність зворотних зв'язків). Як вже зазначено, в плані структурної організації нейронних мереж всі архітектури можна розділити на дві групи: архітектури із зворотними зв'язками і архітектури без зворотних зв'язків або мережі прямого поширення. Можливе також і поєднання цих підходів. Найбільш близьким за технічною сутністю до пропонованої корисної моделі є відоме застосування способу нормування вхідних даних автоматизованої нейронної системи технічного контролю, в якій використовують лінійну функцію активації штучних нейронів нейтронної мережі. [Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применения в экономике и бизнесе. - М.: МИФИ, 1998. - 224с]. Недоліком вищевказаного способу є обмежені функціональні можливості задіяних перетворень, слабкий контроль над середньоквадратичною помилкою відгуки нейронної мережі, неврахування під час перетворень у такий спосіб особливостей вхідних даних мережі та способів їх інтерпретації самою мережею, повільність навчання, відсутність методів оцінки точності результатів, що знижує рівень довіри до застосування останніх. Внаслідок неможливості забезпечення індивідуального підходу, що враховує особливості роботи нейронної мережі, для впровадження нормування різнорідних рядів даних, не приведених до єдиного діапазону, цей спосіб не здатний задовольнити в повному обсязі потреби досягнення інформативності вхідних даних при використанні їх як навчальних прикладів для штучних нейронних мереж. Технічна задача корисної моделі полягає в розроблянні способу нормування вхідних даних автоматизованої штучної нейронної системи технічного контролю, який включає периферійні пристрої - блок лінійного перед-нормування, блок нелінійного нормування із змінним видом лінійності, та центральний процесор із системою визначення коефіцієнтів і виду нелінійного нормування та оцінки точності результатів нормування - що автоматизує керування периферійними пристроями блоками, які послідовно виконують приведення різнорідних рідів вхідних даних до заданого оператором діапазону при досягненні заданих оператором параметрів точності шляхом сканування вхідних даних, розрахунку параметрів лінійного перетворення та виду нелінійного перетворення, відповідно до параметрів нейронної, мережі яка потім проводить обробку даних, та послідовною зміною параметрів нелінійного нормування приведення вхідних даних до діапазону та розподілу заданою нейронною мережею та точності заданої оператором. Поставлена задача вирішується тим, що у способі периферійні пристрої (блоки лінійного перед-нормування, нелінійного нормування) передають на центральний процесор сигнали, які на ньому обробляються, з використанням циклічних ітерацій до досягнення заданих на вході пристрою параметрів лінійності та нормування. Такий спосіб дозволяє досягнути наступного технічного результату: за допомогою системи пе 42292 4 риферійних пристроїв та центрального процесора проводять перетворення поданих на вхід пристрою до діапазону вхідних даних нейронної мережі та до рівномірного їх розподілу у області визначення функції активації нейронної мережі, що значно збільшує інформативність вхідних даних при використанні їх як навчальних прикладів для штучної нейронної мережі. Запропонований спосіб розширює можливості застосування автоматизованих інформаційних технологій нормування вхідних даних для використання в нейронних мережах та надає можливість застосування таких технологій для виконання нових функцій, які не випливають з відомих раніше властивостей цих технологій. При цьому отримують додатковий ефект - ефект наближення різнорідних вхідних даних до порівняльних діапазонів шляхом наближення їх розподілу до рівномірного у області визначення функції активації. Існуюча зараз методологія побудови та навчання штучних нейронних мереж, на основі якої може бути здійснений обгрунтований підбір навчальних прикладів та величин параметрів в галузі нейрокомп'ютингу, є досить складною у практичні реалізації і не враховую особливості функцій активації нейроні нейронної мережею. А саме нейрокомп’ютери дають стандартний спосіб рішення багатьох нестандартних задач. Замість програмування для рішення таких задач використовується навчання. Створення архітектури, алгоритмів та моделей на засадах нейронних мереж із зворотними зв'язками, які мали б властивості швидкого самонавчання, вироблення методів встановлення параметрів мереж, процедур їх навчання та використання є гостро актуальною проблемою, вирішення якої сприятиме подальшому впровадженню технологій нейронних мереж в різноманітні сфери людської діяльності. При реалізації запропонованої корисної моделі були розроблені та обґрунтовані методи попереднього нормування вхідних даних нелінійних нейронних мереж та розроблена нова методика нелінійного нормування. В реальних умовах нейронна мережа піддається діям, що постійно змінюються; вона може ніколи не побачити один і той же набір навчальних даних двічі. При таких обставинах мережа часто не може навчатися: вона безперервно змінює параметри нейронів мережі, не досягаючи задовільних результатів. Важливим аспектом роботи нейронних мереж є швидкість навчання. Штучний нейрон є елементарним функціональним модулем, з яких будується штучна нейронна мережа. Проста безперервна модель нейрона працює таким чином: вхідні сигнали поступають на периферійні пристрої - блоки, що реалізовують функцію біологічних синапсів, тобто задають параметри функціонування нейронів мережі. Кожний з них характеризується своїм ваговим коефіцієнтом. Обчисленні з урахуванням «ваги» вхідні сигнали подаються на наступний периферійний пристрій - блок, так званий лінійний суматор, після чого результат їх складання поступає на блок активаційної функції. Розглянута прос 5 та модель штучного нейрона ігнорує багато властивостей свого біологічного двійника - нейрону мозку. Наприклад, вона не бере до уваги затримки в часі, які впливають на динаміку системи. Вхідні сигнали одразу ж породжують вихідний сигнал. Щодо архітектури штучної нейронної мережі, то цю мережу розглядають як модель високо паралельного обчислювального процесу, зв'язкам якої в процесі навчання присвоюють вагові значення, а у вузлах знаходяться однотипні процесорні елементи - штучні нейрони чи ансамблі нейронів. За допомогою нейронної мережі будується відповідна нейромережева функція. Нейрона мережа - класифікатор представляє собою нейрону мережу, яка отримавши на вході вхідні данні видає на виході значення функції. При цьому дослідником можуть бути введені обмеження на кількість слоїв, кількість нейронів, обмеження на зв'язки та значення параметрів нейронів, вид функції активації. Мережа, отримавши на вході параметри об'єкта, має вказати належність цього об'єкта до одного з класів - еталонів. Ця задача близька до задачі побудови співвідношень на загалі об'єктів коли масив поданих на вхід мережі об'єктів розділяється на групи класів - еталонів без попереднього навчання або іншого впливу оператора. Практичне використання нейронних мереж для вирішення не спеціалізованих задач стикається з проблемою прогнозування розміру та архітектуру мережі для вирішення кожної конкретної задачі, а отже і обчислювальної потужності програмно-апаратних засобів що будуть обслуговувати таку штучну нейронну мережу. Основні проблеми практичного використання нейронних мереж виникають через наступні причини: проблеми створення підручника для навчання мережі, велика потужність обчислювальних засобів для реалізації алгоритмів навчання, важко визначити точність з якою отримана відповідь мережі, багатокритеріальність задачі навчання штучної нейронної мережі. При рішенні більшості практичних задач необхідне здійснення спеціального попереднього перетворення даних для успішного навчання нейронної мережі - нормування. Основною метою нормування даних є максимальне урізноманітнення при нормалізації розподілу входів і виходів. Це зв'язано з тим, що єдиним джерелом інформації для нейромережевого моделювання є приклади повчальної вибірки. Чим «більше інформації» отримає штучна нейронна мережа від кожного прикладу, тим краще буде якість її роботи і менше помилка. Під нормуванням в даному випадку маються на увазі такі перетворення як: зміна шкали, нормалізація і стандартизація. Зміною шкали називається дія, що полягає в надбавці або відніманні константи з подальшим множенням чи діленням на іншу константу. Нормалізацією вектора називається дія, що полягає в ділені на норму вектора. Стандартизацією називається дія, що полягає у відніманні міри розташування з подальшим ділення на міру шкали. Єдиних рекомендацій, по нормуванню даних не існує. Проте спосіб представлення даних є важливим аспектом, що впливає на швидкість на 42292 6 вчання. Необхідність нормування залежить від способу яким штучна нейронна мережа формує вхід подальшого рівня на основі входів попереднього. Як показує практика, попередня підготовка вхідних даних дозволяє істотно зменшити середньоквадратичну помилку при навчанні мережі. Є два типу лінійного перетворення даних які найбільш часто використовуються в нейронних мережах: приведення початкових значень до значень з математичним очікуванням, рівним нулю, і дисперсією, рівній одиниці. Ці два способи нормування в даному класі задач прогнозування мають недоліки, а саме: не здатні обмежити діапазон можливих значень нормованих даних і одночасно добитися рівномірного заповнення цього діапазону. Для вирішення поставленої в корисній моделі задачі, пропонується після лінійних перетворень, проводити нелінійне нормування. Для нелінійних задач, які вирішують нейроні мережі характерні наступні особливості: елементи вхідних сигналів є різнорідними, інтервали значень різних елементів вхідних сигналів істотно розрізняються, необхідний вихід мережі визначається не абсолютними значеннями вхідних сигналів, а їх відносними змінами, вимагається підвищити інформативність кожного повчального прикладу. Щоб задовольнити наведені вище особливості задач при нормуванні, в рамках розробленої методики нормування запропонований ряд процедур, а саме: відмова від використовування абсолютних значень вхідних рядів і перехід до відносних. Для досягнення задачі запроваджується нормування даних одним з вказаних вище методів, а на завершальному етапі нелінійне нормування з варіативним видом нелінійності. Використовування відносних змін значень вхідних даних дозволяє принципово підвищити чутливість нейронної мережі до вхідних даних. Так, якщо абсолютне значення вхідної компоненти і її відносна зміна відрізняються на порядок, то для успішної роботи мережа повинна функціонувати з дуже високою точністю. В той же час аналогічні міркування у разі використовування відносних змін показують, що точність представлення вхідних і вихідних даних співпадає. Нормування даних дозволяє привести різнорідні дані до порівняльних діапазонів, а також наблизити їх розподіл до рівномірного, що підвищує інформативність навчального прикладу. Окрім описаних вище двох варіантів нормування вхідних даних, пропонується третій - використати нелінійне нормування з функцією активації. Для цієї задачі обрана функція активації - аналогічна тій що використовуються в штучних нейронах. Таке перетворення приводить значення вхідної компоненти яка задає необхідний вихід мережі при навчанні, до області визначення функції активації, а також підвищує інформативність інших компонент початкових даних за рахунок більшого наближення їх розподілу до рівномірного. Новизна даного підходу полягає в змінному виді функції активації, що дозволяє підвищити ефективність нормування шляхом кращого наближення розподілу даних до рівномірного. Для можливості зміни виду функції активації в її склад вве 7 42292 дений спеціальний коефіцієнт. При цьому процедура нелінійного нормування виглядає таким чином: Нехай Vі - елемент нормованих даних після лінійного перетворення, Vlі - елемент даних після нелінійного перетворення, f - вживана у складі нейромереж функція активації, яка має функції масштабування. При нормуванні до Vі застосовується коефіцієнт k, що збільшує відстані між близько розташованими вхідними даними, відповідно посилюючи розподіл, що далі буде компенсовано масштабуючими властивостями функції нелінійного перетворення. В процесі проведення нормування коефіцієнт k, а отже і вид нелінійності вибирається так, щоб максимально розширити розподіл нормованих даних у заданому діапазоні входів мережі, та привести його до рівномірного. Оцінка близькості розподілу до нормального проводиться шляхом аналізу розподілу отриманих нормованих даних. Площа фігури яка охоплює гістограму розподілу вхідних даних у заданому діапазоні розподілу має бути максимально наближеною до прямокутної, за умови максимальної дискретизації діапазону під час підрахунку розподілу. Для реалізації способу використовують наступне обладнання інформаційних інфраструктур: - периферійні пристрої - блоки (по менший мірі два); - датчики роботи периферійних пристроїв (по менший мірі один для кожного пристрою - блоку); - центральний процесор; - периферійні пристрої - блоки пов'язують мережею передачі даних з центральним процесором. Сутність запропонованої корисної моделі пояснюється наступним прикладом: Приклад №1. Методика нелінійного нормування була перевірена на практиці при навчанні нейроемулятора Neural Networks з пакету Statistika 5,0. Під час перевірки задачі були використані данні зібрані відділом технічного контролю. Відділ веде контроль параметрів електродвигуна приводу інвалідної коляски що проводиться на підприємстві. Потрібне вимірювання 8 параметрів: 1) сила струму на холостому ходу при обертанні вліво; 2) сила струму на холостому ходу при обертанні управо; 3) кількість виконаних оборотів в хвилину на холостому ходу при обертанні вліво; Комп’ютерна верстка Л. Купенко 8 4) кількість виконаних оборотів в хвилину на холостому ходу при обертанні управо; 5) сила струму під навантаженням 11 Н*м при обертанні вліво; 6) сила струму під навантаженням 11 Н*м при обертанні управо; 7) кількість виконаних оборотів в хвилину під навантаженням 11 Н*м при обертанні вліво; 8) кількість виконаних оборотів в хвилину під навантаженням 11 Н*м при обертанні управо; Вимірювання параметрів 1-2, 3-4, 5-6, 7-8 проводиться одночасно. Результати вимірювання використовуються для попередньої настройки блоку управління коляски. Має сенс скоротити кількість вимірювань побудувавши нейроемулятор який міг би прогнозувати частину вимірювань по іншим, вже проведеним. Для навчання мережі був використаний масив з 59 прикладів, нормований згідно наведеної вище методики. Кожний набір вимірювань був нормований із з своїм коефіцієнтом, вибір якого проводився індивідуально, данні з нормування одного параметру був обраний коефіцієнт 2,25. Результат експерименту показав ефективність даної методики, так середньоквадратична помилка навчання мережі зменшилася з 1,901 - без нормування, до 0,3906 - із застосуванням нормування. Як слідує із приклада, в результаті застосування запропонованого комбінованого способу нормування, що полягає в сумісному застосуванні лінійного перетворення і нелінійного із змінним видом нелінійності, вдалося різнорідні ряди даних привести до необхідного єдиного діапазону, що дало змогу досягти збільшення інформативності вхідних даних при використанні їх як навчальних прикладів для нейронної мережі. Випробування довели успішність даного методу нормування вхідних даних для використання в нейронних мережах. Даний метод вирішує одну з проблем, а саме: приводить розподіл вхідних даних задачника мережі до рівномірного, що дозволяє розподілити навчальні приклади рівномірно по гіперсфері вхідного простору знань. Пропонується відомий спосіб застосувати інформаційні системи з використанням нормування автоматизованої штучної нейронної системи технічного контролю, для виконання нової функції і для отримання нового технічного результату. Запропонована корисна модель що заявляється, є новим перспективним напрямком у сфері інформаційних технологій та може знайти широке застосування на практиці. Підписне Тираж 28 прим. Міністерство освіти і науки України Державний департамент інтелектуальної власності, вул. Урицького, 45, м. Київ, МСП, 03680, Україна ДП “Український інститут промислової власності”, вул. Глазунова, 1, м. Київ – 42, 01601