Безсонов Олександр Олександрович. Нейронна мережа СМАС та її використання для адаптивної обробки інформації : Дис... канд. наук: 05.13.23 - 2008.
Анотація до роботи:
Безсонов О.О. Нейронна мережа СМАС та її використання для адаптивної обробки інформації. – Рукопис.
Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 05.13.23 – системи та засоби штучного інтелекту. – Харківський національний університет радіоелектроніки, Харків, 2008.
У роботі проведено аналіз проблеми адаптивної обробки інформації за допомогою ШНМ СМАС; розглянуто біологічну модель мозочка, математичний аналог якої є основою ШНМ СМАС, принципи побудови та функціонування цієї мережі; досліджено структуру нейронної мережі СМАС; проведено аналіз методів кодування інформації у СМАС; досліджено властивості різноманітних схем кодування інформації; розглянуто задачу вибору базисних функцій у мережі СМАС; запропоновано метод кодування інформації та вибору базисних функцій у ШНМ СМАС, які дозволяють використовувати цю мережу в задачах непрямого нейрокерування без еталонної моделі; розроблено методи скорочення процесу навчання мережі; розроблено багатокрокові проекційні алгоритми навчання, отримано їх рекурентні форми.
У середовищі MATLAB 6.1 проведено імітаційне моделювання різних алгоритмів навчання СМАС; досліджено процес вирішення задач ідентифікації та керування нелінійними динамічними об’єктами, а також фільтрації і кодування сигналів та зображень. Удосконалено моделі обчислювальних засобів для розв’язання задач стиснення та фільтрації зображень, які реалізують ієрархічну нейронну мережу СМАС.
Достовірність результатів підтверджується експериментальними дослідженнями та впровадженнями.
У дисертаційній роботі наведено результати, які, у відповідності з метою дослідження, в сукупності є розв’язанням актуальних науково-практичних задач, пов’язаних із адаптивною обробкою інформації у реальному часі.
Розв’язання цієї задачі полягає в застосуванні розроблених методів та має
велике наукове та практичне значення. У результаті виконання роботи отримано такі результати:
Проведено огляд існуючих нейромережевих систем управління. Досліджено різноманітні підходи до стиснення і фільтрації зображень. Відзначено, що незважаючи на цілий ряд проблем нейромережевий підхід є достатньо перспективним для вирішення задач ідентифікації та керування нелінійними динамічними об’єктами, стиснення та фільтрації сигналів та зображень.
Розроблено ефективний метод кодування інформації та вибору виду базисних функцій у штучній нейронній мережі СМАС. Визначено, що використання класичних прямокутних функцій активації дозволяє досягти більш високої швидкості навчання, однак точність апроксимації при цьому буде відносно невеликою. Запропонований метод дозволяє обирати функції активації, що відрізняються від прямокутних, що надає можливість використання мережі в задачах непрямого нейрокерування без еталонної моделі та підвищує точність апроксимації, але швидкість навчання мережі при цьому стає нижчою.
Розроблено багатокрокові проекційні методи навчання штучної нейронної мережі СМАС, які потребують значно меншого обсягу інформації, необхідної для навчання мережі, та розроблено їх рекурентні форми, що забезпечує істотне скорочення процесу навчання. Проведено порівняльний аналіз методів, базовим серед яких є алгоритм навчання Альбуса: навчання за допомогою ковзного середнього, навчання в точці з максимальною похибкою, часткова оптимізація довжини кроку, навчання з коефіцієнтами, які самонастроюються. Досліджено їх переваги та недоліки. На основі порівняльного аналізу доведено, що запропоновані багатокрокові проекційні методи забезпечують істотне скорочення і стійкість процесу навчання мережі.
Запропоновано метод навчання нейронної мережі СМАС при її використанні в задачах ідентифікації та керування нелінійними динамічними об’єктами, який використовує різні базисні функції по різних каналах. Відповідно до даного методу, по вхідних каналах використовуються прості прямокутні базисні функції, які не потребують значних обчислювальних витрат, а по управляючих – можливе використання більш складних в обчислювальному сенсі тригонометричних функцій. Метод забезпечує значне підвищення швидкодії системи керування.
Набув подальшого розвитку метод гешування інформації у СМАС. Відзначено, що одним із недоліків використання алгоритмів гешування є виникнення геш-колізій. Запропонований метод забезпечує випадковий доступ до комірок пам’яті мережі СМАС, що дозволяє значно зменшити кількість виникаючих геш-колізій та покращити апроксимуючі властивості цієї мережі при використанні хешування.
Удосконалено моделі обчислювальних засобів, що реалізують нейронну мережу СМАС у задачах стиснення та фільтрації зображень. В рамках моделей розроблено блок кодування змінної та наведено загальну структуру апаратної реалізації мережі СМАС. Вказано, що економія обсягу даних при апаратному стисканні зображень за допомогою запропонованих моделей складає від 3,9 до 29,1 разів. Перевага моделі у тому, що вона дозволяє використовувати єдиний засіб для виконання стиснення зображень та їх фільтрації за різними ознаками.
Проведено імітаційне моделювання роботи мережі СМАС та розв’язано на її основі задачі ідентифікації та керування нелінійними динамічними об’єктами, стиснення та фільтрації сигналів та зображень. Визначено, що мережа СМАС дозволяє виділяти з вихідного сигналу різні частотні складові. Запропоновано метод, у якому використовується ієрархічна мережа СМАС, що складається з послідовно з’єднаних шарів, кожен з яких виділяє та апроксимує визначену частотну складову вихідного зображення. Наведено схему кодування зображень за допомогою ієрархічної мережі СМАС. Імітаційне моделювання довело ефективність використання мережі СМАС при вирішенні наведених задач.
Розроблені в дисертації методи використовуються у Науково-дослідному комплексі “Прискорювач” ННЦ “ХФТІ” при керуванні енергією електронів у односекційному сильнострумному прискорювачі електронів КПТ. Доведена ефективність використання нейрорегуляторів на основі СМАС при побудові систем управління складними технологічними процесами.
Публікації автора:
Руденко О.Г. Идентификация нелинейных нестационарных объектов в реальном времени с помощью радиально-базисных сетей/ О.Г. Руденко, А.А. Бессонов // Кибернетика и системный анализ. – 2003. – № 6. – С. 177–185.
Руденко О.Г. Хеширование информации в нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Управляющие системы и машины. – 2004. – №5. – С. 67–73.
Руденко О.Г. О выборе базисных функций в нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Проблемы управления и информатики. – 2004. – № 2. – С. 143–154.
Руденко О.Г. Адаптивное управление нелинейными объектами с помощью нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Проблемы управления и информатики. – 2004. – № 5. – С.16–30.
Бессонов А.А. Применение нейронной сети СМАС при решении задач обработки изображений и ее аппаратная реализация / А.А.Бессонов, В.А. Бобух, О.Г. Руденко // Бионика интеллекта. – 2004. – № 1 (61). – C. 49–55.
Руденко О.Г. Фильтрация изображений с помощью нейронной сети СМАС/ А.А.Бессонов, В.А. Бобух, О.Г. Руденко // Вестник Херсонского государственного технического университета. – 2004. – № 1(19) . – C. 378–384.
Руденко О.Г.Нейронная сеть СМАС и ее применение в задачах идентификации и управления нелинейными динамическими объектами / О.Г. Руденко, А.А.Бессонов // Кибернетика и системный анализ. – 2005. – №5. – С. 16–28.
Руденко О.Г. Адаптивное управление многомерными нелинейными объектами на основе радиально-базисных сетей / О.Г. Руденко, А.А.Бессонов // Кибернетика и системный анализ. – 2005. – № 2. – С. 168–176.
Бессонов А.А.Аппаратная реализация нечёткой сети СМАС и ее применение для задач сжатия изображений / А.А.Бессонов, В.А. Бобух, О.Г. Руденко // Автоматика. Автоматизация. Электротехнические комплексы и системы. – 2005. – № 2 (16). – С. 47–52.
Руденко О.Г. О выборе схемы кодирования информации в нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Кибернетика и системный анализ. – 2007. – № 3. – С. 18–25.
Бессонов А.А. О нейросетевом подходе к восстановлению многомерных функций при наличии помех измерений / А.А. Бессонов, А.В. Островерхий, А.А. Шамраев, Н.Н. Островерхая // Системы обработки информации. – 2007. – № 9 (67). – С. 33–41.
Rudenko O.G. Echtzeit-Identifikation nichtlinearer instationrer Systeme mit RBF-Netzwerken / O.G. Rudenko, A.A. Bessonov, P. Otto, J. Wernstedt // at - Automatisierungstechnik. – 2004. – Vol. 52. – № 5. – S. 209–217.
Rudenko O.G. CMAC Neural Network and Its Use in Problems of Identification and Control of Nonlinear Dynamic Objects / O.G. Rudenko, A.A. Bessonov // Cybernetics and Systems Analysis. –Volume 41, Issue 5 (September 2005). – Pp. 647–658.
Руденко О.Г. Фильтрация сигналов и изображений с помощью нейронной сети СМАС/ О.Г. Руденко, А.А.Бессонов, В.А. Бобух // Современные информационные и электронные технологии : 5-я Междунар. науч.-практ. конф., 17-21 мая 2004 г. : тезисы докл. – Одесса, 2004. – С. 75.
Руденко О.Г.Адаптивная идентификация нелинейных нестационарных объектов с помощью радиально-базисных сетей / О.Г.Руденко, А.А.Бессонов // Автоматика-2003 : 10-я Междунар. конф. по автоматическому управлению, 15-19 сентября 2003 г. : тезисы докл. – Севастополь, 2003. – С.168–169.
Руденко О.Г. Идентификация нелинейных объектов с помощью искусственной нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Теория и техника передачи, приема и обработки информации : Междунар. конф., 7-10 окт. 2003 г. : тезисы докл. – Харьков-Туапсе, 2003.– С. 335–336.
Руденко О.Г. Адаптивное управление нелинейными нестационарными объектами с помощью нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Автоматика-2004 : 11-я Междунар. конф. по автоматическому управлению, 27-30 сент. 2004 г. : тезисы докл. – Киев, 2004. – C. 91.
Бессонов А.А.Хеширование информации в нейронной сети СМАС / А.А. Бессонов// Радиоэлектроника и молодежь в 21 веке : 8-ой Междунар. молодежный форум, 13-15 апр. 2004 г. : тезисы докл. – Харьков, 2004. – C. 144.
Бессонов А.А. Аппаратная реализация нейронной сети СМАС для решения задач кодирования и фильтрации телевизионных изображений / А.А. Бессонов, В.А. Бобух, О.Г. Руденко // Современные информационные и электронные технологии : 6-я Науч.-практ. конф., 23-27 мая 2005 г. : тезисы докл. – Одесса, 2005. – С. 149.
Бессонов А.А. Применение нечеткой сети СМАС в задачах сжатия изображений / А.А.Бессонов, В.А. Бобух, О.Г. Руденко // Прикладная радиоэлектроника. Состояние и перспективы развития : 2-й Междунар. радиоэлектронный форум, 19-23 сент. 2005 г. : тезисы докл. – Харьков, 2005. – С. 307–310.
Руденко О.Г.Управление нелинейными объектами с помощью нечеткой сети СМАС / О.Г. Руденко, А.А.Бессонов // Автоматика-2005 : 12-я Междунар. конф. по автоматическому управлению, 30 мая-3 июня 2005 г. : тезисы докл. – Харьков, 2005. – C. 143–144.
Руденко О.Г.Многошаговые проекционные алгоритмы обучения искусственной нейронной сети СМАС / О.Г. Руденко, А.А.Бессонов // Глобальные информационные системы. Проблемы и тенденции развития : 1-я Междунар. научн. конф., 3-6 окт. 2006 г. : тезисы докл. – Харьков, 2006. – С. 233.
Бессонов А.А. Исследование схем кодирования информации в нейронной сети СМАС / А.А. Бессонов, С.О. Руденко // Современные информационные системы. Проблемы и тенденции развития : 2-я Междунар. научн. конф., 2-5 окт. 2007 г. : тезисы докл. – Харьков, 2007. – С. 31.
Rudenko O.G.Adaptive Regelung von nichtlinearen Systemen mittels RBF-Netzen / O.G. Rudenko, A.A. Bessonov, A. Stephan// Synergies between Information and Automation : 48. Wiss. Kolloqium, 22-25 sep. 2003. – Ilmenau, 2003. – S. 64–65.
Rudenko O.G.Echtzeit-Identifikation nichtlinearer instationrer Systeme mit RBF-Netzwerken / O.G. Rudenko, A.A. Bessonov, P. Otto, J. Wernstedt // Synergies between Information and Automation : 49. Int. Wissenschaftlieches Kolloqium, 27-30 sep. 2004. – Ilmenau, 2004. – S. 30–37.
Rudenko O.G. A method for Information Coding in CMAC Networks / O.G. Rudenko, A.A. Bessonov, P. Otto // Synergies between Information and Automation : 52. Int. Wissenschaftlieches Kolloqium, 10-13 sep. 2007. – Ilmenau, 2007. – S. 21–26.