Інформаційні технології синтезу робастних нейронечітких моделей стохастичних процесів - Автореферат

Тоді як прогнозування економічних, екологічних, соціальних процесів або так зване інтелектуальне прогнозування виконується на основі правил, оскільки досвідчені менеджери приймають ефективні рішення на рівні практичних міркувань. Для побудови інтелектуального прогнозу доцільно використовувати експертні системи на основі нечітких баз знань. Такі бази знань використовують апарат нечіткої логіки, сила якого полягає у здатності створювати кількісне представлення для лінгвістичних змінних, а також ефективно відображати залежності між цими змінними у вигляді нечітких правил. Для цього, після побудови апріорної моделі процесу у формі нечіткої бази знань, проводять навчання цієї моделі на емпіричних даних. Нейронечіткі технології дозволяють перетворювати апріорні нечіткі правила в аналітичні моделі, навчати ці моделі, і перетворювати їх знову в нечіткі правила, які обґрунтовані технічним аналізом.Нехай задані дані спостережень Висувається гіпотеза про існування стохастичної залежності, відповідно до якої кожному вектору $\vect{x}$ ставиться у відповідність число $y$, отримане за допомогою випадкового випробування за законом $P(y|\vect{x})$. Задача відновлення стохастичної залежності полягає у відшуканні умовної щільності розподілу $P(y|\vect{x})$ на основі скінченої вибірки даних $\mathcal{D}$. Дана обернена задача некоректно поставлена, оскільки має більш ніж один розвязок, і зводиться до пошуку щільності апостеріорного прогнозного розподілу $P(y|\vect{x},\mathcal{D})$, який є наближенням реальної стохастичної залежності.При цьому, якщо для представлення входу та виходу нечіткої системи Мамдані використовуються відповідно дійсні невідємні функції належності $\mu_{A^i}(\vect{x})$ та $\mu_{B^j}(y)$, де $A^i$, $B^j$ - лінгвістичні терми визначені відповідно на $\mathcal{X}$ та $\mathcal{Y}$, і $\sum_{i}\mu_{A^i}(\vect{x})=1$, а також $\forall j:\int\mu_{B^j}(y)dy=const$, тоді w_i=\sum_{j}c_{ij}y_j^c,\quad 1=\sum_{j}c_{ij},\quad0\leq c_{ij}, \quad y_j^c=\frac{\int\mu_{B^j}(y)ydy}{\int\mu_{B^j}(y)dy}, (1) де $c_{ij}$ - вага правила: {\em якщо} $\vect{x}\in Для представлення регресії $y(\vect{x})$ модель у формі Бернштейна має вигляд: f(\vect{x})=b \sum_{k=1}^NB^d_k(x^k) \sum_{p=1}^{n-1}\sum_{q=p 1}^NB^d_{pq}\left(x^p, x^q

ight), (2) де поліноми у формі Бернштейна $B^d_k$, $B^d_{pq}$ однієї та двох змінних відповідно визначаються як лінійні комбінації базисних поліномів Бернштейна порядку $d$ від барицентричних координат $s$ та $\vect{u}=\col{u, v}$: B^d_k(x^k)=\sum_{j=0}^dw^k_j\phi_j^d\bigl(s(x^k)\bigr),\quad Обернене відображення Кастельжо використовує чисельний метод зворотного розповсюдження помилки для розвязання рівнянь: $$x^k=\sum_{j=0}^da_j\phi_j^d(s),\quad\col{x^p,x^q}=\sum_{i j k=d}\vect{a}_{ijk}\phi_{ijk}^d(\vect{u}). $\vect{\Phi}:\mathcal{X}

ightarrow\mathcal{W}$ складається з функцій належності однієї $\{\phi^d_i(\cdot)\}$ та двох $\{\phi^d_{irt}(\cdot,\cdot)\}$ змінних Для заданої моделі $\mathcal{M}$ МАП оцінка байєсівської РОВ породжує задачу мінімізації регуляризованого ризику: R_{\mbox{рег}}(\vect{w})=\beta\sum

olimits_{j=1}^N|\delta_j|_\epsilon \frac{1}{2}\|\vect{w}\|^2\longrightarrow\min_\vect{w}, яка зводиться до типової задачі опуклого квадратичного програмування з розвязком у вигляді: f_{\mbox{мап}}(\vect{x})=\sum_j(\alpha_j-\alpha_j^\ast)\vect{\Phi}(\vect{x}_j)\cdot\vect{\Phi}(\vect{x}) b_{\mbox{мап}}, \vect{w}_{\mbox{мап}}=\sum_j(\alpha_j-\alpha_j^\ast)\vect{\Phi}(\vect{x}_j), b_{\mbox{мап}}=\mbox{середнє}_j\left\{\begin{array}{c}y_j-\vect{w}\cdot\vect{\Phi}(\vect{x}_j)-\epsilon, \alpha_j\in(0,\beta) y_j-\vect{w}\cdot\vect{\Phi}(\vect{x}_j) \epsilon, \alpha_j^\ast\in(0,\beta)\end{array}

ight\}, де $\alpha_j$, $\alpha_j^\ast$ - множники Лагранжа, які задовольняють $\sum_{j=1}^N\left(\alpha_j-\alpha_j^\ast

ight)=0$, $\alpha_j,\alpha_j^\ast\in[0;\beta]$.Проведено аналіз методів прогнозування стохастичних процесів та обґрунтована ефективність застосування нечітких баз знань (НБЗ) побудованих на основі нейронечітких технологій. Встановлено, що основним недоліком побудованих НБЗ є їх експонентна складність, а для синтезу НБЗ пониженої складності доцільно використовувати нейронечіткі моделі у формі Бернштейна. Створена нейронечітка інформаційна технологія синтезу НБЗ квадратичної складності на основі збалансованих нейронечітких моделей у формі Бернштейна, де для обґрунтування декомпозиції моделі у формі Бернштейна на незалежні підмоделі використовується принцип максимуму ентропії. Розвинуто прискорений метод побудови нейронечітких моделей у формі Бернштейна, який для визначення барицентричних координат використовує швидке обернене відображення Кастельжо (ОВК). Для синтезу робастних нейронечітких моделей у формі Бернштейна вперше запропоновано використовувати еволюційний метод на основі оптимального ОВК.

Основний зміст роботи

1. Проведено аналіз методів прогнозування стохастичних процесів та обґрунтована ефективність застосування нечітких баз знань (НБЗ) побудованих на основі нейронечітких технологій. Встановлено, що основним недоліком побудованих НБЗ є їх експонентна складність, а для синтезу НБЗ пониженої складності доцільно використовувати нейронечіткі моделі у формі Бернштейна.

2. Створена нейронечітка інформаційна технологія синтезу НБЗ квадратичної складності на основі збалансованих нейронечітких моделей у формі Бернштейна, де для обґрунтування декомпозиції моделі у формі Бернштейна на незалежні підмоделі використовується принцип максимуму ентропії.

3. Розвинуто прискорений метод побудови нейронечітких моделей у формі Бернштейна, який для визначення барицентричних координат використовує швидке обернене відображення Кастельжо (ОВК). Швидкодія побудови моделей при цьому зросла в 3-4 рази. Для синтезу робастних нейронечітких моделей у формі Бернштейна вперше запропоновано використовувати еволюційний метод на основі оптимального ОВК.

4. Показано, що байєсівська регресія опорних векторів (БРОВ) дозволяє будувати моделі стохастичних процесів з домінуючою випадковою складовою. Головними перевагами БРОВ є робастність оцінок її параметрів, розвязання задачі опуклого квадратичного програмування, побудова довірчих інтервалів, здатність прогнозувати на коротких вибірках. Це дозволяє робити прогноз в умовах обмеженої кількості даних при сильній мультиколінеарності і шумі.

5. Для оцінки адекватності моделей БРОВ отримано новий критерій (критерій байєсівського підтвердження - КБП), який, на відміну від відомих критеріїв, не порушує робастності моделей та має просту аналітичну форму. Ефективність критерію підтверджена аналізом залежності похибки прогнозу від значення КБП на модельних прикладах.

6. На основі БРОВ в характеристичному просторі поліноміальних функцій Безє-Бернштейна розроблено новий індуктивний метод побудови збалансованих робастних нейронечітких моделей у формі Бернштейна (ПРІАМ), який відрізняється від аналогів підвищеною якістю прогнозування стохастичних процесів. Метод враховує апріорну структуру моделі і працює на коротких вибірках. В середньому точність прогнозу ПРІАМ вища за точність МГВА на 52%, РНМ - на 40%, НМГВА - на 26%, ANFIS - на 10%.

7. Розроблена архітектура нової інформаційної системи обробки даних спостережень, яка реалізує запропоновані методи статистичного аналізу, та створено її прототип. Унікальність системи полягає в її здатності оперувати в онлайн режимі. Впровадження прототипу інформаційної системи в Севастопольській гідрометеорологічній обсерваторії дало можливість побудувати ефективні прогнозуючі моделі, які використовуються для підтримки прийняття рішень прогнозистами з метою уточнення прогнозу параметрів хвиль.

1. Митник О.Ю., Бідюк П.І. Обернене відображення Кастельжо в нечітких нейронних моделях // Системні дослідження та інформаційні технології. - 2004. - № 2. - С. 24-34.

2. Бідюк П.І., Митник О.Ю. Застосування генетичного алгоритму в задачі оцінювання вмісту хлорофілу в рослинності // Наукові вісті НТУУ "КПІ". - 2004. - № 4. - С. 65-70.

3. Бідюк П.І., Литвиненко В.І., Митник О.Ю. Порівняльний аналіз двох методів дистанційного оцінювання стану рослинності // Інформаційні технології і системи. - 2004. - Т. 7, № 1. - С. 108-116.

4. Митник О.Ю. Регуляризація поліноміальних функцій Безє-Бернштейна і її застосування в задачі ідентифікації нелінійних систем // Системні дослідження та інформаційні технології. - 2006. - № 1. - С. 94-105.

5. Мытник О.Ю. Построение байесовской регрессии опорных векторов в характеристическом пространстве полиномиальных функций Безье-Бернштейна // Кибернетика и системный анализ. - 2007. - № 4. - С. 179-188.

6. Мытник О.Ю., Алемов С.В. Использование байесовской модели регрессии опорных векторов для анализа данных гидробиологического мониторинга // Экология моря. - 2007. - Т. 73. - С. 64-69.

7. Митник О.Ю. Поліноміальні функції Безє-Бернштейна в нечітких нейронних моделях // Системний аналіз та інформаційні технології : тези V міжнар. наук. -практ. конф. студентів, аспірантів та молодих вчених, 1-3 лип. 2003 р. - К. : НТУУ "КПІ", 2003. - C. 80-81.

8. Оцінювання хлорофілу в рослинності на основі спектрального аналізу / П.І. Бідюк, І. В. Баклан, О.Ю. Митник, В.І. Литвиненко // Стан та перспективи розвитку новітніх науково-освітніх компютерних технологій: матеріали наук. -практ. конф., 14-15 лист. 2003 р. - Миколаїв, 2003. - C. 62-65.

9. Митник О.Ю. Еволюційний метод побудови оптимального оберненого відображення Кастельжо // Системний аналіз та інформаційні технології : тези VI міжнар. наук. -практ. конф. студентів, аспірантів та молодих вчених, 1-3 лип. 2004 р. - К. : НТУУ "КПІ", 2004. - C. 66-68.

10. Митник О.Ю., Бідюк П.І. Нейронечіткий підхід до ідентифікації нелінійних динамічних систем // Інтелектуальні системи прийняття рішень та прикладні аспекти інформаційних технологій: матеріали міжнар. наук. конф., 18-21 трав. 2005 р., Євпаторія. Т. 5. - Херсон: Вид-во Херсонського морського ін-ту, 2005. - C. 58-60.

11. Митник О.Ю. Нейронечіткий підхід до ідентифікації нелінійних динамічних систем // Моделювання та дослідження стійкості динамічних систем: тези міжнар. конф., 23-25 трав. 2005 р. - К. : Вісник КНУ, 2005. - C. 204.

12. Митник О.Ю. Байєсівський умовивід регресії опорних векторів // матеріали XI міжнар. наук. конф. імені академіка М. Кравчука, 18-20 трав. 2006 р. - К. : ТОВ "За друга", 2006. - C. 729.

13. Мытник О.Ю. Локальное сглаживание ?-нечувствительной функции потерь в байесовской модели регрессии опорных векторов // Интеллектуальный анализ информации: сборник трудов VI междунар. науч. конф., 16-19 мая, 2006 г. - К., 2006. - C. 189-198.

14. Митник О.Ю. Швидкий метод наближення маргінальної правдоподібності для оцінки адекватності моделей нелінійних стохастичних процесів // Моделювання та дослідження стійкості динамічних систем: тези міжнар. конф., 22-25 трав. 2007 р. - К. : Вісник КНУ, 2007. - C. 70.

Размещено на .ru