Исследование алгоритмов обучения нейро-нечеткой системы управления биотехнологическим процессом - Статья

В настоящее время в связи с появлением новых возможностей применение нейро-нечетких систем (ННС), совмещающих принципиально различные подходы, становится одним из наиболее актуальных направлений автоматизации различных производств АПК, в числе которых пищевая промышленность, а также производства, производящие минеральные удобрения, химикаты - те производства, которые обеспечивают сельское хозяйство материальными ресурсами и где используются технологические комплексы, присутствует массовость и серийность производства. Данное соображение легло в основу создания аппарата нейро-нечетких сетей, в которых выводы делаются на основе аппарата нечеткой логики, но соответствующие функции принадлежности подстраиваются с использованием алгоритмов обучения нейронных сетей. Адаптация этих моделей, предусматривающая в качестве первоочередных этапов обучение нейронной сети (НС) и выбор функции принадлежности (ФП), подстраиваемых с помощью НС с целью повышения эффективности управления, является актуальной задачей. На основе их анализа можно отметить следующие ключевые свойства: возможность автоматического формирования набора решающих правил; возможность применения различных алгоритмов обучения; возможность оперативного обучения в процессе поступления данных; возможность изменения структуры; сохранение заложенных в систему знаний в процессе параметрической оптимизации или обучения новым правилам. В данной системе выводы делаются на основе аппарата НЛ, а параметры ФП настраиваются с помощью алгоритма обратного распространения ошибки или гибридным методом в процессе обучения НС.В современных условиях повышение конкурентоспособности предприятий различных отраслей АПК связано с автоматизаций технологических процессов и применением интеллектуальных систем управления (нечетких, нейросетевых и нейро-нечетких). В известных опубликованных работах отсутствуют результаты подобных исследований, что затрудняет синтез нейро-нечеткой системы управления новыми объектами в прикладной биотехнологии, в том числе технологическими объектами АПК.

В настоящее время в связи с появлением новых возможностей применение нейро-нечетких систем (ННС), совмещающих принципиально различные подходы, становится одним из наиболее актуальных направлений автоматизации различных производств АПК, в числе которых пищевая промышленность, а также производства, производящие минеральные удобрения, химикаты - те производства, которые обеспечивают сельское хозяйство материальными ресурсами и где используются технологические комплексы, присутствует массовость и серийность производства.

Теоретически, интеллектуальные системы с нечеткой логикой и искусственные нейронные сети подобны друг другу, однако на практике у них имеются свои собственные достоинства и недостатки. Данное соображение легло в основу создания аппарата нейро-нечетких сетей, в которых выводы делаются на основе аппарата нечеткой логики, но соответствующие функции принадлежности подстраиваются с использованием алгоритмов обучения нейронных сетей. В основном, разрабатываемые гибридные ННС носят прикладной характер и направлены на наиболее эффективное решение какой-либо конкретной задачи в различных сферах деятельности. Поэтому при отсутствии общих рекомендаций выбор типа ННС и функции принадлежности, а также оценка их эффективности для управления технологическими комплексами является одним из важных этапов адаптации ННС к задаче управления.

В настоящее время интенсивно развиваются гибридные модели ННС в интеллектуальных системах управления технологическими объектами прикладной биотехнологии [2]. Адаптация этих моделей, предусматривающая в качестве первоочередных этапов обучение нейронной сети (НС) и выбор функции принадлежности (ФП), подстраиваемых с помощью НС с целью повышения эффективности управления, является актуальной задачей.

1. Постановка и решение задачи

Гибридизация нейронных сетей с нечеткой логикой (НЛ) позволяет существенно повысить эффективность работы систем автоматического управления с такими ННС за счет того, что недостатки, присущие одной из технологий, компенсируются преимуществами другой [4]. В частности, НС обладают хорошей способностью обучаться, но процесс работы обучающей сети сложен для понимания. В тоже время системы с НЛ хорошо объясняют выводы, но имеют ограничения на количество входных переменных. Вследствие этого возможно построение ННС, в которых выводы формируются на основе НЛ, а функции принадлежности подстраиваются с помощью НС. Преимущество таких систем очевидно: построенная структура не только использует априорную информацию, но может приобретать новые знания, являясь логически «прозрачной» [1, 3].

В настоящее время имеются различные по архитектуре, возможностям и используемым методам гибридные нейро-нечеткие сети [4]. На основе их анализа можно отметить следующие ключевые свойства: возможность автоматического формирования набора решающих правил; возможность применения различных алгоритмов обучения; возможность оперативного обучения в процессе поступления данных; возможность изменения структуры; сохранение заложенных в систему знаний в процессе параметрической оптимизации или обучения новым правилам. Основные особенности некоторых гибридных нейро-нечетких систем и рекомендации по их выбору в зависимости от типа решаемой задачи приведены в [6]. В соответствии с приведенными в [6] данными для построения системы управления технологическим процессом целесообразно использовать адаптивную систему нейро-нечеткого вывода - ANFIS (Adaptive Network-based Fuzzy Inference System) [1]. ANFIS обладает по сравнению с другими методами высокой скоростью обучения, простотой алгоритма и оптимальной проработанностью программного обеспечения в системе математического моделирования MATLAB [7, 10]. В данной системе выводы делаются на основе аппарата НЛ, а параметры ФП настраиваются с помощью алгоритма обратного распространения ошибки или гибридным методом в процессе обучения НС. Такой подход позволит выделять закономерности и обнаруживать новые зависимости. С учетом отмеченных рекомендаций в данной работе моделирование системы управления биотехнологическим процессом выполнено в среде MATLAB с пакетом расширения Fuzzy Logic Toolbox [7]. В пакете Fuzzy Logic Toolbox системы MATLAB адаптивная система нейро-нечеткого вывода ANFIS представляет собой гибридную сеть, которая является многослойной нейронной сетью специальной структуры без обратных связей. В данной сети используются обычные (не нечеткие) сигналы, веса и функции активации, а выполнение операции суммирования основано на использовании фиксированной Т-нормы, Т-конормы или некоторой другой непрерывной операции [4]. При этом значения входов, выходов и весов гибридной нейронной сети представляют собой вещественные числа из отрезка [0, 1].

В качестве алгоритма вывода решения могут применяться известные алгоритмы вывода: Мамдани, Сугено, Цукамото, Ларсена [10]. Данные алгоритмы по-разному реализуют нечеткий логический вывод, но существенных отличий не имеют [9]. Однако правильно выбранный алгоритм вывода может повысить точность получаемого управляющего сигнала. Сравнительный анализ алгоритмов показал [5], что при прочих равных условиях погрешность аппроксимации функции с применением алгоритма Сугэно несколько меньше, чем с применением алгоритма Мамдани. Причем алгоритм Сугэно с вычислительной точки зрения реализуется значительно проще, чем алгоритм Мамдани, а время счета для него меньше, чем для алгоритма Мамдани в 50-100 раз. Поэтому для построения нечеткого регулятора системы управления биотехнологическим объектом воспользуемся алгоритмом Сугэно [8]. В пакете Matlab система вывода Сугено представлена ANFIS-редактором.

Методика обучения сети ANFIS для определения параметров функций принадлежности систем нечеткого вывода типа Сугено может использовать алгоритм обратного распространения ошибки или алгоритм гибридного обучения. Проведем сравнительный анализ обучения четырехслойной нейро-нечеткой сети с различными функциями принадлежности с применением метода обратного распространения ошибки и гибридного метода. Для обучения ANFIS-сети могут быть применены типовые процедуры обучения нейронных сетей, так как в ней используют только дифференцируемые функции. Обычно применяется комбинация градиентного спуска в виде алгоритма обратного распространения ошибки и метода наименьших квадратов.

Алгоритм обратного распространения ошибки настраивает параметры антецедентов правил, т.е. функций принадлежности. Методом наименьших квадратов оцениваются коэффициенты заключений правил, так как они линейно связаны с выходом сети. Каждая итерация процедуры настройки выполняется в два этапа. На первом этапе на входы подается обучающая выборка и по невязке между желаемым и действительным поведением сети итерационным методом наименьших квадратов находятся оптимальные параметры узлов четвертого слоя. На втором этапе остаточная невязка передается с выхода сети на входы, и методом обратного распространения ошибки модифицируются параметры узлов первого слоя. При этом найденные на первом этапе коэффициенты заключений правил не изменяются. Итерационная процедура настройки продолжается пока невязка превышает заранее установленное значение.

Для оценки эффективности использования сети ANFIS для управления биотехнологическим процессом ферментации использована обучающая выборка, содержащая данные по температуре и концентрации растворенных в культуральной жидкости газов: кислорода (РО2) и углекислого газа (РСО2), характеризующих различные состояния биосистемы: нормальное протекание процесса ферментации, условия лимитирования процесса роста микроорганизмов кислородом РО2 и условия, ингибирующие синтез целевого продукта повышенными концентрациями растворенного углекислого газа РСО2. Фрагмент экспертной матрицы знаний для режимов роста биомассы и синтеза целевого продукта в реакторе-ферментаторе приведен в табл. 1.

Таблица 1. Экспертная матрица знаний для режимов роста биомассы и синтеза целевого продукта

Номер правила ЕСЛИ ТО Вес правила

Концентрация РО2 в режиме роста биомассы при DPO2/dt0, РО2·10-2 мг/л Температура в реакторе, ОС

1 4 3.3 26 0 1

2 3.5 3.3 26.5 0 1

3 3.5 3 25.5 0 1

…

7 2 2 27 1 1

8 1.5 1.8 26.5 1 1

9 1.5 1.7 26.8 1 1

…

14 2 0.7 28 2 1

15 3 0.6 30 2 1

16 3.5 0.75 30 2 1

…

21 2 0.3 26.5 3 1

22 1.8 0.2 29 3 1

23 1.8 0.3 30 3 1

2. Результаты и их обсуждение

Вначале НС была обучена при помощи алгоритма обратного распространения ошибки (рис. 1). После 3000 эпох обучения получена ошибка обучения составила ?=2,52·10-3. По результатам обучения гибридным методом (рис. 2) ошибка обучения после 37 эпох составила ?=9,30·10-4, т.е. в 2,7 раза меньше, чем при обучении алгоритмом обратного распространения ошибки.

Рисунок 1. Процесс обучения ННС алгоритмом обратного распространения ошибки

Рисунок 2. Процесс обучения ННС гибридным методом

Отсюда следует, что гибридный метод осуществляет обучение сети за число эпох в 23 раза меньшее, чем алгоритм обратного распространения ошибки. Поэтому для обучения нейронной сети в работе использован гибридный метод.

При построении нейро-нечеткой сети чрезвычайно важен выбор функции принадлежности (ФП). В таблице 2 приведена ошибка обучения сети, полученная при различных ФП в результате обучения сети гибридным методом.

Таблица 2. Ошибка обучения сети, полученная при различных функциях принадлежности

Наименование функции принадлежности Ошибка обучения сети Число эпох треугольная функция принадлежности (trimf) 0,075882 34 трапециевидная функция принадлежности (trampf) 0,137540 84 обобщенная колоколообразная функция принадлежности (gbellmf) 0,003857 120 симметричная гауссовская функция принадлежности (gaussmf) 0,006087 125 двухсторонняя гауссовская функция принадлежности (gauss2mf) 0,003283 140 функция принадлежности в виде разности между двумя сигмоидными функциями (dsigmf) 0,013696 277 произведение двух сигмоидных функций принадлежности (psigmf) 0,013715 290

В ходе исследований установлено, что двухсторонняя гауссовская ФП обеспечивает наименьшую ошибку обучения сети ?, равную 3,28·10-3, при числе эпох N=140 по сравнению с симметричной гауссовской ФП, дающей ошибку ?=6,09·10-3 при числе эпох N=125, и по сравнению с трапециевидной ФП, дающей наибольшую ошибку обучения сети ?=0,138 при числе эпох N=84. Поэтому при адаптации ННС в решении задачи управления целесообразно использование двухсторонней гауссовской ФП.

В современных условиях повышение конкурентоспособности предприятий различных отраслей АПК связано с автоматизаций технологических процессов и применением интеллектуальных систем управления (нечетких, нейросетевых и нейро-нечетких). Предметом исследований данной работы являлся алгоритм обучения нейро-нечеткой системы с различными функциями принадлежности. В известных опубликованных работах отсутствуют результаты подобных исследований, что затрудняет синтез нейро-нечеткой системы управления новыми объектами в прикладной биотехнологии, в том числе технологическими объектами АПК. В процессе исследования использованы метод обратного распространения ошибки и гибридный метод. В результате исследования установлено, что эффективным методом является гибридный метод, а рациональной функцией принадлежности является двухсторонняя гауссовская функция принадлежности, обеспечивающие минимальную ошибку обучения сети. Полученные рекомендации по использованию методов обучения и выбору функций принадлежности позволят повысить эффективность разрабатываемой нейро-нечеткой системы управления биотехнологическими объектами.

По результатам исследований можно сделать вывод, что для адаптации нейро-нечеткой сети ANFIS и системы нечеткого вывода Сугено нулевого порядка к решению задачи управления биотехнологическими процессами микробиологических производств эффективным является использование гибридного метода обучения и двухсторонней гауссовской функции принадлежности.

управление микробиологический гибридный алгоритм

1. Адаптивные нейро-нечеткие системы инференции (ANFIS) [Электронный ресурс]. - Режим доступа: http://life-prog.ru/1_22027_adaptivnie-neyronechetkie-sistemi-inferentsii-NFIS.html (дата обращения 28.05.2015).

2. Ивашкин Ю.А. Управление нечеткими объектами в прикладной биотехнологии / Ю.А. Ивашкин, И.И. Протопопов // Журнал Горный информационно-аналитический бюллетень (научно-технический журнал). - М.: МГГУ. - 1999. - Вып. 4. - С. 1-3.

3. Карпенко А.П. Многокритериальная оптимизация на основе нейро-нечеткой аппроксимации функции предпочтений лица, принимающего решения / А.П. Карпенко, Д.А. Моор, Д.Т. Мухлисуллина // Электронное научно-техническое издание: наука и образование. - 2010. - № 1. URL: http://technomag.edu.ru/doc/143964.html (дата обращения 18.02.2015).

4. Круглов В.В. Гибридные нейронные сети / В.В. Круглов, В.В. Борисов. - Смоленск: Русич, 2001. - 224 с.

5. Круглов В.В. Сравнение алгоритмов Мамдани и Сугэно в задаче аппроксимации функции / В.В. Круглов. 2001. http://sgma.alpha-design.ru/MMORPH/N-7-html/KRUGLOV/kruglov.htm.

6. Кузькин А.А. Оценивание показателей эффективности и результативности ИТ-процессов с использованием гибридных нейро-нечетких сетей / А.А. Кузькин // Интернет-журнал «Науковедение». - Вып. 1, январь - февраль 2014.

7. URL: http://naukovedenie.ru/PDF/57TVN114.pdf (дата обращения 20.09.2015).

8. Леоненков А.В. Нечеткое моделирование в среде MATLAB и FUZZYTECH / А.В. Леоненков. - СПБ.: БХВ-Петербург, 2003. - 736 с.

9. Лубенцова, Е.В. Интеллектуальные технологии в управлении нечетко-определенными объектами биосистемы / Е.В. Лубенцова // Математические методы в технике и технологиях - ММТТ-26: сб. трудов XXVI Междунар. науч. конф.: в 10 т. Т. 8. Секция 7 / под общ. ред. А.А. Большакова. - Нижний Новгород: Нижегород. гос. техн. ун-т, 2013. - С. 71-72.

10. Петрова И.Ю. Прогнозирование электропотребления с помощью нейро-нечеткой системы ANFIS. Алгоритм отбора входных переменных / И.Ю. Петрова, А.А. Глебов // Электронное издание «НАУКА и ОБРАЗОВАНИЕ». - Издатель ФГБОУ ВПО «МГТУ им. Н.Э. Баумана». - № 7, 2006.

11. Штовба С.Д. Проектирование нечетких систем средствами MATLAB / С.Д. Штовба. - М.: Горячая линия - Телеком, 2007. - 288 с.

Размещено на .ru