Самоконфигурирующийся гибридный эволюционный алгоритм формирования нечетких классификаторов с активным обучением для несбалансированных данных

Самоконфигурирующийся гибридный эволюционный алгоритм формирования нечетких классификаторов с активным обучением для несбалансированных данных

Автор: Становов Владимир Вадимович, Семенкина Ольга Эрнестовна

Журнал: Сибирский аэрокосмический журнал @vestnik-sibsau

Рубрика: Математика, механика, информатика

Статья в выпуске: 5 (57), 2014 года.

Бесплатный доступ

Описывается метод активного выбора обучающих примеров для самоконфигурирующегося гибридного эволюционного алгоритма формирования нечетких баз правил для задач классификации. Данный метод относится к методам отбора измерений, позволяющим не только снизить объем требуемых вычислительных ресурсов, но также улучшить качество получаемых классификаторов. Метод меняет вероятности выбора измерений для обучающей подвыборки в зависимости от того, насколько хорошо они классифицируются алгоритмом. Через некоторое число поколений выборка меняется и вероятности пересчитываются. Те измерения, которые не использовались ранее, и те, на которых алгоритм совершал ошибки, имели большую вероятность попасть в обучающую выборку. Вероятности выбора измерений рассчитывались с использованием процедуры, схожей с процедурой пропорциональной селекции в генетическом алгоритме. Описанная идея выбора обучающих примеров реализована для алгоритма построения нечетких классификаторов. Данный алгоритм использует комбинацию питсбургского и мичиганского подходов для построения баз правил с фиксированными термами, причем мичиганский подход используется вместе с оператором мутации. Размер баз правил не фиксирован и может изменяться в ходе работы алгоритма, а соответствующий номер класса и вес для каждого правила рассчитываются эвристически. Помимо этого в алгоритме применяется инициализация с использованием измерений выборки, для генерации более точных правил. В мичиганской части реализованы операторы добавления правил, удаления правил и замещения правил. При этом создание правил могло производиться как генетически, с использованием имеющихся в базе правил, так и эвристически, с использованием некорректно классифицированных объектов. Работоспособность алгоритма показана на ряде сложных задач классификации с множеством классов, в качестве мер качества классификации использовалась общая точность классификации и средняя точность по всем классам.

Еще

Нечеткие системы классификации, активное обучение, эволюционный алгоритм, самоконфигурация, несбалансированные данные

Короткий адрес: https://sciup.org/148177344

IDR: 148177344

Список литературы Самоконфигурирующийся гибридный эволюционный алгоритм формирования нечетких классификаторов с активным обучением для несбалансированных данных

  • L. B. Booker, D. E. Goldberg, and J. H. Holland, Classifier systems and genetic algorithms. Artif. Intell. 1989, vol. 40, no. 1-3, p. 235-282.
  • Bodenhofer U., Herrera F. Ten Lectures on Genetic Fuzzy Systems. Preprints of the International Summer School: Advanced Control-Fuzzy, Neural, Genetic. 1997. Slovak Technical University, Bratislava. Р. 1-69.
  • Brester C., Semenkin E. Development of adaptive genetic algorithms for neural network models multicriteria design. Vestnik SibGAU. 2013, no. 4 (50), p. 99-103 (In Russ.).
  • Brester Ch. Yu., Semenkin E. S., Sidorov M. Yu., Automatic informative feature extraction system for emotion recognition in speech. Program products and systems. 2014, no. 4 (108), p. 127-131.
  • J. R. Cano, F. Herrera, M. Lozano, Evolutionary Stratified Training Set Selection for Extracting Classification Rules with trade off Precision-Interpretability. Data & Knowledge Engineering archive. 2007, no. 60, Iss. 1, p. 90-108.
  • Ishibuchi H., Mihara S., Nojima Y. Parallel Distributed Hybrid Fuzzy GBML Models With Rule Set Migration and Training Data Rotation. IEEE Transactions on fuzzy systems. 2013, vol. 21, по. 2.
  • Ishibuchi H., T. Yamamoto, Rule weight specification in fuzzy rule-based classification systems. IEEE Trans. Fuzzy Systems. 2005, no. 13, p. 428-435.
  • M. Fazzolari, R. Alcala, Y. Nojima, H. Ishibuchi, F. Herrera, A Review of the Application of MultiObjective Evolutionary Fuzzy Systems: Current Status and Further Directions. IEEE Transactions on Fuzzy Systems. 2013, vol. 21, no. 1, p. 45-65.
  • E. Semenkin, M. Semenkina, Self-configuring genetic algorithm with modified uniform crossover operator. in Y. Tan, Y. Shi, Z. Ji (Eds.), Advances in Swarm Intelligence. 2012. PT1, LNCS 7331, p. 414-421.
  • E. Semenkin, M. Semenkina, Self-Configuring Genetic Programming Algorithm with Modified Uniform Crossover. Proc. of the IEEE Congress on Evolutionary Computation, (CEC), Brisane (Australia). 2012.
  • M. Semenkina, E. Semenkin, Hybrid selfconfiguring evolutionary algorithm for automated design of fuzzy classifier. in Y. Tan, Y. Shi, C.A.C. Coello (Eds.), Advances in Swarm Intelligence. 2014. PT1, LNCS 8794, p. 310-317.
  • J. R. Cano, F. Herrera, M. Lozano, Stratification for scaling up evolutionary prototype selection. Pattern Recognition Letters. 2005, vol. 26, Iss. 7, p. 953-963.
  • J. R. Cano, F. Herrera, M. Lozano, A Study on the Combination of Evolutionary Algorithms and Stratified Strategies for Training Set Selection in Data Mining. Advances in Soft Computing. 2005, no. 32, p. 271-284.
  • Bhowan U., Genetic Programming for Classification with Unbalanced Data. Victoria University of Wellington. 2012.
  • J. Alcala-Fdez, L. Sanchez, S. Garcia, M. J. del Jesus, S. Ventura, J. M. Garrell, J. Otero, C. Romero, J. Bacardit, V. M. Rivas, J. C. Fernandez, and F. Herrera, KEEL: A software tool to assess evolutionary algorithms for data mining problems. Soft Comput. 2009, vol. 13, no. 3, p. 307-318.
  • Asuncion A., Newman D. UCI machine learning repository. University of California, Irvine, School of Information and Computer Sciences. 2007. Available at: http://www.ics.uci.edu/~mlearn/MLRepository.html.
  • Akhmedova S. A., Semenkin E. S., Co-Operation of Biology Related Algorithms Meta-Heuristic in ANN-Based Classifiers Design. Proceedings of the World Congress on Computational Intelligence (WCCI’14). 2014. P. 867-872.
  • Khritonenko D. I., Semenkin E. S. Distributed SelfConfiguring Evolutionary Algorithms for Artificial Neural Networks Design. Vestnik SibGAU. 2013, no. 4 (50), p. 112-116 (In Russ.).
  • Akhmedova S. A., Semenkin E. S., Gasanova T., Minker. W., Co-Operation of Biology Related Algorithms for Support Vector Machine Automated Design. Engineering and Applied Sciences Optimization (OPT-i’14). 2014. P. 1831-1837.
  • Semenkin E., Semenkina M. Classifier Ensembles Integration with Self-Configuring Genetic Programming Algorithm Adaptive and Natural Computing Algorithms. Lecture Notes in Computer Science. Springer-Verlag, Berlin, Heidelberg, 2013, vol. 7824, p. 60-69
Еще
Статья научная
QR-код для установки приложения SciUp Наведите камеру и скачайте бесплатное приложение SciUp