About the methods for selection informative features using self-adjusting neural network classifiers and their ensembles
Автор: Loseva E.D., Sergienko R.B.
Журнал: Сибирский аэрокосмический журнал @vestnik-sibsau
Рубрика: Математика, механика, информатика
Статья в выпуске: 4 т.17, 2016 года.
Бесплатный доступ
Using feature selection procedures based on filters is useful on the pre-processing stage for solving the task of data analysis in different domains including an air-space industry. However, it is a complicated problem, due to the absence of class labels that would guide the search for relevant information. The feature selection using “wrapper” approach requires a learning algorithm (function) to evaluate the candidate feature subsets. However, they are usually performed separately from each other. In this paper, we propose two-stage methods which can be performed in supervised and unsupervised forms simultaneously based on a developed scheme using three criteria for estimation (“filter”) and multi-criteria genetic programming using self-adjusting neural network classifiers and their ensembles (“wrapper”). The proposed approach was compared with different methods for feature selection on tree audio corpora in German, English and Russian languages for the speaker emotion recognition. The obtained results showed that the developed technique for feature selection provides to increase accuracy for emotion recognition.
Emotion recognition, neural network classifiers, multi-criteria genetic programming, feature selection
Короткий адрес: https://sciup.org/148177649
IDR: 148177649 | УДК: 517.9
О методах отбора информативных признаков с привлечением самоорганизующихся нейросетевых классификаторов и их ансамблей
Применение методов отбора признаков на основе фильтров является эффективным на этапе предобработки данных для анализа в различных предметных областях, включая аэрокосмическую отрасль. Но такое применение также является сложным ввиду того, что отбор проводится без использования функции, определяющей качество признака. Отбор признаков с использованием методов свёртки использует для обучения функцию качества признаков или наборов признаков. Однако оба этих метода обычно используются отдельно друг от друга. Предложен подход, который может быть представлен в виде последовательной кооперации обоих методов. Этот метод основан на разработанной схеме с использованием трех критериев эффективности для оценки качества признаков (фильтры) и многокритериального генетического программирования с привлечением самоорганизующихся нейросетевых классификаторов (свёртки). Проведено сравнение разработанного двухэтапного метода отбора признаков с существующими методами. Сравнение проводилось с использованием трех баз данных, содержащих акустические характеристики голосов людей на немецком, английском и русском языках для распознавания эмоций человека. Полученные результаты показали эффективность разработанных методов отбора признаков для повышения точности распознавания эмоционального состояния человека.
Список литературы About the methods for selection informative features using self-adjusting neural network classifiers and their ensembles
- Ministry of Defence of the Russian Federation. Available at: http://eng.mil.ru/en/structure/forces/cosmic.htm/(accessed 02.6.2016).
- Loseva E. D. . Materialy XII Mezhdunarodnoy nauch. prakt. konf. "Sovremennyye kontseptsii nauchnykh issledovaniy". . (27-28 March 2015, Moscow). Moscow, Part 7, No. 3, 2015, P. 132-136 (in Russ).
- Maxim Sidorov, Christina Brester, Eugene Semenkin, Wolfgang Minker. Speaker State Recognition with Neural Network-based Classification and Self-adaptive Heuristic Feature Selection. International Conference on Informatics in Control (ICINCO). 2014, P. 699-703.
- Holland J. H. Adaptation in Natural and Artificial System. University of Michigan Press. 1975, P. 18-35.
- Jonathon Shlens. A Tutorial on Principal Component Analysis. Cornell University Library. 2014, P. 1-12.
- Zitzler E., Thiele L. Multiobjective evolutionary algorithms: A comparative case study and the strength pareto approach. Evolutionary Computation (IEEET). 1999, No. 3(4), P. 257-271.
- Saadia Minhas, Muhammad Younus Javed. Iris Feature Extraction Using Gabor Filter. International Conference on Emerging Technologies. 2009, P. 252-255.
- Loseva E. D., Lipinsky L. V. . Vestnik SibGAU. Vol. 17, No. 1, 2016, P. 67-72 (in Russ.).
- He X., Cai D., Niyogi P. Learning a Laplacian Score for Feature Selection. Advances in Neural Information Processing Systems 18 (NIPS). 2005, P. 1-8.
- Ashish G., Satchidanada D. Evolutionary Algorithm for Multi-Criterion Optimization: A Survey. International Journal of Computing & Information Science. 2004, Vol. 2, No. 1, P. 43-45.
- Loseva E. D. . Materialy XXV Mezhdunar. nauch. konf. "Aaktual’nyye problemy v sovremennoy nauke i puti ikh resheniya". . (28 April 2016, Moscow). Moscow, No. 4 (25), 2016, P. 20-26 (In Russ.).
- Burkhardt F., Paeschke A., Rolfes M., Sendlmeier W. F., Weiss B. A database of german emotional speech. Interspeech. 2005, P. 1517-1520.
- Schmitt A., Ultes S., Minker W. A parameterized and annotated corpus of the cmu let’s go bus information system. International Conference on Language Resources and Evaluation (LREC). 2012, P. 208-217.
- Boersma P. PSat, a system for doing phonetics by computer. Glot international. 2002, No. 5(9/10), P. 341-345.
- Akthar, F. and Hahne, C. Rapid Miner 5 Operator reference: Rapid-I. Dortmund. 2012, P. 25-55.
