Comparing the impacts of dimension reduction methods that use class labels on text classification

Abstract

ÖZETÇEÖrnekleri çok sayıda öznitelik barındıran veri kümelerinin sınıflandırılması uzay ve zaman olarak yüksek maliyetlidir. Çok boyutluluğun laneti olarak bilinen bu problemi çözmek için öznitelik seçimi ve öznitelik çıkarımı yöntemlerinden oluşan boyut indirgeme yöntemleri geliştirilmiştir. Bu çalışmada, her bir örnekte bulunan özniteliklerin sınıflara olan bileşke etkilerini kullanarak boyut indirgeme sağlayan soyut öznitelik çıkarım yöntemi ile sınıf bilgisini kullanarak boyut indirgemeyi gerçekleştiren diğer yaygın yöntemlerin sınıflandırma performansına olan etkileri karşılaştırılmıştır. Yöntemleri karşılaştırmak için çok boyutlu öznitelikleriyle bilinen iki standart metin veri kümesi kullanılmıştır. Seçilen yöntemlerle örneklerinin boyutları indirgenen veri kümeleri, beş farklı türde sınıflandırma algoritmasına tabi tutulmuştur. Elde edilen sonuçlar, boyut indirgeme için soyut öznitelik çıkarım yöntemi kullanıldığında diğer yöntemlere nazaran çok daha yüksek sınıflandırma başarımı elde edildiğini göstermektedir. ABSTRACT Classification of datasets that contain samples with numerous features is known as a costly process in time and space.In order to overcome this problem, dimensionality reduction techniques like feature selection and feature extraction are proposed in literature. In this paper, we compare the impacts of abstract feature extraction method and other popular techniques that use class labels for dimensionality reduction on classification performances. For evaluation, we utilize two standard text datasets having high dimensional samples. We compare the impacts of selected methods on performance by applying them on selected datasets and testing on five different classifiers with different design approaches. Results show that using abstract feature extraction method for dimensionality reduction produces much better classification performance, when compared with other selected methods.