Variable Selection to Determine Majors of Student using K-Nearest Neighbor and Naïve Bayes Classifier Algorithm

Abstract

Appropriate student’s major placement in high school can help students to better improve their academic achievement. There are many variables which must be considered to determine the student’s majors, such as: Gender, Interests, Intelligence Quotient (IQ); Four subjects in Junior High School (JHS), average junior high school grades, matriculation score of four subjects, and average rate of matriculation. The number of variables used in the selection, causes some weaknesses among them, such as the complexity of variable, the inefficiency of variable and the existence of some variables which is only as an addition without having a significant contribution. This study aims to reduce the number of these variables so it will become easier to analyze and to be applied. The Process of reduction was done by combining experiments with Predefined attributes. A total of ten combinations were attempted using K-Nearest Neighbor (K-NN) and Naïve Bayes Classifier (NBC) which then was measured by Confusion Matrix accuracy. The experimental result showed that the combination of variables which produce the best accuracy were the 9th and 10th experiment with variable matriculation, interest, and IQ, and an accuracy of 96.77% from K-NN also 98.38% from NBC. By combining both algorithms, 99.87% of maximum accuracy was obtained from those three variables. New information which can be extracted from this research is that there are only three important variables to determine major placement in Senior High School, Average Scores of Matriculation, Interests and IQ followed by four supporting variables such as the scores of Mathematic, Physics, English and Economics in Matriculation.

Perbandingan Klasifikasi Antara Naive Bayes dan K-Nearest Neighbor Terhadap Resiko Diabetes pada Ibu Hamil

“…KNN adalah metode pengelompokan data untuk menentukan kategori berdasarkan sebagian besar kategori pada K-Nearest Neighbor [22], KNN dilakukan dengan mencari kelompok K objek pada data latih yang paling dekat dengan objek pada data baru atau data uji [21]. i) Outcome Variabel kelas (0 atau 1) dimana 1 merupakan kelas terindikasi terkena diabetes dan 0 merupakan kelas terindikasi tidak terkena diabetes.…”

Analisa Sentimen Opini Publik Tentang Vaksinasi Covid-19 di Indonesia Menggunakan Naïve bayes dan Decission Tree

“…Pre-Processing Pre-processing merupakan kegiatan pengumpulan dan penggunaan data historis dalam menemukan kesesuain pola atau hubungan pada data besar [11]. Pre-processing digunakan untuk menghasilkan model yang menjadi kelas penting dari data.…”

“…1 April 2021, pp: 58-63 membandingkan kelas input awal yang memuat informasi nilai aktual dan prediksi pada hasil klasifikasi. Confusion matrix juga merupakan model pengukuran kinerja klasifikasi berdasarkan pengujian data dan setiap hasil prediksi data dengan proporsi yang tepat [11]. Rumas yang digunakan untuk menghitung akurasi.…”

Implementasi Algoritma Naïve Bayes Classifier dan K-Nearest Neighbor untuk Klasifikasi Penyakit Ginjal Kronik

“…Sedangkan Algoritma K-NN adalah algoritma yang memiliki kinerja komputasi yang tinggi dan dapat digunakan untuk menghitung jarak terpendek antara atribut data. Ini adalah algoritma yang mudah digunakan untuk data yang besar dan memiliki banyak karakteristik yang baik, baik dari segi kinerja dan akurasi [10]. Dengan cara memilih nilai K sampel pelatihan yang paling terdekat dengan contoh uji, selain itu dengan menentukan jarak antara data baru dan semua data yang ada didalam data latih.…”