Salah satu teknik yang paling penting dalam pembelajaran mesin, pembelajaran terawasi menggunakan set data berlabel untuk mengajarkan sebuah model untuk mengkategorikan data yang belum pernah ditemui sebelumnya. Kami akan menyelidiki tiga puluh teknik yang banyak digunakan dalam makalah ini untuk masalah kategorisasi. Setiap metode memiliki kelebihan dan kekurangan; namun, pilihan metode yang tepat sebagian besar bergantung pada jenis data dan masalah yang dihadapi.
1. Regresi Logistik
Masalah klasifikasi biner pada dasarnya dimodelkan dengan regresi logistik. Dengan menggunakan fungsi sigmoid, fungsi ini memperkirakan kemungkinan kelas target tergantung pada faktor input.Baik untuk tugas klasifikasi biner,
Kelebihan : kesederhanaan implementasi dan interpretasi.
Kekurangan : Tidak cocok untuk data dengan hubungan non-linear yang rumit.
2. K-Nearest Neighbors (KNN)
Dalam ruang fitur, KNN mengelompokkan data berdasarkan kemiripan dengan tetangga terdekatnya.
Kelebihan : Kesederhanaan pemahaman dan penggunaan tanpa asumsi mengenai distribusi data.
Kekurangan : Lambat untuk dataset yang besar dan sensitif terhadap skala fitur adalah dua kekurangannya.
3. Decision Tree
Dengan memisahkan data berdasarkan aturan yang dihasilkan oleh fitur, Decision Tree memutuskan klasifikasi.
Kelebihan : menangani data non-linear secara efektif, jelas dan dapat dimengerti secara visual.
Kekurangan : memiliki risiko overfitting jika tidak dipangkas dengan benar.
4. Random Forest
Menggabungkan beberapa pohon keputusan di bawah Random Forest adalah teknik ensemble yang dimaksudkan untuk meningkatkan akurasi dan menurunkan overfitting.
Kelebihan : Baik untuk set data yang besar dan rumit; overfitting dengan baik.
Kekurangan : membutuhkan lebih banyak memori dan memiliki prediksi yang agak lambat.
5. Support Vector Machine (SVM)
Dalam ruang fitur, SVM mencari hyperplane yang memaksimalkan margin antar kelas.
Kelebihan : Untuk data berdimensi tinggi dan dalam situasi di mana jumlah dimensi melebihi jumlah sampel, pro berlimpah.
Kekurangan : Kurang efektif pada dataset yang besar dan membutuhkan penyesuaian parameter yang cermat adalah dua kekurangannya.
6. Naive Bayes
Berdasarkan penerapan teorema Bayes dengan asumsi independensi di seluruh fitur, naive bayes adalah metode probabilistik.
Kelebihan : Untuk dataset yang besar, kelebihannya adalah kecepatan dan efisiensi.
Kekurangan : Asumsi independensi fitur jarang ditemukan dalam kehidupan nyata.
7. Gradient Boosting
Metode ensemble yang disebut gradient boosting mengurutkan beberapa model yang lemah satu demi satu untuk menurunkan kesalahan secara progresif.
Kelebihan : dapat mengelola data non-linear dengan baik dan cukup berhasil untuk set data yang rumit.
Kekurangan : lambat untuk dilatih dan membutuhkan banyak penyesuaian parameter.
8. AdaBoost
AdaBoost memodifikasi bobot sampel tergantung pada kesalahan pada iterasi sebelumnya, sehingga meningkatkan kinerja model yang lemah.
Kelebihan : meningkatkan kinerja model yang lemah, cocok untuk masalah klasifikasi biner.
Kekurangan : sensitif terhadap anomali dan membutuhkan instruksi yang menyeluruh.
9. XGBoost
Dirancang untuk kinerja dan ekonomi, XGBoost adalah bentuk peningkatan gradien yang disempurnakan. Dalam kontes untuk pembelajaran mesin, ini adalah pilihan yang umum.
Kelebihan : Cepat dan efektif; manajemen yang baik untuk nilai yang hilang.
Kekurangan : Satu kelemahannya adalah penyetelan parameter yang lebih rumit dan kompleksitas yang lebih tinggi.
10. LightGBM
Dirancang untuk mengelola jumlah yang sangat besar secara lebih efektif, Microsoft menciptakan algoritma peningkatan LightGBM.
Kelebihan : Sangat baik untuk kumpulan data yang besar; cukup cepat.
Kekurangan : membutuhkan pemrosesan data yang menyeluruh; sensitif terhadap data yang berisik.
11. CatBoost
Dirancang untuk mengatasi beberapa kekurangan dari boosting konvensional, seperti penanganan yang lebih baik dari karakteristik kategorikal, CatBoost adalah metode boosting.
Kelebihan : memiliki kinerja yang baik dan menangani fitur kategori dengan baik.
Kekurangan : memerlukan penyetelan parameter dan pemrosesan data secara menyeluruh.
12. Neural Networks
Terinspirasi dari cara kerja otak manusia, jaringan saraf memproses input dan menghasilkan output menggunakan lapisan neuron.
Kelebihan : cukup mudah beradaptasi, mampu mengelola data yang tidak terstruktur dan canggih.
Kekurangan : Membutuhkan banyak data dan kemampuan pemrosesan serta kemungkinan kesulitan dalam melatih dan menafsirkan.
13. Convolutional Neural Networks (CNN)
Untuk pemrosesan data gambar, CNN-semacam jaringan saraf-agak berhasil. CNN memanen fitur dari gambar input dengan menggunakan lapisan konvolusi.
Kelebihan : cukup berhasil untuk tugas-tugas pengenalan gambar.
Kekurangan : relatif rumit dalam arsitektur, membutuhkan banyak data dan kapasitas pemrosesan.
14. Recurrent Neural Networks (RNN)
RNN adalah kelas jaringan syaraf yang sesuai untuk data yang berurutan secara temporal, seperti teks atau deret waktu.
Kelebihan : Untuk data berurutan dan aktivitas seperti prediksi urutan waktu, banyak sekali kelebihannya.
Kekurangan : Sulit untuk diajarkan karena masalah gradien yang menghilang.
15. LSTM (Long Short-Term Memory)
Long Short-Term Memory (LSTM) adalah sejenis RNN yang dibuat untuk menyimpan data dalam jangka waktu yang lebih lama sehingga dapat mengatasi masalah gradien yang hilang.
Kelebihan : Untuk pekerjaan dengan urutan yang luas dan hubungan temporal yang rumit, pro berlimpah.
Kekurangan: membutuhkan waktu pelatihan yang lebih lama dan kemampuan komputer.
16. GRU (Gated Recurrent Unit)
Sebuah bentuk LSTM yang disederhanakan, GRU menurunkan jumlah parameter yang diperlukan untuk pelatihan.
Kelebihan : menangani data urutan secara efektif, lebih cepat dan tidak terlalu rumit daripada LSTM.
Kekurangan : Meskipun lebih mudah, terkadang tidak sekuat LSTM dalam mengelola urutan yang sangat panjang.
17. Linear Discriminant Analysis (LDA)
LDA mencari dua atau lebih kelas yang memisahkan kombinasi linear dari fitur-fitur.
Kelebihan : baik untuk masalah kategorisasi berbasis fitur yang tersebar secara umum.
Kekurangan : Tidak berhasil jika asumsi distribusi normal tidak terpenuhi.
18. Quadratic Discriminant Analysis (QDA)
Lebih mudah beradaptasi daripada LDA, QDA membagi kelas menggunakan fungsi diskriminan kuadratik.
Kelebihan : Untuk set data dengan kelas yang tidak terbagi secara linier, kelebihannya berlimpah.
Kekurangan : Estimasi parameter yang lebih sulit dan overfitting pada dataset pendek.
19. Bagging
Melatih beberapa model pada berbagai subset data dan menggabungkan hasilnya membantu meningkatkan kinerja dalam agregasi bagging-bootstrap.
Kelebihan : Mengurangi varians model dan overfitting di antara hal-hal lainnya.
Kekurangan : Peningkatan sumber daya pemrosesan yang dibutuhkan.
20. Stacking
Stacking menggabungkan beberapa model menggunakan model meta-learner untuk meramalkan hasil akhir berdasarkan ramalan dari model lainnya.
Kelebihan : Menggunakan kekuatan dari beberapa model akan membantu meningkatkan kinerja.
Kekurangan : Lebih rumit dan menantang untuk diterapkan dengan benar.
21. Voting Classifier
Menggabungkan perkiraan dari beberapa model, Pengklasifikasi Pemungutan Suara akhirnya memutuskan berdasarkan suara mayoritas di antara model-model tersebut.
Kelebihan : Kesederhanaan implementasi yang dapat meningkatkan kinerja secara umum.
Kekurangan : mungkin lebih lambat dalam prediksi dan membutuhkan banyak model yang berbeda.
22. Extreme Learning Machine (ELM)
ELM adalah variasi dari jaringan syaraf dengan satu lapisan tersembunyi di mana solusi ditemukan secara analitis menggunakan bobot acak dan pemilihan bias.
Kelebihan : Pelatihan yang cukup cepat dan efektif.
Kekurangan : kebutuhan untuk penyetelan parameter yang tepat dan mungkin kurang tangguh daripada jaringan yang terlatih.
23. Bayesian Networks
Model grafis probabilistik yang dikenal sebagai jaringan bayesian menunjukkan ketergantungan antar variabel menggunakan jaringan probabilistik.
Kelebihan : Interpretasi probabilistik dan fleksibilitas hubungan pemodelan variabel.
Kekurangan : kompleksitas yang tinggi dalam inferensi dan pembelajaran.
24. Gaussian Processes for Classification (GPC)
Memprediksi distribusi probabilitas dari suatu fungsi yang sesuai dengan data, GPC adalah model non-parametrik.
Kelebihan : menawarkan prakiraan probabilistik dan agak mudah beradaptasi.
Kekurangan : kurang efektif untuk data yang besar.
25. Stochastic Gradient Descent (SGD)
Cukup berhasil untuk kumpulan data yang besar, SGD adalah metode berulang untuk memaksimalkan fungsi objektif.
Kelebihan : untuk pembelajaran online dan dataset besar adalah efisiensi.
Kekurangan : Rentan terhadap penyetelan parameter dan biasanya membutuhkan modifikasi menyeluruh.
26. ElasticNet Classifier
ElasticNet mengontrol overfit dengan mengagregasi penalti L1 dan L2 dari regresi Lasso dan Ridge.
Kelebihan : Untuk data dengan banyak fitur, menggabungkan keuntungan dari regularisasi L1 dan L2.
Kekurangan : Salah satu kekurangannya adalah penyesuaian parameter yang lebih sulit.
27. Ridge Classifier
Regularisasi L2 membantu Ridge Classifier untuk menurunkan kompleksitas model dan menghentikan overfitting.
Kelebihan : baik untuk masalah multikolinearitas.
Kekurangan : Tidak ada sparsitas seperti yang ditawarkan Lasso.
28. Lasso Classifier
Menetapkan koefisien tertentu ke nol membantu Lasso Classifier, menggunakan regularisasi L1, membuat model yang lebih sederhana.
Kelebihan : Model yang disederhanakan dan mungkin membantu dalam pemilihan fitur.
Kekurangan : penanganan multikolinieritas yang buruk.
29. Multilayer Perceptron (MLP)
Satu atau lebih lapisan tersembunyi mendefinisikan bentuk dasar jaringan saraf tiruan, MLP.
Kelebihan : mempelajari hubungan yang rumit dalam data.
Kekurangan : membutuhkan penyesuaian parameter yang cermat dan waktu pelatihan yang lama.
30. Deep Belief Networks (DBN)
Melatih secara hirarkis, DBN-semacam jaringan syaraf dengan beberapa lapisan tersembunyi-dapat ditemukan di
Kelebihan : mahir dalam mengelola data yang sangat berlapis dan canggih.
Kekurangan kompleksitas yang tinggi dan kebutuhan daya komputasi yang tinggi.
Memilih metode kategorisasi yang tepat adalah langkah pertama yang penting dalam pembelajaran mesin yang akan berdampak signifikan pada kinerja model Anda. Memahami kelebihan dan kekurangan dari setiap metode dan menerapkannya dengan benar akan membantu Anda meningkatkan kapasitas prediksi model Anda. Menemukan solusi optimal untuk masalah klasifikasi Anda dapat dicapai dengan melakukan investigasi tambahan dan penerapan beberapa metode.
No comments: