Entri Blog: Regresi LASSO dan Seleksi Variabel


🔪 Entri Blog: Regresi LASSO dan Seleksi Variabel

Tujuan dari analisis $\text{LASSO}$ ini adalah untuk mengidentifikasi subset variabel penjelas yang paling kuat yang memprediksi variabel respons kuantitatif kita, yaitu Indeks Massa Tubuh ($\text{BMXBMI}$), sambil meminimalkan prediction error melalui shrinkage koefisien.

Kami menggunakan $\text{K-Fold Cross-Validation}$ ($\text{K}=5$) untuk menemukan parameter shrinkage ($\alpha$ atau $\lambda$) optimal yang memberikan keseimbangan terbaik antara bias dan variance.

Sintaks LASSO Regression (LassoCV)

Kami memasukkan enam prediktor ke dalam model: $\text{Usia}$ ($\text{RIDAGEYR}$), $\text{Jenis Kelamin}$ ($\text{IS\_FEMALE}$), $\text{Lingkar Pinggang}$ ($\text{BMXWAIST}$), $\text{Rerata Natrium}$, $\text{Rerata Kalori}$, dan $\text{Aktivitas Fisik}$.

Python
# Sintaks Persiapan Data (Scaling)
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
X_scaled_df = pd.DataFrame(X_scaled, columns=X.columns)

# Sintaks LASSOCV (K-Fold Cross-Validation)
cv = KFold(n_splits=5, shuffle=True, random_state=42)
lasso_cv = LassoCV(cv=cv, random_state=42, max_iter=10000).fit(X_scaled_df, Y)

# Sintaks Ekstraksi Koefisien
lasso_coefs = pd.Series(lasso_cv.coef_, index=X.columns)

Output LASSO Regression

Metrik LASSONilai
Optimal Alpha ($\lambda$)0.055880

Koefisien Regresi LASSO (Skala Standar):

VariabelKoefisien LASSO (β)
$\text{RIDAGEYR}$$\mathbf{-0.000000}$
$\text{IS\_FEMALE}$$0.037854$
$\text{BMXWAIST}$$\mathbf{5.941477}$
$\text{NATRIUM\_RERATA}$$\mathbf{0.000000}$
$\text{KALORI\_RERATA}$$0.681943$
$\text{AKTIVITAS\_FISIK}$$\mathbf{-2.098453}$

Ringkasan Tertulis

Analisis $\text{LASSO}$ menggunakan $\text{5-fold cross-validation}$ memilih $\mathbf{\lambda = 0.055880}$ sebagai parameter shrinkage optimal. Model $\text{LASSO}$ berhasil melakukan seleksi variabel, mengecilkan koefisien $\text{RIDAGEYR}$ ($\text{Usia}$) dan $\text{NATRIUM\_RERATA}$ ($\text{Rerata Natrium}$) menjadi tepat nol. Ini berarti bahwa $\text{Usia}$ dan $\text{Natrium}$ dieliminasi dari model sebagai prediktor $\text{BMI}$ yang efektif.

Variabel yang dipertahankan dalam model dan dianggap paling kuat terkait dengan $\text{BMI}$ adalah $\text{BMXWAIST}$ ($\text{Lingkar Pinggang}$) ($\beta=5.941$), diikuti oleh $\text{AKTIVITAS\_FISIK}$ ($\beta=-2.098$), $\text{KALORI\_RERATA}$ ($\beta=0.682$), dan $\text{IS\_FEMALE}$ ($\beta=0.038$). Koefisien yang besar pada $\text{Lingkar Pinggang}$ menunjukkan bahwa ini adalah prediktor $\text{BMI}$ yang dominan, sementara $\text{Aktivitas Fisik}$ memiliki hubungan negatif yang kuat, yang logis secara biologis. Hasil ini menguatkan temuan awal bahwa $\text{Natrium}$ tidak memiliki hubungan linear yang berarti dengan $\text{BMI}$.

Komentar

Posting Komentar

Postingan populer dari blog ini

Entri Blog: Menggali Data Kesehatan dengan NHANES

Halo semuanya! Untuk proyek eksplorasi data kita minggu ini, saya telah memilih data set yang luar biasa kaya: National Health and Nutrition Examination Survey (NHANES) . Data ini dikumpulkan oleh CDC di AS dan memberikan pandangan mendalam tentang status kesehatan dan nutrisi populasi Amerika—sumber yang sempurna untuk menyelidiki hubungan antara gaya hidup dan kesehatan. Asosiasi yang Saya Ingin Pelajari Saya tertarik untuk meneliti bagaimana pola makan dapat memengaruhi kesehatan fisik. Secara spesifik, saya akan mengeksplorasi hubungan antara dua topik utama yang sering diperdebatkan dalam kesehatan masyarakat: Topik 1 (Variabel Utama): Obesitas/Kesehatan Antropometri Topik 2 (Variabel Prediktor): Asupan Natrium (Garam) Harian Intinya, saya ingin melihat: Apakah mengonsumsi banyak garam terkait dengan memiliki BMI dan lingkar pinggang yang lebih besar? Hipotesis Kerja Tinjauan literatur singkat saya menunjukkan bahwa sebagian besar penelitian cross-sectional memang menemukan kor...
Baca selengkapnya

Predictive Modeling of Body Mass Index and Obese Status using Anthropometric, Dietary, and Lifestyle Factors in U.S. Adults

Predictive Modeling of Body Mass Index and Obese Status using Anthropometric, Dietary, and Lifestyle Factors in U.S. Adults The escalating global prevalence of obesity remains a critical public health challenge, driving increased morbidity and mortality associated with chronic diseases such as type 2 diabetes, cardiovascular disease, and certain cancers. Understanding the complex interplay of factors contributing to body mass index (BMI) and the progression to obese status is paramount for developing effective, targeted public health interventions. Traditional linear models often fail to capture the nuances of these relationships, necessitating the use of advanced predictive and clustering methods to identify high-risk subgroups and key non-linear determinants. Research Question Statement This study addresses the following research question: What is the differential association of key quantitative and categorical health and lifestyle variables—specifically age, gender, waist circumfere...
Baca selengkapnya

Entri Blog: Analisis Random Forest untuk Prediksi Obesitas

🌲 Entri Blog: Analisis Random Forest untuk Prediksi Obesitas Kami menggunakan model Random Forest Classifier untuk memprediksi status $\text{Obesitas}$ ( $\text{BMI} \ge 30$ , dikodekan sebagai 1) dari empat variabel penjelas: $\text{Rerata Natrium Harian}$ , $\text{Usia}$ ( $\text{RIDAGEYR}$ ), $\text{Lingkar Pinggang}$ ( $\text{BMXWAIST}$ ), dan $\text{Jenis Kelamin}$ ( $\text{IS\_FEMALE}$ ). Sintaks Random Forest Classifier Kami menggunakan 100 pohon ( n_estimators=100 ) dan membatasi kedalaman maksimum setiap pohon menjadi 5 ( max_depth=5 ) untuk menjaga keseimbangan antara kinerja dan kemampuan interpretasi. Python # Bagi data menjadi training (80%) dan testing (20%) X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size= 0.2 , random_state= 42 ) # Inisialisasi model Random Forest rf_clf = RandomForestClassifier(n_estimators= 100 , max_depth= 5 , random_state= 42 ) # Latih model rf_clf.fit(X_train, Y_train) # Evaluasi model & Hitung Feature Importance ...
Baca selengkapnya