machine learning (6) 썸네일형 리스트형 [Machine Learning] PCA + Dimension 축소 학습 서론 이전까지 머신러닝의 모델에서는 어느정도 column들이 정제된, 즉 피쳐가 보기좋게 들어가있는 모델들을 확인해보았습니다. 하지만 현실에서 마주하는 여러가지 상황에서, 우리는 column들이 항상 잘 정제되어 있는 데이터만을 보긴 어렵습니다. 종종 변수가 연관관계를 지닐지, 지니지 않을지 정말 구분하기도 어려운 데이터프레임을 볼 때도 있습니다. 이러한 상황에서, 우리는 규칙성이 없던 것에 규칙성을 만들어보려고 하는 여러가지 시도들을 해보게 됩니다. 그러한 시도들 중의 하나가 바로 PCA 입니다. Principal Component Analysis 본 글은 공돌이의 수학정리노트 에서 영감을 받았습니다. ▼링크 https://angeloyeo.github.io/2019/07/27/PCA.html 주성분 .. [Machine Learning] 결정트리_회귀(Regression) 실습 사례- 보험비 서론 보험료는 우리 삶에 큰 영향을 끼치는 중요한 수치 중 하나입니다. 어떤 요소가 보험료에 영향을 미치고, 어떤 것이 보험료를 낮추는지 알아맞춘다면 여러분이 더 윤택한 삶을 사는데 도움을 주겠죠? 질병의 있고 없음이 보험료에 영향을 미칠까요? 성별이 영향을 미칠까요. 혹은 흡연 여부가 영향을 미칠까요? 이름이 영향을 미치진 않을까요? 이번 시간에는 지난번에 했던 Decision Tree를 이용하여, 범주형 데이터가 아닌 연속형 데이터를 사용하여 회귀 문제로 해외 건강보험에 대한 실제 사례를 분석해보겠습니다. 원본 csv 데이터는 캐글의 insuarance 데이터로, 짧은 크기에 feature를 갖고 있는 데이터 프레임 입니다. 아래 원본 링크에서 보실 수 있습니다. https://www.kaggle.c.. [Machine Learning] 결정트리 알고리즘 분류 실습사례_wine 서론 얼마 있으면 이쁜 트리가 거리에서 많이 보이는 크리스마스가 시작되네요! 이번 시간에는 지난번 실시했던 똑같은 wine csv 파일을 통해 결정트리 문제를 진행해보겠습니다. 원본은 동일한 csv파일이고, 분류하는 알고리즘만 변형시킨 것입니다. 목표는 각 feature별로 조건이 분기되는 트리를 만드는 것입니다. 분류문제의 평가 점수를 계산한 후에, plot_tree를 통해 시각화가 어떻게 구현되는지 보게될 것입니다. 마찬가지로, 실습을 서술한 글이기 때문에, 오류와 오판이 있을 수 있음에 양해 드립니다 먼저 결정트리(Decision Tree)란 무엇인지 간단하게 보겠습니다. Decision Tree 개념 기본적으로 분류 문제와 회귀 문제를 해결하는 툴로 나뉩니다. 분류문제를 DecisIon Tree .. [Machine Learning] KNN 알고리즘 실습사례_wine 분류2_solution 서론 지난 글에서 필자가 KNN 알고리즘의 낮은 점수(accuracy_score)로 인해 문제점이 있다고 밝힌 바 있습니다. 스케일링에 대한 부분이 비어있었기 때문인데요. 이번 게시글에서는 Standard Scaler 대신 MinMax Scaler(최소-최대 스케일링)을 통해서 낮은 점수를 해결하도록 노력하겠습니다!💪 지난 시간 링크 : https://astart.tistory.com/34 [Machine Learning] KNN 알고리즘 실습사례_wine 분류 KNN Algorithm 간단하게 시작하자면 K개의 이웃(Neighbors)한 점들을 인접한(Nearest) 영역에서 포집시키는 방법입니다. KNN 알고리즘은 비교적 합리적이고 유용한 방식은 아니지만, 빠르고 쉬우며 분류나 astart.tisto.. 선형회귀 ep2. 결정계수에 관하여 지난 글에서와 같이, 선형회귀에서는 예측값과 실제값 사이의 차이, 즉 오차들을 보고 모델의 성능을 결정한다고 언급했습니다. 이번에는 이 오차들에 대한 부분입니다. SSR과 SST에 대한 용어는 공식이 들어있지 않는한, 용어 자체에 대한 정의가 쟁점인 것 같습니다. 용어에 대해서 탐구하는 것이 머신러닝이나 회귀분석에서 없어선 안될 요소는 아니기 때문에, 이런 것이 존재한다는 것만 이해하고 넘어가겠습니다. 필자는 아래 티스토리(씩씩한 IT 블로그)님의 글을 참고했습니다. https://sosoeasy.tistory.com/371 R² 의 공식에 대하여 먼저 SSE부터 볼까요 천천히 설명해보겠습니다. SSE는 Sum of Squares estimate of Error 입니다. 일반적으로 설명이 안되는 변동이라.. Machine Learning ep.1 선형회귀 기초개념 & 마을의 보험료 예측 선형회귀란? 우리의 일상에서는 많은 지표와 숫자들이 있습니다. 지표와 숫자, 개체와 갯수, 데이터와 데이터 등의 관계에서 관계를 찾을 수도 있는데요. 이것이 저것을 불러오고, 어떤 것이 저런 것을 가져오는, 일종의 인과관계 를 상상할 수도 있습니다. 선형회귀는 여러가지 데이터들을 활용하여 연속형 변수인 목표 변수를 예측하는 것이 목적입니다. 즉, 연속된 변수를 우리가 예측하는 최적의 직선 그것을 찾는 알고리즘이 바로 선형 회귀 (Linear Regression) 입니다. 선형 회귀는 머신러닝의 기초적인 알고리즘 입니다. 복잡한 알고리즘에 비해 예측력이 떨어지지만 데이터의 특성이 복잡하지 않을 땐 더 쉽고 빠른 예측이 가능하기 때문에 자주 사용됩니다. 선형 회귀는 다른 모델과의 성능을 비교하는 기준 모델로.. 이전 1 다음
