로지스틱 회귀(Logistic Regression)

안녕하세요 AI일잘러 오니입니다 🤖

로지스틱회귀에 대한 글을 작성해보았습니다 🖋

오늘은 로지스틱 회귀에 대해 알아보는 시간을 가져보겠습니다 👌🏻

 

"Without data, you're just another person with an opinion."
- W. Edwards Deming

 

I. 소개

  A. 로지스틱 회귀의 정의
  로지스틱 회귀는 하나 이상의 예측 변수를 기반으로 이진 결과(0 또는 1)를 예측하는 분류 문제에 사용되는 통계적 방법입니다. 결과 변수의 확률을 예측 변수의 함수로 모델링하는 지도 학습 알고리즘의 일종입니다.

  B. 로지스틱 회귀의 사용 사례
  로지스틱 회귀는 의료, 마케팅, 금융, 사회과학 등 다양한 분야에서 널리 사용되고 있습니다. 몇 가지 사용 사례는 다음과 같습니다:
    ▪ 증상을 기반으로 환자의 질병 여부 예측
    ▪ 비즈니스에서 이탈할 가능성이 높은 고객 식별
    ▪ 이메일을 스팸 또는 스팸이 아닌 것으로 분류
    ▪ 신용 카드 사기 거래 식별

 

II. 로지스틱 회귀의 개념 이해

  A. 종속 변수와 독립 변수
  로지스틱 회귀에서 종속 변수(결과 변수라고도 함)는 이진(0 또는 1)이고 독립 변수(예측 변수라고도 함)는 연속형 또는 범주형일 수 있습니다.

  B. 시그모이드 함수
  시그모이드 함수는 로지스틱 회귀에서 실수 값을 0과 1 사이의 확률 값으로 변환하는 데 사용되는 수학 함수입니다. 시그모이드 함수는 다음과 같은 공식으로 표현됩니다:

  1 / (1 + exp(-z))

여기서 z는 독립 변수와 각 계수의 선형 조합입니다.

  C. 비용 함수
  비용 함수는 로지스틱 회귀 모델의 성능을 평가하는 데 사용됩니다. 이 함수는 예측 확률과 종속 변수의 실제 값 사이의 차이를 측정합니다. 목표는 비용 함수를 최소화하여 더 나은 모델 성능을 달성하는 것입니다.

III. 로지스틱 회귀를 수행하는 단계
  A. 데이터 전처리
  이 단계에는 분석을 준비하기 위해 데이터 집합을 정리하고 변환하는 작업이 포함됩니다. 여기에는 다음이 포함될 수 있습니다.
    ▪  누락된 값 처리
    ▪  중복 제거
    ▪  범주형 변수 인코딩
    ▪  숫자 변수 스케일링

 

  B. 데이터 집합 분할
  데이터 세트는 훈련 세트와 테스트 세트의 두 부분으로 분할해야 합니다. 훈련 세트는 모델을 훈련하는 데 사용되며, 테스트 세트는 모델의 성능을 평가하는 데 사용됩니다.

  C. 모델 훈련
  다음 단계는 로지스틱 회귀 모델을 훈련 집합에 맞추는 것입니다. 여기에는 비용 함수를 최소화하는 독립 변수 계수의 최적 값을 찾는 작업이 포함됩니다.

  D. 모델 평가
  모델이 학습되면 테스트 세트에서 평가해야 합니다. 여기에는 정확도, 정밀도, 리콜, F1 점수 등 다양한 성능 메트릭을 계산하는 작업이 포함됩니다.

  E. 예측
  마지막 단계는 학습된 모델을 사용하여 새로운 데이터를 예측하는 것입니다. 여기에는 새로운 데이터를 모델에 입력하고 학습된 계수를 사용하여 예측 확률을 계산하는 작업이 포함됩니다.

IV. 마치며

  A. 로지스틱 회귀의 장점
  로지스틱 회귀 분석에는 다음과 같은 몇 가지 장점이 있습니다:
    ▪  구현 및 해석이 쉽습니다.
    ▪  더 적은 컴퓨팅 리소스 필요
    ▪  범주형 데이터와 숫자 데이터를 모두 처리할 수 있습니다.

  B. 로지스틱 회귀의 한계
  로지스틱 회귀 분석에도 다음과 같은 몇 가지 한계가 있습니다:
    ▪  독립 변수와 로짓 함수 간에 선형 관계가 있다고 가정합니다.
    ▪  상관관계가 높은 변수에서는 잘 작동하지 않을 수 있음
    ▪  비선형 관계에 대해 더 복잡한 모델이 필요할 수 있음

  결론적으로 로지스틱 회귀는 분류 문제를 위한 강력한 도구로, 여러 분야에서 다양하게 활용되고 있습니다. 관련된 개념과 단계를 이해하면 모델의 성능을 성공적으로 구현하고 평가할 수 있습니다.