[인공지능/혼공머신] 04-2. 확률적 경사 하강법 (1)

점진적인 학습을 위한 문제 인식

모델이 매번 훈련 데이터를 다시 새롭게 훈련하는 데에는 아래와 같은 문제들이 있습니다.

• 훈련 데이터가 한 번에 준비되는 것이 아니라 조금씩 전달된다면, 고작 조금 추가된 데이터로 새롭게 훈련하는 건 비효율적이니까 데이터가 쌓일 때까지 기다려야 하는데, 그렇다고 또 무작정 기다리기만 할 수는 없습니다.
• 기존의 훈련 데이터에 새로운 데이터를 추가하여 매일 다시 훈련하는 방법은? 이것도 문제입니다. 시간이 지날수록 데이터가 늘어나기 때문입니다.
• 데이터셋의 크기를 유지하기 위해, 새로운 데이터를 추가할 때 이전 데이터를 버리는 방법은? 이것도 문제입니다. 중요한 데이터를 버려버린다면 아주 큰일이죠. 해당 데이터가 없다면, 앞으로 모델이 그 데이터에 대해 제대로 예측할 수 없기 때문입니다.

그니까, 위에 작성한 방법들은 훈련해놓은 모델을 아예 버리고, 다시 새로운 모델을 훈련하는 방식이라서 문제가 발생했던 것입니다.

즉, 훈련한 모델을 버리지 않고 새로운 데이터에 대해서만 조금씩 훈련하는 방법에 대해 알아봅시다! 😁

 

📌 점진적 학습

• 훈련한 모델을 버리지 않고 새로운 데이터에 대해서만 조금씩 훈련하는 방법
• 대표적인 점진적 학습 알고리즘 : 확률적 경사 하강법

📌 확률적 경사 하강법

• 확률적 : "무작위하게", "랜덤하게"
• 산에서 내려올 때, 가장 가파른 길을 찾아 내려오지만 경사를 따라 조금씩 내려가는 방법
• 과정
  1. 가파른 길을 찾을 때 전체 샘플을 한 번에 다 사용하는 게 아니라, 훈련 세트에서 랜덤하게 하나의 샘플을 선택하여 경사를 조금 내려갑니다.
  2. 전체 샘플을 모두 사용할 때까지 1을 반복합니다.
  3. 만약 샘플을 다 사용했는데도 산을 내려오지 못했다면? 다시 처음부터 시작하기 위해 훈련 세트에 모든 샘플을 다시 채워 넣습니다.

🤔 언제 끝나나요? 최적의 위치에 도달할 때까지 계속 내려갑니다.

💡 짚어가기 ! 훈련 데이터가 모두 준비되어 있지 않고 매일매일 업데이트되어도 학습을 계속 이어나갈 수 있습니다. 즉, 다시 산꼭대기에서부터 다시 시작할 필요가 없습니다.

 

📍 에포크

• 확률적 경사 하강법에서 훈련 세트를 한 번 모두 사용하는 과정
• 일반적으로 경사 하강법은 수십, 수백 번 이상 에포크를 수행합니다.

📍 경사 하강법 방식

• 확률적 경사 하강법
  • 샘플 중 1개씩 선택하여, 경사를 따라 내려감
• 미니배치 경사 하강법
  • 샘플 중 여러 개씩 선택하여, 경사를 따라 내려감
• 배치 경사 하강법
  • 전체 샘플을 사용하여, 경사를 따라 내려감 (극단적으로 한 번 경사로를 따라 이동하기 위함)
  • 전체 데이터를 사용하기 때문에 가장 안정적인 방법이 될 수 있음
  • 하지만, 데이터가 많을 수록 컴퓨터 자원을 많이 사용, 데이터 크기가 너무 크면 한 번에 모두 읽을 수 없음

요약

🤔 의문 ? 그래서 이 산은 대체 무엇인지?

💡 대답 ! 이 산은 손실 함수입니다.

 

📌 손실 함수

• 어떤 문제에서 머신러닝 알고리즘이 얼마나 나쁜 성능을 내는지를 측정하는 기준입니다.
• 값이 낮을 수록 좋은 성능 👍
• 어떤 값이 최솟값인지는 알지 못합니다. 따라서 가능한 많이 찾아보고 최적의 값이라고 생각되었으면 산을 다 내려왔다고 인정해야 합니다.

📍 분류에서의 손실

• 정답을 못 맞히는 것

🤔 정확도에 음수를 취하여 손실 함수로 사용할 수 있을까요?

• 예시) 이진 분류 문제에서 4개의 예측 중에 0개 맞았을 시, 정확도 : 0/4 = 0.0 입니다. 음수를 취하면 -0.0이 됩니다.
  또한, 4개 모두 맞았을 시, 정확도 : 4/4 = 1.0 입니다. 음수를 취하면 -1.0이 됩니다.
  즉, 정확도 0.0일 때 손실값 -0.0이 가장 높고, 정확도 1.0일 때 손실값 -1.0이 가장 낮기 때문에
  정확도가 높을 수록 손실값이 낮아지는 것입니다.

❌ 분류에서의 정확도에 음수를 취하여 손실 함수로 사용할 수 없습니다.

정확도는 성능을 측정하는 방법입니다. 정확도는 미분할 수 없기 때문에 손실 함수로 사용할 수 없습니다.

4개의 샘플만 있을 시, 가능한 정확도는 0, 0.25, 0.5, 0.75, 1 다섯 가지뿐입니다. 경사 하강법에선 아주 조금씩 내려와야 하는데 길이 듬성듬성 끊겨있다면 내려갈 수 없죠.

💡 해결하는 방법 ! 산의 경사면은 연속적이어야 합니다. 즉, 손실 함수는 미분 가능해야 합니다. ▶️ 로지스틱 손실 함수

 

📌 로지스틱 손실 함수 (이진 크로스엔트로피 손실 함수)

• 이진 분류에서 사용하는 손실 함수

🤔 예측 확률과 타깃을 곱한 값에 음수를 취하여 손실 함수로 사용할 수 있을까요?

• 예시 ) 로지스틱 회귀 모델이 샘플 4개의 예측 확률을 각각 0.9, 0.3, 0.2, 0.8 으로 출력했다고 가정하겠습니다.
  
  예측과 타깃을 곱한 값에 음수를 취해줍니다.
  첫 번째 샘플(예측 확률 : 0.9, 타깃 : 1) : 0.9 x 1 ->  -0.9 ▶️ 낮은 손실👍
  두 번째 샘플(예측 확률 : 0.3, 타깃 : 1) : 0.3 x 1 ->  -0.3 ▶️ 높은 손실👎 
  
  타깃이 음성 클래스(0)일 때, 0을 곱하면 0이 되어버리니까, 예측과 타깃 각각 양성 클래스(1)에 대한 예측으로 바꿉니다.
  세 번째 샘플(예측 확률 : 0.2, 타깃 : 0) : (1 - 0.2) x 1 ->  -0.8 ▶️ 낮은 손실👍
  네 번째 샘플(예측 확률 : 0.8, 타깃 : 0) : (1 - 0.8) x 1 ->  -0.2 ▶️ 높은 손실👎 
  
  즉, 정답과 가까운 값은 낮은 손실👍, 먼 값은 높은 손실👎

✅ 예측 확률과 타깃을 곱한 값에 음수를 취하여 손실 함수로 사용할 수 있습니다.

 

🤔 의문? 현재 손실을 음수로 비교했는데, 양수로 비교할 수 있는 방법은 없나?

💡 해결 방법 ! 예측 확률에 로그 함수를 적용하면 됩니다. 특히, 로그 함수는 미분 가능하기 때문에 사용가능합니다.

 

📍 예측 확률에 로그 함수 적용하기

예측 확률의 범위는 0~1 이고, 로그 함수는 0~1 에서 음수값입니다.

음수에 음수를 취하면 최종 값은 양수가 되므로, 양수가 음수보다 직관적으로 와닿겠죠!

로그 함수는 0에 가까울수록 아주 큰 음수가 되기 떄문에 손실을 아주 크게 만들어 모델에 큰 영향을 미칠 수 있습니다.

 

✨ 주의하실 점은, 현재 그래프는 로그 함수에 음수를 취하기 전의 로그 함수 그래프라는 점!

예측 확률에 대한 로그 함수 그래프

타깃이 1일 때의 예시입니다.

타깃이 0일 때의 예시입니다.

📌 크로스엔트로피 손실 함수

• 다중 분류에서 사용하는 손실 함수

 

😊 손실 함수를 직접 계산할 일은 드뭅니다. 라이브러리가 처리해주니까요. 하지만 손실 함수가 무엇인지 알아야 하는 것은 중요합니다.

 

 

확률적 경사 하강법을 사용한 분류 모델을 만드는 건 다음 글에서 작성하겠습니다. 감사합니다.