확률의 기초

확률이란 무엇인가?

확률(Probability)은 어떤 사건이 일어날 가능성을 0과 1 사이의 숫자로 표현한 것입니다. 0은 절대 일어나지 않음, 1은 반드시 일어남을 의미합니다.

P(사건) = 그 사건이 일어나는 경우의 수 / 전체 경우의 수

# 동전 앞면이 나올 확률
P(앞면) = 1/2 = 0.5

# 주사위 3이 나올 확률
P(3) = 1/6 ≈ 0.167

기본 용어

• 표본공간(Ω): 모든 가능한 결과의 집합. 주사위: {1,2,3,4,5,6}
• 사건(Event): 표본공간의 부분집합. "짝수가 나옴" = {2,4,6}
• 여사건: P(Ac) = 1 - P(A). 앞면이 아닐 확률 = 1 - 0.5 = 0.5

확률 법칙

덧셈 법칙: 두 사건 중 하나라도 일어날 확률

# 서로 배타적 사건 (동시에 일어날 수 없음)
P(A 또는 B) = P(A) + P(B)

# 일반적인 경우
P(A 또는 B) = P(A) + P(B) - P(A 그리고 B)

곱셈 법칙: 두 사건이 모두 일어날 확률

# 독립 사건 (서로 영향 없음)
P(A 그리고 B) = P(A) × P(B)

# 동전 2번 모두 앞면
P(앞,앞) = 0.5 × 0.5 = 0.25

AI에서 확률이 쓰이는 곳

1. 분류 모델의 출력

# 이미지 분류 모델의 출력
예측 = {
  "고양이": 0.85,   # 85% 확률
  "강아지": 0.12,   # 12% 확률
  "토끼":  0.03    # 3% 확률
}
# 합계 = 1.0 (소프트맥스 함수가 이를 보장)

2. 언어 모델의 다음 단어 예측

# "오늘 날씨가" 다음에 올 단어 확률
좋다: 0.35
나쁘다: 0.20
흐리다: 0.18
맑다: 0.15
...

3. 드롭아웃(Dropout)

훈련 중 각 뉴런을 50% 확률로 무작위 비활성화합니다. 이 확률적 기법이 과적합(overfitting)을 방지합니다.

독립과 종속

두 사건 A, B가 독립이면 A가 일어나도 B의 확률이 변하지 않습니다. AI 모델이 데이터의 독립성 가정을 사용하는 경우(나이브 베이즈)가 있고, 이를 극복하려는 경우(RNN, Transformer)도 있습니다.

핵심: AI는 결과를 "하나의 정답"이 아닌 "확률 분포"로 출력합니다. 확률을 이해해야 모델의 출력을 제대로 해석할 수 있습니다.

관련 검색어  ·  확률 기초, 사건과 표본공간, AI 확률, 소프트맥스 확률, 딥러닝 확률 분포, 머신러닝 확률