dogeonLog
🌙
💻코딩테스트

[이코테_코딩테스트] 다이나믹 프로그래밍 (Dynamic Programming)

date
Aug 1, 2023
slug
coding-test-dynamic-programming
author
status
Public
tags
Python
코딩테스트
summary
다이나믹 프로그래밍을 알아보자
type
Post
thumbnail
Untitled (4).png
category
💻코딩테스트
updatedAt
Aug 2, 2023 09:22 AM

다이나믹 프로그래밍

  • 다이나믹 프로그래밍은 메모리를 적절히 사용하여 수행 시간 효율성을 비약적으로 향상시키는 방법
  • 이미 계산된 결과(작은 문제)는 별도의 메모리 영역에 저장하여 다시 계산하지 않도록 한다.
  • 다이나믹 프로그래밍의 구현은 일반적으로 두 가지 방식으로 구성
    • 탑다운 (Top-Down) (하향식) - 재귀 구현
    • 보텀업 (Bottom-Up) (상향식) - 반복 구현
  • 다이나믹 프로그래밍은 동적 계획법이라고도 부른다.
  • 일반적인 프로그래밍 분야에서의 동적(Dynamic)이란?
    • 자료구조에서 동적 할당(Dynamic Allocation)은 ‘프로그램이 실행되는 도중에 실행에 필요한 메모리를 할당하는 기법’을 의미
    • 반면 다이나믹 프로그래밍에서 ‘다이나믹’은 별다른 의미 없이 사용된 단어이다.
 

다이나믹 프로그래밍의 조건

  • 다이나믹 프로그래밍은 문제가 다음의 조건을 만족할 때 사용할 수 있다.
      1. 최적 부분 구조 (Optimal Substructure)
          • 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아 큰 문제를 해결할 수 있다.
      1. 중복되는 부분 문제 (Overlapping Subproblem)
          • 동일한 작은 문제를 반복적으로 해결해야 한다.
 

DP 활용 대표적인 문제 - 피보나치 수열

  • 피보나치 수열은 다음과 같은 형태의 수열이며, 다이나믹 프로그래밍으로 효과적으로 계산할 수 있다.
  • 점화식 : 인접한 항들 사이의 관계식을 의미
    • 실제 프로그램 상에서 재귀함수를 이용해 형태 그대로 소스코드로 옮길 수 있음
  • 피보나치 수열의 점화식 표현
 
  • 피보나치 수열이 계산되는 과정은 다음과 같이 표현할 수 있다.
    • n번째 피보나치 수를 라고 할 때 4번째 피보나치 수를 를 구하는 과정은 다음과 같다.
notion image

피보나치 수열 - 단순 재귀 소스코드 (Python)

def fibo(x):
    if x == 1 or x == 2:
        return 1
    return fibo(x - 1) + fibo(x - 2)

print(fibo(4))
 

피보나치 수열의 시간 복잡도 분석

  • 단순 재귀 함수로 피보나치 수열을 해결하면 지수 시간 복잡도를 가지게 된다.
  • 다음과 같이 가 여러 번 호출되는 것을 확인할 수 있다. → 중복되는 부분 문제
notion image
  • 피보나치 수열의 시간 복잡도
    • 세타 표기법 :
    • 빅오 표기법 :
  • 빅오 표기법을 기준으로 을 계산하기 위해 약 10억 가량의 연산 수행해야 함
 

피보나치 수열의 효율적인 해법 - 다이나믹 프로그래밍

  • 다이나믹 프로그래밍의 사용 조건을 만족하는지 확인
      1. 최적 부분 구조 : 큰 문제를 작은 문제로 나눌 수 있다.
      1. 중복되는 부분 문제 : 동일한 작은 문제를 반복적으로 해결한다.
  • 피보나치 수열은 다이나믹 프로그래밍의 사용 조건을 만족
 

DP 탑다운 방식(하향식) - 메모이제이션 (Memoization)

  • 메모이제이션은 다이나믹 프로그래밍을 구현하는 방법 중 하나
  • 한 번 계산한 결과를 메모리 공간에 메모하는 기법
    • 같은 문제를 다시 호출하면 메모했던 결과를 그대로 가져옴
    • 값을 기록해 놓는다는 점에서 캐싱(Caching)이라고도 함
 

탑다운 vs 보텀업

  • 탑다운(메모이제이션) 방식은 하향식이라고도 하며, 보텀업 방식은 상향식이라고도 한다.
  • 다이나믹 프로그래밍의 전형적인 형태는 보텀업 방식
    • 결과 저장용 배열 혹은 리스트는 DP 테이블이라고 부른다.
  • 엄밀히 말하면 메모이제이션은 이전에 계산된 결과를 일시적으로 기록해 놓는 넓은 개념을 의미
    • 따라서 메모이제이션은 다이나믹 프로그래밍에 국한된 개념이 아니다.
    • 한 번 계산된 결과를 담아 놓기만 하고 다이나믹 프로그래밍을 위해 활용하지 않을 수도 있다.
 

피보나치 수열 - 탑다운 다이나믹 프로그래밍 소스코드 (Python)

# 한 번 계산된 결과를 메모이제이션하기 위한 리스트 초기화
d = [0] * 100

def fibo(x):
    # 종료 조건 명시
    if x == 1 or x == 2:
        return 1
    
    # 이미 계산한 적 있는 문제라면 그대로 반환
    if d[x] != 0:
        return d[x]
    
    # 아직 계산한 적 없는 문제라면 점화식에 따라 결과 반환
    d[x] = fibo(x - 1) + fibo(x - 2)
    return d[x]

print(fibo(99))

피보나치 수열 - 보텀업 다이나믹 프로그래밍 소스코드 (Python)

# DP 테이블 초기화
d = [0] * 100

# 첫 번째 수와 두 번째 수는 1
d[1] = 1
d[2] = 1
n = 99

# 피보나치 반복문 구현
for i in range(3, n + 1):
    d[i] = d[i - 1] + d[i - 2]

print(d[n])
 

피보나치 수열 - 메모이제이션 동작 분석

  • 이미 계산된 결과를 메모리에 저장 → 다음과 같이 색칠된 노드만 처리할 것을 기대할 수 있다.
notion image
  • 실제 호출되는 함수에 대해 확인해 보면 다음과 같다.
notion image
  • 메모이제이션을 이용하는 경우 피보나치 수열 함수의 시간 복잡도는 이다.
 

다이나믹 프로그래밍 vs 분할 정복

  • 다이나믹 프로그래밍과 분할 정복은 모두 최적 부분 구조를 가질 때 사용 가능하다.
    • 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아 큰 문제를 해결할 수 있는 상황
  • 다이나믹 프로그래밍과 분할 정복의 차이점은 부분 문제의 중복이다.
    • 다이나믹 프로그래밍 문제에서는 각 부분 문제들이 서로 영향을 미치며 부분 문제가 중복된다.
    • 분할 정복 문제에서는 동일한 부분 문제가 반복적으로 계산되지 않는다.
        • 분할 정복의 대표적인 예시 퀵 정렬
        • 한 번 기준 원소(Pivot)가 자리를 변경해서 자리를 잡으면 그 기준 원소의 위치는 바뀌지 않는다.
        • 분할 이후에 해당 피벗을 다시 처리하는 부분 문제는 호출하지 않는다.
 

다이나믹 프로그래밍 문제에 접근하는 방법

  • 주어진 문제가 다이나믹 프로그래밍 유형임을 파악하는 것이 중요
  • 가장 먼저 그리디, 구현, 완전 탐색 등의 아이디어로 문제를 해결할 수 있는지 검토 가능하다.
    • 다른 알고리즘으로 풀이 방법이 떠오르지 않으면 다이나믹 프로그래밍을 고려
  • 일단 재귀 함수로 비효율적인 완전 탐색 프로그램을 작성한 뒤 (탑다운) 작은 문제에서 구한 답이 큰 문제에서 그대로 사용될 수 있으면, 코드를 개선하는 방법을 사용할 수 있다.
  • 일반적인 코딩 테스트 수준에서는 기본 유형의 다이나믹 프로그래밍 문제가 출제되는 경우가 많다.
 
 
이 글은 유튜브 “동빈나” 채널의 “(이코테 2021 강의 몰아보기) 6. 다이나믹 프로그래밍” 영상을 보고 작성하였습니다.