나동빈님 유튜브의 '이것이 취업을 위한 코딩 테스트다'강의와 교재 내용을 공부하고, 그 내용을 정리한다.
(내용 출처는 모두 유튜브 동빈나, 그리고 책 '이것이 취업을 위한 코딩 테스트다 with 파이썬 - 나동빈 저'임을 사전에 밝힙니다.)
이번 포스팅에서는 최단 경로 알고리즘에 대해 알아볼 것이다.
강의 영상 링크는 다음과 같다.
https://www.youtube.com/watch?v=acqm9mM1P6o&list=PLRx0vPvlEmdAghTr5mXQxGpHjWqSz0dgC&index=16
목차
1. 최단 경로 문제
최단 경로 알고리즘이란, 가장 짧은 경로를 찾는 알고리즘을 의미한다.
실제로 최단 경로를 찾아야 하는 다양한 문제 상황이 존재할 수 있다.
- 한 지점에서 다른 한 지점까지의 최단 경로
- 한 지점에서 다른 모든 지점까지의 최단 경로
- 모든 지점에서 다른 모든 지점까지의 최단 경로
일반적으로 각 지점을 그래프에서의 노드로, 지점 간 연결된 도로(통로)를 그래프의 간선으로 표현한다.
위와 같이 방향 그래프를 통해 특정 지점에서 다른 특정 지점으로 이동할 수 있음을 나타내준다.
2. 다익스트라 알고리즘 (Dijkstra Algorithm)
가장 먼저, 대표적인 최단 경로 알고리즘인 '다익스트라 알고리즘'에 대해 알아보자.
다익스트라 최단경로 알고리즘은 다익스트라가 제안한 알고리즘 중 가장 대표적인 알고리즘으로, '다익스트라 알고리즘'이라고 줄여서 부르는 경우가 많다.
1) 다익스트라 최단 경로 알고리즘 개요
다익스트라 알고리즘은 다음과 같은 특징을 갖는다.
한 노드에서 출발하여 다른 모든 노드로 가는 최단 경로를 계산한다는 특징을 갖는다.
그리고 음의 간선이 없을 때 정상적으로 동작한다. (현실 세계의 도로는 음의 간선으로 표현되지 않으므로 사용될 수 있다.)
다익스트라 최단 경로 알고리즘은 그리디 알고리즘으로 분류된다.
즉, 매 상황에서 방문하지 않은 노드 중 가장 비용이 적은 노드를 선택하여 임의의 과정을 반복한다.
2) 다익스트라 최단 경로 알고리즘
동작 과정을 살펴보자.
- 출발 노드를 설정한다.
- 최단 거리 테이블을 초기화한다. (자신에게 가는 비용은 0, 다른 노드로 가는 비용은 무한으로 설정한다.)
- 방문하지 않은 노드 중에서 최단 거리가 가장 짧은 노드를 선택한다.
- 해당 노드를 거쳐 다른 노드로 가는 비용을 계산하여 최단 거리 테이블을 갱신한다.
- 3, 4번을 반복한다.
매번 현재를 기준으로 최단 거리가 가장 짧은 노드를 선택하는 과정을 반복함으로써 특정 노드까지의 최단거리를 확실히 결정하게 된다.
모든 노드에 대해 방문 처리가 끝나면 전체 노드까지의 모든 최단 거리를 알 수 있게 된다.
동작 과정에서 최단 거리 테이블은 각 노드에 대한 현재까지의 최단 거리 정보를 갖고 있다.
처리 과정에서 더 짧은 경로를 찾으면 테이블을 갱신하게 된다.
다음 예시를 통해 동작 과정을 자세히 살펴보자.
[Step 0] 그래프를 준비하고, 출발 노드를 설정한다.
출발 노드 스스로까지의 거리는 0, 나머지 노드까지는 무한으로 설정한다.
[Step 1] 방문하지 않은 노드 중에서 최단 거리가 가장 짧은 노드인 1번 노드를 처리한다. (출발 노드)
즉, 1번 노드를 통해서 이동할 수 있는 노드를 살펴보고, 현재 값보다 거쳐갔을 때 값이 작으면 테이블을 갱신한다.
가장 짧은 거리인 4번 노드를 다음으로 처리한다.
[Step 2] 방문하지 않은 노드 중 최단 거리가 가장 짧은 노드인 4번 노드를 처리한다.
4번 노드를 통해 이동할 수 있는 노드를 살펴보고, 현재 값보다 거쳐갔을 때 값이 작으면 테이블을 갱신한다.
2번 또는 5번을 선택한다. 일반적으로 번호가 낮은 노드를 선택한다.
[Step 3] 방문하지 않은 노드 중 최단 거리가 가장 짧은 노드인 2번 노드를 처리한다.
주목할 점은, 방문한 노드는 이미 최단 거리가 결정되어 바뀌지 않는다는 점이다.
[Step 4] 방문하지 않은 노드 중 최단 거리가 가장 짧은 노드인 5번 노드를 처리한다.
[Step 5, 6] 방문하지 않은 노드를 반복해서 처리한다. 사실 마지막 노드에 대한 정보는 처리하지 않아도 결과를 얻을 수 있다.
3) 다익스트라 알고리즘의 특징
다익스트라 알고리즘은 그리디 알고리즘의 일종으로, 매 상황에서 방문하지 않은 가장 비용이 적은 노드를 선택하여 임의의 과정을 반복한다.
그리고 단계를 거치며 한 번 처리된 노드의 최단 거리는 고정되어 더 이상 바뀌지 않는다. 이는 곧 한 단계당 하나의 노드에 대한 최단 거리를 확실히 찾아내는 것으로 이해할 수 있다.
또한 다익스트라 알고리즘을 수행한 뒤, 테이블에는 각 노드까지의 최단 거리 정보가 저장된다. 단, 완벽한 형태의 최단 경로를 구하려면 소스코드에 추가적인 기능을 더 넣어야 한다.
4) 간단한 다익스트라 알고리즘 구현
단계마다 방문하지 않은 노드 중 최단 거리가 가장 짧은 노드를 선택하기 위해 매 단계마다 1차원 테이블의 모든 원소를 확인(순차 탐색)한다.
(1) Python 코드
import sys
input = sys.stdin.readline
INF = int(1e9) # 무한을 의미하는 값으로 10억을 설정
# 노드의 개수, 간선의 개수를 입력받기
n, m = map(int, input().split())
# 시작 노드 번호를 입력받기
start = int(input())
# 각 노드에 연결되어 있는 노드에 대한 정보를 담는 리스트를 만들기
graph = [[] for i in range(n + 1)]
# 방문한 적이 있는지 체크하는 목적의 리스트를 만들기
visited = [False] * (n + 1)
# 최단 거리 테이블을 모두 무한으로 초기화
distance = [INF] * (n + 1)
# 모든 간선 정보를 입력받기 - 방향 그래프
for _ in range(m):
a, b, c = map(int, input().split())
# a번 노드에서 b번 노드로 가는 비용이 c라는 의미
graph[a].append((b, c))
# 방문하지 않은 노드 중에서, 가장 최단 거리가 짧은 노드의 번호를 반환
def get_smallest_node():
min_value = INF
index = 0 # 가장 최단 거리가 짧은 노드(인덱스)
for i in range(1, n + 1):
if distance[i] < min_value and not visited[i]:
min_value = distance[i]
index = i
return index
def dijkstra(start):
# 시작 노드에 대해서 초기화
distance[start] = 0
visited[start] = True
for j in graph[start]:
distance[j[0]] = j[1]
# 시작 노드를 제외한 전체 n - 1개의 노드에 대해 반복
for i in range(n - 1):
# 현재 최단 거리가 가장 짧은 노드를 꺼내서, 방문 처리
now = get_smallest_node()
visited[now] = True
# 현재 노드와 연결된 다른 노드를 확인
for j in graph[now]:
cost = distance[now] + j[1]
# 현재 노드를 거쳐서 다른 노드로 이동하는 거리가 더 짧은 경우 테이블 갱신
if cost < distance[j[0]]:
distance[j[0]] = cost
# 다익스트라 알고리즘을 수행
dijkstra(start)
# 모든 노드로 가기 위한 최단 거리를 출력
for i in range(1, n + 1):
# 도달할 수 없는 경우, 무한(INFINITY)이라고 출력
if distance[i] == INF:
print("INFINITY")
# 도달할 수 있는 경우 거리를 출력
else:
print(distance[i])
(2) C++ 코드
#include <bits/stdc++.h>
#define INF 1e9 // 무한을 의미하는 값으로 10억을 설정
using namespace std;
// 노드의 개수(N), 간선의 개수(M), 시작 노드 번호(Start)
// 노드의 개수는 최대 100,000개라고 가정
int n, m, start;
// 각 노드에 연결되어 있는 노드에 대한 정보를 담는 배열
vector<pair<int, int> > graph[100001];
// 방문한 적이 있는지 체크하는 목적의 배열 만들기
bool visited[100001];
// 최단 거리 테이블 만들기
int d[100001];
// 방문하지 않은 노드 중에서, 가장 최단 거리가 짧은 노드의 번호를 반환
int getSmallestNode() {
int min_value = INF;
int index = 0; // 가장 최단 거리가 짧은 노드(인덱스)
for (int i = 1; i <= n; i++) {
if (d[i] < min_value && !visited[i]) {
min_value = d[i];
index = i;
}
}
return index;
}
void dijkstra(int start) {
// 시작 노드에 대해서 초기화
d[start] = 0;
visited[start] = true;
for (int j = 0; j < graph[start].size(); j++) {
d[graph[start][j].first] = graph[start][j].second;
}
// 시작 노드를 제외한 전체 n - 1개의 노드에 대해 반복
for (int i = 0; i < n - 1; i++) {
// 현재 최단 거리가 가장 짧은 노드를 꺼내서, 방문 처리
int now = getSmallestNode();
visited[now] = true;
// 현재 노드와 연결된 다른 노드를 확인
for (int j = 0; j < graph[now].size(); j++) {
int cost = d[now] + graph[now][j].second;
// 현재 노드를 거쳐서 다른 노드로 이동하는 거리가 더 짧은 경우
if (cost < d[graph[now][j].first]) {
d[graph[now][j].first] = cost;
}
}
}
}
int main(void) {
cin >> n >> m >> start;
// 모든 간선 정보를 입력받기
for (int i = 0; i < m; i++) {
int a, b, c;
cin >> a >> b >> c;
// a번 노드에서 b번 노드로 가는 비용이 c라는 의미
graph[a].push_back({b, c});
}
// 최단 거리 테이블을 모두 무한으로 초기화
fill_n(d, 100001, INF);
// 다익스트라 알고리즘을 수행
dijkstra(start);
// 모든 노드로 가기 위한 최단 거리를 출력
for (int i = 1; i <= n; i++) {
// 도달할 수 없는 경우, 무한(INFINITY)이라고 출력
if (d[i] == INF) {
cout << "INFINITY" << '\n';
}
// 도달할 수 있는 경우 거리를 출력
else {
cout << d[i] << '\n';
}
}
}
방향 그래프를 구현할 때 파이썬에서 튜플'(b, c)'을 사용했듯이, C++에서는 pair '{b, c}'를 사용한다.
5) 성능 분석
다익스트라 알고리즘에서는 총 \(O(V)\) 번에 걸쳐 최단 거리가 가장 짧은 노드를 매번 선형 탐색해야 한다.
여기서 \(V\) 는 노드의 개수를 의미한다.
따라서 전체 시간 복잡도는 \(O(V^2)\)이다.
일반적으로 코딩 테스트의 최단 경로 문제에서 전체 노드의 개수가 5000개 이하라면 이 코드로 문제를 해결할 수 있다.
하지만, 노드의 개수가 10000개를 넘어간다면, 간단히 계산해도 1억번 이상의 연산이 필요하게 된다.
따라서 우선순위 큐 (Priority Queue) 자료구조를 사용하여 더 효율적으로 알고리즘을 구현할 수 있다.
6) 우선순위 큐(Priority Queue)를 사용한 다익스트라 알고리즘
(1) 우선순위 큐 (Priority Queue)
먼저 우선순위 큐란, 우선순위가 가장 높은 데이터를 가장 먼저 삭제하는 자료구조이다.
예를 들어 여러 물건 데이터를 자료구조에 넣었다가, 가치가 높은 물건 데이터부터 꺼내서 확인해야 하는 경우에 이러한 자료구조를 사용한다.
Python, C++, Java 등 대부분의 프로그래밍 언어에서 표준 라이브러리 형태로 지원한다.
스택, 큐, 우선순위 큐의 특징을 비교해보자.
| 자료 구조 | 추출되는 데이터 |
| 스택(Stack) | 가장 나중에 삽입된 데이터 |
| 큐(Queue) | 가장 먼저 삽입된 데이터 |
| 우선순위 큐(Priority Queue) | 가장 우선순위가 높은 데이터 |
이러한 우선순위 큐를 구현하기 위해 '힙(Heap)'이라는 자료구조를 사용한다.
(2) 힙 (Heap)
힙은 최소 힙(Min Heap)과 최대 힙(Max Heap)이 있다.
- 최소 힙 : 값이 낮은 데이터부터 꺼냄
- 최대 힙 : 값이 높은 데이터부터 꺼냄
우선순위 큐를 구현할 때 힙과 리스트를 비교하면 다음과 같다.
| 우선순위 큐 구현 방식 | 삽입 시간 | 삭제 시간 |
| 리스트 | \(O(1)\) | \(O(N)\) |
| 힙(Heap) | \(O(logN)\) | \(O(logN)\) |
리스트를 사용하면 데이터를 삽입할 때에는 맨 뒤에 단순히 데이터를 넣으면 되기 때문에 상수 시간이 걸리지만, 삭제할 때에는 전체 데이터를 순회하며 우선 순위가 가장 높은 데이터를 찾아야 하기 때문에 선형 시간이 걸린다.
반면 힙의 경우 내부적으로 트리 구조를 이용하기 때문에 삽입과 삭제에 있어 \(logN\) 만큼의 시간이 소요된다.
(3) 힙 라이브러리 사용 예제 (Python)
최소 힙 사용 예제는 다음과 같다.
import heapq
# 오름차순 힙 정렬 (Heap Sort)
def heapsort(iterable):
h = []
result = []
# 모든 원소를 차례대로 힙에 삽입
for value in iterable:
heapq.heappush(h, value)
# 힙에 삽입된 모든 원소를 차례대로 꺼내 담기
for i in range(len(h)):
result.append(heapq.heappop(h))
return result
result = heapsort([1, 3, 5, 7, 9, 2, 4, 6, 8, 0])
print(result)
'heappush' 메소드는 특정 리스트에 어떤 데이터를 넣는 것이고,
'heappop' 메소드는 특정 리스트에서 데이터를 꺼내는 것이다.
파이썬의 경우, heapq 라이브러리를 그대로 사용하면 데이터를 꺼낼 때 우선 순위가 낮은 데이터부터 (min heap 방식)차례대로 나온다는 특징을 갖는다.
만약 max heap 방식(내림차순)을 사용하려면, heappush 시 -value를, result.append에서 -heapq.heappop(h)를 적용하여 음수 기준으로 min heap을 적용한 후, result에 저장할 때 다시 부호를 원래대로 돌려주는 방식을 사용한다.
iterable 객체에는 리스트, 튜플 등이 있다.
실행 결과는
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
로, 잘 정렬된 것을 볼 수 있다.
데이터를 넣을 때 \(O(N)\), 꺼낼 때 \(O(logN)\)의 시간 복잡도를 가지므로
위와 같이 n개의 데이터를 힙에 넣었다가 꺼내는 과정을 수행하였으므로 전체 힙정렬의 시간 복잡도는 \(O(NlogN)\)이다.
그렇다면 최대 힙을 구현하려면 어떻게 해야 할까?
파이썬의 경우, 최대 힙 구현을 따로 해주는 라이브러리는 없다.
따라서 데이터를 heap에 넣기 전에 부호를 바꾸어 넣고, 꺼낼 때 부호를 바꾸어 꺼내주면 내부적으로 최대 힙을 이용하는 것과 같은 효과를 낼 수 있다.
import heapq
# 내림차순 힙 정렬 (Heap Sort)
def heapsort(iterable):
h = []
result = []
# 모든 원소를 차례대로 힙에 삽입
for value in iterable:
heapq.heappush(h, -value)
# 힙에 삽입된 모든 원소를 차례대로 꺼내어 담기
for i in range(len(h)):
result.append(-heapq.heappop(h))
return result
result = heapsort([1, 3, 5, 7, 9, 2, 4, 6, 8, 0])
print(result)
실행 결과는
[9, 8, 7, 6, 5, 4, 3, 2, 1, 0]으로,
최대 힙을 통해 내림차순 정렬을 하는 경우와 같다.
(4) 다익스트라 알고리즘: 개선된 구현 방법
매 단계마다 방문하지 않은 노드 중 최단 거리가 가장 짧은 노드를 선택하기 위해 힙(Heap) 자료구조를 사용한다.
가장 '짧은' 노드를 선택하므로, 최소 힙을 사용해야 할 것이다.
알고리즘이 동작하는 기본 원리는 동일하다.
7) 우선순위 큐를 사용한 다익스트라 알고리즘 동작 과정
우선순위 큐를 사용했을 때의 다익스트라 알고리즘 동작 과정을 살펴보자.
[Step 0] 그래프를 준비하고, 출발 노드를 설정하여 우선순위 큐에 삽입한다.
실제 힙 자료구조는 트리 자료구조를 사용하여 구현하지만, 위와 같이 그림으로 도식화할 때에는 단순히 선형적으로 담긴 데이터만 기록해서 표현할 수 있다.
출발 노드인 1번 노드까지의 최단거리 값을 0으로 설정하여 우선순위 큐에 넣는다.
파이썬에서는 튜플 형태로 데이터를 묶어 (거리, 노드) 형태로 힙에 데이터를 추가해준다고 가정한다.
[Step 1] 우선순위 큐에서 원소를 꺼낸다. 1번 노드는 아직 방문하지 않았으므로 처리한다.
꺼낸 원소를 통해 거쳐갔을 때와 현재 값을 비교하여 테이블을 갱신한다.
다음으로 꺼낼 데이터는 (거리: 1, 노드: 4)인 데이터이다.
[Step 2, 3, 4, 5, 6] 우선순위 큐에서 원소를 꺼내고, 방문하지 않은 노드를 처리하는 과정을 반복하여 결과를 도출한다.
8) 개선된 다익스트라 알고리즘 구현
(1) Python 코드
import heapq
import sys
input = sys.stdin.readline
INF = int(1e9) # 무한을 의미하는 값으로 10억을 설정
# 노드의 개수, 간선의 개수를 입력받기
n, m = map(int, input().split())
# 시작 노드 번호를 입력받기
start = int(input())
# 각 노드에 연결되어 있는 노드에 대한 정보를 담는 리스트를 만들기
graph = [[] for i in range(n + 1)]
# 최단 거리 테이블을 모두 무한으로 초기화
distance = [INF] * (n + 1)
# 모든 간선 정보를 입력받기
for _ in range(m):
a, b, c = map(int, input().split())
# a번 노드에서 b번 노드로 가는 비용이 c라는 의미
graph[a].append((b, c))
# 이부분만 바뀜!
def dijkstra(start):
q = []
# 시작 노드로 가기 위한 최단 경로는 0으로 설정하여, 큐에 삽입
heapq.heappush(q, (0, start))
distance[start] = 0
while q: # 큐가 비어있지 않다면
# 가장 최단 거리가 짧은 노드에 대한 정보 꺼내기
dist, now = heapq.heappop(q)
# 현재 노드가 이미 처리된 적이 있는 노드라면 무시 (visited 필요없음)
if distance[now] < dist:
continue
# 현재 노드와 연결된 다른 인접한 노드들을 확인
for i in graph[now]:
cost = dist + i[1] # 확인중인 노드의 거리 값 + 인접한 노드와의 거리 값
# 현재 노드를 거쳐서, 다른 노드로 이동하는 거리가 더 짧은 경우
if cost < distance[i[0]]:
distance[i[0]] = cost
heapq.heappush(q, (cost, i[0]))
# 다익스트라 알고리즘을 수행
dijkstra(start)
# 모든 노드로 가기 위한 최단 거리를 출력
for i in range(1, n + 1):
# 도달할 수 없는 경우, 무한(INFINITY)이라고 출력
if distance[i] == INF:
print("INFINITY")
# 도달할 수 있는 경우 거리를 출력
else:
print(distance[i])
dijkstra 함수만 바뀌었음을 확인할 수 있다.
기존의 get_smallest_node 함수(현재 상황에서 가장 최단 거리가 짧은 노드를 선택하는 함수) 대신 힙 자료구조를 사용하고,
방문 처리 목적으로 'visited'라는 리스트를 사용할 필요가 없어진다.
현재 노드가 이미 처리된 적이 있다면 heap에서 뽑은 노드의 거리가 테이블에 저장된 거리보다 클 것이므로 무시하면 된다.
(2) C++ 코드
C++에서는 직접적으로 priority_queue를 사용한다. 하지만 파이썬과 달리 기본적으로 최대 힙이므로 파이썬과 반대로 코드를 작성해주어야 한다.
#include <bits/stdc++.h>
#define INF 1e9 // 무한을 의미하는 값으로 10억을 설정
using namespace std;
// 노드의 개수(N), 간선의 개수(M), 시작 노드 번호(Start)
// 노드의 개수는 최대 100,000개라고 가정
int n, m, start;
// 각 노드에 연결되어 있는 노드에 대한 정보를 담는 배열
vector<pair<int, int> > graph[100001];
// 최단 거리 테이블 만들기
int d[100001];
void dijkstra(int start) {
priority_queue<pair<int, int> > pq;
// 시작 노드로 가기 위한 최단 경로는 0으로 설정하여, 큐에 삽입
pq.push({0, start});
d[start] = 0;
while (!pq.empty()) { // 큐가 비어있지 않다면
// 가장 최단 거리가 짧은 노드에 대한 정보 꺼내기
int dist = -pq.top().first; // 현재 노드까지의 비용
int now = pq.top().second; // 현재 노드
pq.pop();
// 현재 노드가 이미 처리된 적이 있는 노드라면 무시
if (d[now] < dist) continue;
// 현재 노드와 연결된 다른 인접한 노드들을 확인
for (int i = 0; i < graph[now].size(); i++) {
int cost = dist + graph[now][i].second;
// 현재 노드를 거쳐서, 다른 노드로 이동하는 거리가 더 짧은 경우
if (cost < d[graph[now][i].first]) {
d[graph[now][i].first] = cost;
pq.push(make_pair(-cost, graph[now][i].first));
}
}
}
}
int main(void) {
cin >> n >> m >> start;
// 모든 간선 정보를 입력받기
for (int i = 0; i < m; i++) {
int a, b, c;
cin >> a >> b >> c;
// a번 노드에서 b번 노드로 가는 비용이 c라는 의미
graph[a].push_back({b, c});
}
// 최단 거리 테이블을 모두 무한으로 초기화
fill(d, d + 100001, INF);
// 다익스트라 알고리즘을 수행
dijkstra(start);
// 모든 노드로 가기 위한 최단 거리를 출력
for (int i = 1; i <= n; i++) {
// 도달할 수 없는 경우, 무한(INFINITY)이라고 출력
if (d[i] == INF) {
cout << "INFINITY" << '\n';
}
// 도달할 수 있는 경우 거리를 출력
else {
cout << d[i] << '\n';
}
}
}
9) 개선된 다익스트라 알고리즘 성능 분석
힙 자료구조를 이용하는 다익스트라 알고리즘의 시간 복잡도는 \(O(ElogV)\)이다.
노드를 하나씩 꺼내 검사하는 반복문(while문)은 노드의 개수 \(V\) 이상의 횟수로는 처리되지 않는다.
따라서 현재 우선순위 큐에서 꺼낸 노드와 연결된 다른 노드를 확인하는 총 횟수는 최대 간선의 개수(\(E\))만큼 연산이 수행될 수 있다.
직관적으로 전체 과정은 \(E\)개의 원소를 우선순위 큐에 넣었다가 모두 빼내는 연산과 매우 유사하다.
따라서 시간복잡도는 \(O(ElogE)\)이고, 중복 간선을 포함하지 않는 경우(두 노드 사이에 존재할 수 있는 간선이 오는 간선과 가는 간선 2개까지만 존재할 수 있는 경우) 이를 \(O(ElogV)\)로 정리할 수 있다.
\(O(ElogE) \rightarrow O(ElogV^2) \rightarrow O(ElogV) \rightarrow O(ElogV) \)
$$ 단, \; E \leq V^2 $$
최근댓글