[Thread] Program, Process, Thread, Multi-Thread란? - 구체적인 작동 방식에 대한 공부 기록

💡Program, Process, Thread란?

 

 

프로그램(Program)이란,
파일이 저장 장치에 저장되어 있지만 메모리에는 올라가 있지 않은 정적인 상태를 말한다.

- 메모리에 올라가 있지 않은: 아직 운영체제가 프로그램에게 독립적인 메모리 공간을 할당해주지 않았다는 뜻이다. 모든 프로그램은 운영체제가 실행되기 위한 메모리 공간을 할당해 줘야 실행될 수 있다.

 

- 정적인 상태: 정적(靜的)이라는 단어 그대로, 움직이지 않는 상태라는 뜻이다. 한 마디로 아직 실행되지 않고 가만히 있다는 뜻이다.

 

즉, 프로그램(Program)이라는 단어는 아직 실행되지 않은 파일 그 자체, 코드 덩어리를 가리키는 말이다. 예를 들면, 윈도우의 *.exe 파일이나 MacOS의 *.dmg 파일 등등 사용자가 눌러서 실행하기 전의 파일을 말한다.

 

프로그램을 실행하는 순간 해당 파일은 컴퓨터 메모리에 올라가게 되고, 이 상태를 동적(動的)인 상태라고 하며, 이 상태의 프로그램을 프로세스(Process)라고 한다.

 

위키피디아에서는 프로세스에 대해 정의를 내릴 때, 그냥 실행되고 있는 컴퓨터 프로그램이라고 정의를 내리고 있으며, 스케줄링 단계에서의 "작업"과 같은 단어라고 봐도 무방하다고 하고 있다. 실제로 프로세스라는 단어가 작업 중인 프로그램을 의미하는 단어이기 때문이다.

 

그렇다면 Thread는 무엇일까?

 

과거에는 프로그램을 실행할 때, 실행 시작부터 끝까지 하나의 프로세스만을 사용해서 진행했다. 하지만, 시간이 흐를수록 프로그램이 복잡해지다보니 하나의 프로세스만 사용해서 프로그램을 실행하기에는 벅차게 되었다. 실제로 이제는 프로그램 하나가 단순히 한가지 작업만을 하는 경우는 없다.

 

예를 들어, 인터넷 브라우저라는 하나의 프로세스가 있을 때, 지금처럼 동영상을 재생도 하고, 스크롤도 내리고, 검색도하고 이런 작업을 한번에 하나만 처리하지않고 동시에 처리할 수 있는 방법이 필요해진 것이다. 

 

그럼 한 프로그램을 처리하기 위한 프로세스를 여러개 만들면 어떨까? 이것은 불가능하다. 왜냐하면 운영체제는 안전성을 위해서 프로세스마다 자신에게 할당된 메모리 내의 정보에만 접근할 수 있도록 제약을 두고 있고, 이를 벗어나는 정보에 접근하려면 오류가 발생하기 때문이다.

 

이렇게 해서 생겨난, 더 작은 실행 단위의 개념이 Thread다.

 

 

💡자바에서 Process와 Thread는 어떻게 생각하면 될까?

 

Java Process

자바 프로그램을 사용하여 뒤에 클래스 이름을 붙이고, 엔터를 치면 적어도 하나의 JVM이 시작된다. 보통 이렇게 JVM이 시작되면 자바 프로세스(Process)가 시작한다.

java 명령어를 사용하여 클래스를 실행시키는 순간 자바 프로세스가 실행된다.

 

 

Thread

이 프로세스라는 울타리 안에서 여러 개의 쓰레드라는 것이 아둥바둥 살게 된다. 즉, 하나의 프로세스 내에 여러 쓰레드가 수행된다. 하지만, 거꾸로 여러 프로세스가 공유하는 하나의 쓰레드가 수행되는 일은 절대 없다. 어떤 프로세스든 간에 쓰레드가 하나 이상 수행된다.

 

main() 메소드가 수행되면서 하나의 쓰레드가 시작된다. 만약 많은 쓰레드가 필요하다면, 이 main() 메소드에서 쓰레드를 생성해 주면 된다. 자바를 사용하여 웹을 제공할 때에는 Tomcat과 같은 WAS(Web Application Server)를 사용한다. 이 WAS도 똑같이 main() 메소드에서 생성한 쓰레드들이 수행되는 것이다.

 

cf) 아무런 쓰레드를 생성하지 않아도 JVM을 관리하기 위한 여러 쓰레드가 존재한다. 예를 들면, 자바의 쓰레기 객체를 청소하는 GC 관련 쓰레드가 여기에 속한다.

 

 

Process & Thread (출처 : 자바의신)

 

 

💡Process와 Thread의 작동방식은 어떻게 될까?

프로세스가 메모리에 올라갈 때, 운영체제로부터 시스템 자원을 할당받는다고 했었다. 이 때 운영체제는 각 Process마다 독립된 메모리 영역을 아래 그림과 같이 할당해준다. 다시 말해서, Process는 완벽히 독립적이기 때문에 메모리 영역(Code, Data, Heap, Stack)을 다른 프로세스와 공유하지 않는다.

 

Operation System (출처:  Heee's Development Blog )

 

Process 메모리 영역

Code : Program 의 코드
Data : 전역 변수
Stack : 매개변수, 지역변수 등 임시적인 자료
Heap : 동적으로 할당되는 메모리

 

이와 달리, Process 특성의 한계를 해결하기 위해 만들어진 개념인 Thread는 Thread간에 메모리를 서로 공유한다. 쓰레드는 해당 쓰레드를 위한 Stack을 생성할 뿐, 이 외의 Code, Data, Heap영역을 공유한다. 이렇게 서로 프로세스의 자원을 공유하면서, 프로세스 실행 흐름의 일부가 되는 것이다. 

 

Thread의 공유자원 (출처:  Heee's Development Blog )

 

+) 스택을 독립적으로 할당하는 이유는 무엇일까?

• 스택은 함수 호출 시 전달되는 매개변수, 되돌아갈 주소값 및 함수 내에서 선언하는 지역변수 등을 저장하기 위해 사용되는 메모리 공간이다. 따라서 스택 메모리 공간이 독립적이라는 것은 독립적인 함수 호출이 가능하다는 것이고, 이는 독립적인 실행 흐름이 추가되는 것이다. 결과적으로 실행 흐름의 추가를 위한 최소 조건이 독립된 스택을 제공하는 것이다. 

+) 코드 영역을 공유

• 프로세스는 독립적인 구조이기 때문에 다른 프로세스의 Code영역에 있는 함수를 호출할 수 없다.
• 쓰레드는 Code영역을 공유하기 때문에 두 개 이상의 쓰레드가 자신이 포함된 프로세스의 Code영역에 있는 함수를 호출할 수 있다.

+) 데이터 영역과 힙 영역을 공유

• 전역 변수와 동적 할당된 메모리 공간을 공유할 수 있고, 이를 통해 쓰레드 간 통신을 할 수 있지만, 동시에 메모리에 접근하기 때문에 주의해야 한다.

+) 오류 발생 시

• 프로세스는 실행하다가 오류가 발생해서 프로세스가 강제로 종료된다면, 공유하고 있는 파일을 손상시키는 경우가 아닌 이상 아무런 영향을 주지 않는다. 
• 쓰레드는 Code/Data/Heap 메모리 영역의 내용을 공유하기 때문에, 어떤 스레드 하나에서 오류가 발생한다면, 같은 프로세스 내의 다른 스레드가 모두 강제로 종료된다.

 

💡CPU 코어 개수와 Thread 개수의 상관 관계는?

기초 개념부터 훑고 가자. CPU의 성능과 관련 있는 것은 크게 코어, 쓰레드, 그리고 클럭이다.

 

클럭이란 CPU의 속도를 나타내는 대표적인 단위로써, 1초당 내부에서 어느정도의 작업이 처리가 가능한지를 나타내는 수치이다. 이의 수치는 주파수 단위인 헤르츠(Hz)로 표기한다. 따라서 이 헤르츠가 높으면 높을수록 보다 더 빠른 성능을 보여주었다. 1GHz하면 초당 10억회를 의미한다. 옛날과같이 코어와 쓰레드의 개념이 없던 시절에는 CPU를 구매함에 있어 성능을 좌우하는것은 클럭이 절대적인 기준치였지만, 근래와 같이 한개의 CPU 내부에서 2개 또는 4개, 6개, 8개 등 의 코어를 여러개 집어넣은 멀티코어 제품군들이 출시됨으로써 이전과 같은 기준점으로 성능을 비교하기에는 문제가 있다.

 

그럼 코어는 무엇인가?

CPU의 핵심적인 역할을 수행해내는 중심부 역할을 말하며 이 코어에서 시스템의 모든 연산을 처리한다고 보면 되겠다, 즉 CPU에서의 코어가 많은 경우 컴퓨터의 성능을 가장 좌우한다고 볼수도 있겠다, 코어의 갯수가 늘어남에 따라 명칭은 아래와같이 사용된다.

코어 갯수	명칭
코어 1개	싱글코어
코어 2개	듀얼코어
코어 4개	쿼드코어
코어 6개	헥사코어
코어 8개	옥타코어
코어 10개	데카코어

CPU의 성능이 매년마다 업그레이드 되면서 부여할 수 있는 클럭은 한계치가 있고, 냉각또한 한계점이 있어 이 한계점을 뛰어넘기 위해 멀티 코어라는 개념 만들어 이전의 단일코어(싱글코어) 에서의 보여주었던 성능을 코어를 늘림으로써 더 많은 연산처리를 할 수 있게된것이다.

 

다시 질문으로 돌아가, 그렇다면 CPU의 코어 개수와 Thread 개수의 상관관계는 무엇일까?

CPU Thread란 CPU가 업무를 수행하는 단위를 의미한다. 여전히 전산처리는 코어가 담당하지만, 코어가 처리하는 데이터가 쓰레드라는 하나의 경로를 통해 이동한다는 뜻이다.

 

기본적으로 한 개의 코어 당 하나의 쓰레드를 가지는 것이 원칙이다. 그런데, 코어의 성능이 향상 될 수록, 병목현상이 발생하게 된다. 

 

쉽게 예를 들어보면, 작업자 한 명이 1분에 처리할 수 있는 업무량은 10인데 비해, 1분 동안 기계에 투입할 수 있는 처리량이 5밖에 안된다면, 기계가 앞선 작업물들을 처리할 동안 기다려야 하고 이는 작업 효율의 저하를 가져올 것이다.

 

그렇다면, 만약 이 기계가 2개가 있다면? 작업자는 기다릴 필요 없이 작업을 완료할 수 있을 것이다.

 

이처럼 코어의 성능이 좋아질 수록, 이러한 병목현상이 발생할 수 밖에 없고, 이를 해결 하기 위해 멀티쓰레딩이라는 기술이 개발 된 것이다. 인텔의 경우에는 '하이퍼쓰레딩', AMD에서는 'SMT'라고도 부르는 이 기술을 통해서 단일 코어에 할당되는 쓰레드를 이등분하여 병렬 전산 처리를 가능하게 한다.

 

 

💡멀티태스킹, 멀티쓰레드는 무엇일까?

멀티태스킹이 하나의 운영 체제 안에서 여러 프로세스가 실행되는 것이라면, 멀티스레드는 하나의 프로세스가 여러 작업을 여러 스레드를 사용하여 동시에 처리하는 것을 의미한다.

 

멀티스레드의 장점

1. Context-Switching할 때 공유하고 있는 메모리만큼의 메모리 자원을 아낄 수 있다.
2. 스레드는 프로세스 내의 Stack 영역을 제외한 모든 메모리를 공유하기 때문에 통신의 부담이 적어서 응답 시간이 빠르다.

멀티스레드의 단점

1. 스레드 하나가 프로세스 내 자원을 망쳐버린다면 모든 프로세스가 종료될 수 있다.
2. 자원을 공유하기 때문에 필연적으로 동기화 문제가 발생할 수밖에 없다.

 

✅프로세스 간의 Context-Switching 시에는 많은 자원 손실이 발생한다. 그러나 스레드 간의 Context-Switching에서는 메모리를 공유하고 있는 만큼 부담을 덜 수 있다. (아래 질문에서 좀더 알아보자.)

 

멀티스레드의 장단점에서 꼭 짚고 넘어가야 할 점이 바로 동기화 문제다. 주로 Synchronization Issue라고 하는데, 이에 대해 자세히 설명하면 다음과 같다.

 

멀티스레드를 사용하면 각각의 스레드 중 어떤 것이 어떤 순서로 실행될 지 그 순서를 알 수 없다. 만약 A 스레드가 어떤 자원을 사용하다가 B 스레드로 제어권이 넘어간 후, B 스레드가 해당 자원을 수정했을 때, 다시 제어권을 받은 A 스레드가 해당 자원에 접근하지 못하거나 바뀐 자원에 접근하게 되는 오류가 발생할 수 있다.

 

이처럼 여러 스레드가 함께 전역 변수를 사용할 경우 발생할 수 있는 충돌을 동기화 문제라고 한다. 스케줄링은 운영체제가 자동으로 해주지 않기 때문에 프로그래머가 적절한 기법을 직접 구현해야 하므로 프로그래밍할 때 멀티스레드를 사용하려면 신중해야 한다.(✅Thread Safe하게 설계해야한다.) 디버깅 과정도 까다로워지기 때문이다.

 

동시성 이슈에 대해서는 내용이 많아 따로 글을 작성하겠다. (링크 첨부 예정)

 

 

💡Thread가 Process 보다 Context-Switching이 더 빠른 이유는 무엇일까?

한마디로 말하자면, 메모리 영역을 공유하기 때문이다. 실제로 공유되는 데이터가 있고 아닌 데이터가 있다. 이 부분은 위에서 Stack을 공유하지 않는 이유와 일맥상통한 이야기다. 다만 추가적으로 한가지 살펴보아야 할 것은 캐시메모리이다.

캐시메모리

• 캐시 메모리는 CPU에서 한번 이상 읽어 들인 메인 메모리의 데이터를 저장하고 있다가 CPU가 다시 그 메모리에 저장된 데이터를 요구할 때 메인 메모리를 통하지 않고 바로 값을 전달하는 용도로 사용된다.
• 프로세스 사이에서 공유하는 메모리가 하나도 없기 때문에, 컨텍스트 스위칭이 발생하면 캐쉬에 있는 모든 데이터를 모두 리셋하고 다시 캐쉬 정보를 불러와야 한다.
• ✅쓰레드는 캐쉬 정보를 비울 필요가 없기 때문에 프로세스와 쓰레드의 컨텍스트 스위칭 속도의 차이는 이때 발생한다.

 

cf) Windows에서의 Process와 Thread

Windows 입장에서 프로세스는 쓰레드를 담는 상자에 지나지 않는다. 또한 Windows에서 프로세스는 상태(Running, Ready, Blocked)을 지니지 않는다. 상태를 지니는 것은 스레드이다. 스케줄러가 실행의 단위로 선택하는 것도 프로세스가 아닌 스레드이다. 프로세스 컨텍스트 스위칭 역시 실제로 오버헤드가 발생하는 부분은 서로 다른 프로세스에 포함된 스레드 간의 컨텍스트 스위칭시 발생한다.

 

 

📗Reference

https://brownbears.tistory.com/39
https://techvu.dev/87
https://velog.io/@raejoonee/%ED%94%84%EB%A1%9C%EC%84%B8%EC%8A%A4%EC%99%80-%EC%8A%A4%EB%A0%88%EB%93%9C%EC%9D%98-%EC%B0%A8%EC%9D%B4
https://militstory.com/2
https://crone.tistory.com/423