Blocking I/O vs Non-Blocking I/O

Blocking I/O란 스레드가 운영체제에게 I/O 작업 수행 요청 시 해당 작업이 끝날때 까지 대기(block)해야 하는 것을 의미한다.

blocking i/o

Non-Blocking I/O는 스레드가 I/O 작업 요청 시, 커널은 상태를 즉시 반환하고 I/O 작업을 수행한다. 이때 스레드는 I/O 작업 완료 유무와 관계없이 CPU 관련 작업을 할 수 있다.

non-blocking i/o

I/O 작업이 완료되었는지 비동기로 확인하는 요청을 보낼 수도 있고, 완료된 후 작업을 callback이나 signal을 통해 후처리할 수도 있다.

nodejs는 이벤트 루프 기반의 자바스크립트 런타임이다.

nodejs는 I/O 작업을 내부 C++로 작성된 libuv 라이브러리를 통해 위임한다.

해당 라이브러가 운영체제의 커널을 통해 I/O 작업을 수행하는데, 해당 작업은 미리 만들어진 libuv 스레드풀을 통해 작업한다.

nodejs가 실행될때마다 uv_run이라는 메서드가 계속해서 반복하며 이벤트 루프를 처리한다. ¹

libuv의 경우 I/O Multiplexing 중 select을 사용하여 비동기로 I/O 작업을 처리한다.

기존 Spring MVC는 요청이 들어올때 마다 스레드를 생성하는 one-request-per-thread 모델을 사용한다.

Spring 5부터 등장한 Spring WebFlux는 Non-Blocking I/O 기반의 웹 프레임워크를 제공한다. ²