NodeJS Latency(레이턴시) 해결 방법?

레이턴시(Latency)란?

레이턴시(Latency)란 시스템이나 네트워크에서 요청을 보내고 결과를 받는 데 걸리는 시간을 말합니다. 즉, 어떤 동작을 수행하기 위해 시작한 시점부터 해당 동작이 완료되어 결과를 얻을 때까지의 지연 시간을 의미합니다. 레이턴시는 일반적으로 시간의 차이로 표현되며, 초(ms), 밀리초(millisecond), 마이크로초(microsecond), 나노초(nanosecond) 등의 단위로 측정할 수 있습니다.

레이턴시는 컴퓨터 시스템의 성능과 반응성을 나타내는 중요한 지표 중 하나입니다. 레이턴시가 낮으면 요청에 대한 응답이 빠르고, 시스템이 빠른 속도로 동작하는 것으로 인식됩니다. 그러나 레이턴시가 높으면 응답이 느리고, 사용자들은 지연 현상을 더욱 강하게 느낄 수 있습니다.

레이턴시는 여러 요소에 의해 영향을 받을 수 있습니다. 네트워크 속도, 서버의 처리 속도, 데이터베이스 접근 시간, I/O 작업 등 다양한 요인들이 레이턴시에 영향을 미칩니다. 또한, 지리적인 거리나 네트워크 경로 등도 레이턴시에 영향을 미칠 수 있습니다.

레이턴시를 최소화하는 것은 성능 개선과 사용자 경험 향상을 위해 중요합니다. 특히, 실시간성이 중요한 애플리케이션이나 서비스에서는 낮은 레이턴시를 유지하는 것이 핵심적인 목표입니다. 레이턴시를 줄이기 위해서는 최적화된 하드웨어와 소프트웨어를 사용하고, 효율적인 알고리즘과 방법을 적용하여 처리 속도를 향상시키는 것이 필요합니다.

 

레이턴시(latency) 해결 방법?

레이턴시는 주로 네트워크 호출이나 I/O 작업 등에서 발생하는 지연을 의미합니다. 따라서 이러한 상황에서 성능을 최적화하는 방법을 다룹니다.

 

1. 비동기 프로그래밍: Node.js는 비동기 이벤트 기반 모델을 사용하여 작동합니다. 따라서 I/O 작업과 같은 오래 걸리는 작업을 블로킹하지 않고 비동기적으로 처리하는 것이 중요합니다. 비동기 함수, 콜백, 프로미스, async/await 등을 사용하여 비동기 프로그래밍을 구현할 수 있습니다.
2. 클러스터링: Node.js는 싱글 스레드로 동작하지만, 클러스터링을 통해 여러 프로세스를 생성하여 멀티코어 시스템의 모든 자원을 활용할 수 있습니다. 클러스터링을 설정하여 요청을 여러 작업자(worker)에게 분산시키면 레이턴시를 줄일 수 있습니다.
3. 캐싱: 반복적으로 요청되는 데이터나 결과를 메모리에 캐싱하여 불필요한 계산을 피하고 빠른 응답을 제공합니다. 메모리 캐시 라이브러리인 Redis 등을 사용하여 데이터를 캐싱할 수 있습니다.
4. 최적화된 네트워크 처리: 네트워크 작업은 레이턴시의 주요 원인 중 하나입니다. 네트워크 요청을 최적화하고, 커넥션 풀을 사용하여 리소스 재사용을 늘리는 등의 방법을 적용하여 성능을 향상시킬 수 있습니다.
5. 모듈 선택과 성능 분석: Node.js의 모듈들은 성능면에서 차이가 있을 수 있습니다. 프로젝트에 적합한 모듈을 선택하고, 성능 분석 도구를 사용하여 병목 현상을 파악하고 개선하는 것이 중요합니다.
6. 최신 버전 사용: Node.js는 지속적으로 업데이트되고 개선되는 오픈소스 프로젝트입니다. 최신 버전을 사용하여 최적화된 성능과 버그 수정을 활용할 수 있습니다.
7. 로깅과 모니터링: 성능 이슈를 식별하고 디버깅하기 위해 로깅과 모니터링을 적절히 구성합니다. 이를 통해 어떤 부분에서 레이턴시가 발생하는지 파악하고 개선할 수 있습니다.
8. 코드 최적화: 코드를 최적화하고 효율적으로 작성하여 불필요한 연산과 자원 낭비를 줄입니다.

이러한 방법들을 조합하여 Node.js 애플리케이션의 레이턴시를 해결하고 성능을 향상시킬 수 있습니다. 하지만 모든 상황에 적합한 해결책은 다를 수 있으므로, 구체적인 상황에 맞게 조치를 취하는 것이 중요합니다.

 

클러스터링(Clustering)

Node.js 클러스터링은 멀티코어 시스템에서 Node.js 애플리케이션의 성능을 향상시키는 방법 중 하나입니다. 클러스터링을 통해 여러 개의 프로세스를 생성하여 각 프로세스가 병렬적으로 요청을 처리하도록 할 수 있습니다. 각 프로세스는 독립적으로 실행되며, 프로세스 간의 통신은 내부적으로 이루어집니다.

 

1) 내장 클러스터 모듈 사용

다음은 Node.js에서 클러스터링을 구현하는 간단한 예제 코드입니다.

// app.js

const http = require('http');

// 웹 서버를 생성하는 함수
function createServer() {
  const server = http.createServer((req, res) => {
    res.writeHead(200);
    res.end('Hello, Cluster!');
  });

  server.listen(3000);
}

// 마스터 프로세스일 경우 클러스터를 생성하고 워커들을 관리
if (require('cluster').isMaster) {
  const numCPUs = require('os').cpus().length;

  console.log(`마스터 프로세스 ID: ${process.pid}`);
  console.log(`CPU 개수: ${numCPUs}`);

  // CPU 개수만큼 워커 생성
  for (let i = 0; i < numCPUs; i++) {
    require('cluster').fork();
  }

  // 워커 종료 시 새로운 워커 생성
  require('cluster').on('exit', (worker, code, signal) => {
    console.log(`워커 종료: ${worker.process.pid}`);
    require('cluster').fork();
  });
} else {
  // 워커 프로세스는 웹 서버를 생성하고 요청 처리
  createServer();
  console.log(`워커 프로세스 ID: ${process.pid}`);
}

위의 코드는 클러스터링을 이용하여 웹 서버를 생성하는 예제입니다. 코드를 실행하면 CPU 개수와 각 프로세스의 ID를 확인할 수 있습니다. 이렇게 생성된 프로세스들은 각자 3000번 포트에서 서버를 실행하며 들어오는 요청을 병렬적으로 처리합니다. 프로세스 중 하나가 문제가 생기면 자동으로 새로운 프로세스가 생성되도록 설정되어 있습니다.

클러스터링을 사용하면 멀티코어 시스템의 자원을 효과적으로 활용하여 Node.js 애플리케이션의 성능을 개선할 수 있습니다. 다만, 상황에 따라 적절한 워커의 수나 클러스터링 설정을 조정해야 합니다. 또한, 클러스터링을 사용할 경우 세션 상태 관리와 같은 공유 리소스에 대한 고려도 필요합니다.

 

Node.js 클러스터링은 멀티코어 시스템에서 Node.js 애플리케이션을 병렬로 실행하여 성능을 향상시키는 메커니즘입니다. 클러스터링을 이용하면 여러 개의 프로세스가 동일한 애플리케이션 코드를 실행하며, 프로세스 간에 요청을 분산시켜 처리합니다.

실제로 클러스터링이 어떻게 동작하는지 간단한 순서로 설명드리겠습니다.

 

1. 마스터 프로세스 생성: Node.js 애플리케이션이 실행되면 첫 번째 프로세스가 마스터 프로세스가 됩니다. 마스터 프로세스는 워커 프로세스를 생성하고 관리하는 역할을 담당합니다.
2. CPU 정보 확인: 마스터 프로세스는 시스템의 CPU 정보를 확인하여 사용 가능한 코어(CPU) 개수를 파악합니다.
3. 워커 프로세스 생성: 마스터 프로세스는 사용 가능한 CPU 개수에 따라 워커 프로세스를 생성합니다. 각 워커 프로세스는 독립적으로 실행되며, 별도의 Node.js 인스턴스를 가지고 있습니다.
4. 포트 공유: 워커 프로세스들은 서로 다른 포트에서 서버를 실행합니다. 일반적으로 로드 밸런서 또는 프록시 서버를 앞에 두고 클라이언트의 요청을 워커 프로세스들로 분산시킵니다.
5. 요청 처리: 클라이언트로부터 요청이 들어오면 로드 밸런서 또는 프록시 서버가 요청을 받아 마스터 프로세스에게 전달합니다. 마스터 프로세스는 Round-robin 방식 또는 다른 로드 밸런싱 알고리즘을 사용하여 요청을 워커 프로세스들에게 분배합니다.
6. 병렬 처리: 워커 프로세스들은 각자 독립적으로 요청을 처리하므로 멀티코어 시스템의 자원을 효과적으로 활용하여 병렬적으로 작업을 수행합니다.
7. 프로세스 재생성: 워커 프로세스가 종료되는 경우(예: 예기치 않은 오류, 메모리 누수 등) 마스터 프로세스는 해당 워커를 다시 생성합니다. 이를 통해 애플리케이션의 안정성을 유지합니다.

2) pm2(npm module)모듈 사용

PM2를 사용하면 간단한 설정으로 여러 개의 프로세스를 생성하여 각 CPU 코어를 사용하도록 애플리케이션을 분산시킬 수 있습니다. 이를 통해 CPU 자원을 최대한 활용하고, 단일 프로세스에서 발생할 수 있는 에러 상황에 대한 복원력을 향상시킬 수 있습니다.

 

PM2에서 클러스터 모드를 사용하는 방법은 다음과 같습니다:

1. PM2가 설치되어 있지 않다면, npm을 사용하여 설치합니다.

npm install pm2 -g

 

1. 애플리케이션을 PM2 클러스터 모드로 실행합니다. -i 옵션을 사용하여 프로세스 개수를 지정할 수 있습니다. 여기서 0은 시스템의 CPU 코어 수만큼 프로세스를 생성함을 의미합니다.

pm2 start app.js -i 0

 

이렇게 하면 PM2는 시스템의 CPU 코어 수만큼 Node.js 프로세스를 생성하고, 들어오는 요청을 각 프로세스에 균등하게 분산시킵니다.

프로세스의 상태를 확인하려면 pm2 list 명령을 사용하고, 각 프로세스의 로그를 보려면 pm2 logs 명령을 사용할 수 있습니다.

 

클러스터링을 사용하면 애플리케이션의 성능이 개선되지만, 주의할 점도 있습니다. 각 프로세스는 독립적으로 실행되므로 세션 상태 관리와 같은 공유 리소스를 적절하게 처리해야 합니다. 또한, 클러스터링을 통해 성능을 극대화하기 위해서는 적절한 워커 수를 설정하고 서버 리소스를 효율적으로 분배하는 것이 중요합니다.

 

 

✔️ 참조 문서

https://nodejs.org/api/cluster.html

Cluster | Node.js v20.5.0 Documentation