TCP BBR와 CUBIC 차이, 네트워크 속도는 어떻게 달라질까

인터넷 속도의 숨은 공신인 TCP 혼잡 제어 알고리즘 이해하기

우리가 매일 사용하는 인터넷은 보이지 않는 수많은 규칙에 의해 움직입니다. 그중에서도 데이터가 네트워크를 통해 얼마나 빠르고 효율적으로 전달될지를 결정하는 핵심 요소가 바로 TCP 혼잡 제어 알고리즘입니다. 흔히 인터넷이 느려지면 회선 문제나 공유기 탓을 하지만, 실제로는 데이터를 보내는 방식인 프로토콜의 설정이 더 큰 영향을 미칠 때가 많습니다. 오늘 살펴볼 CUBIC과 BBR은 현대 인터넷 환경에서 가장 널리 쓰이는 두 가지 방식입니다.

전통의 강자 CUBIC 알고리즘이란

CUBIC은 리눅스 커널에서 오랫동안 기본값으로 사용되어 온 알고리즘입니다. 이 방식은 네트워크의 정체를 ‘패킷 손실’을 통해 감지합니다. 즉, 데이터를 보내다가 패킷이 중간에 사라지거나 손실되는 현상이 발생하면, 네트워크가 혼잡하다고 판단하고 전송 속도를 급격히 줄이는 방식입니다. 이 과정이 마치 3차 함수 그래프를 그리듯 동작한다고 해서 CUBIC이라는 이름이 붙었습니다.

CUBIC의 주요 특징

• 패킷 손실 기반의 판단: 데이터가 유실되면 네트워크에 부하가 걸렸다고 간주하고 속도를 낮춥니다.

• 안정성 중심: 오랫동안 검증된 알고리즘으로, 네트워크 환경이 변하더라도 매우 안정적인 성능을 보여줍니다.
• 대역폭 활용의 한계: 네트워크에 데이터가 꽉 차서 손실이 발생하기 전까지는 속도를 계속 올리지만, 일단 손실이 발생하면 속도를 크게 낮췄다가 다시 서서히 올리기 때문에 대역폭을 100% 활용하기 어렵다는 단점이 있습니다.

새로운 혁신 BBR 알고리즘의 등장

구글에서 개발한 BBR은 기존의 패킷 손실 방식과는 완전히 다른 접근을 취합니다. BBR은 패킷이 손실되기를 기다리지 않습니다. 대신, 현재 네트워크의 실제 대역폭과 왕복 지연 시간(RTT)을 실시간으로 측정하여 최적의 속도를 계산합니다. 즉, 정체가 발생하기 직전의 최대 속도를 유지하려는 스마트한 방식입니다.

BBR의 주요 특징

• 모델 기반 판단: 패킷 손실 여부와 관계없이 네트워크의 물리적 한계를 계산하여 전송 속도를 결정합니다.

• 높은 대역폭 활용도: 네트워크가 다소 불안정하거나 손실이 발생하는 환경에서도 높은 속도를 유지합니다.
• 지연 시간 개선: 불필요하게 데이터를 쌓아두지 않기 때문에 네트워크 지연 시간이 줄어들어 스트리밍이나 화상 통화에서 유리합니다.

CUBIC과 BBR 실제 성능 비교

두 알고리즘의 차이를 이해하기 위해 가장 좋은 예시는 고속도로 주행입니다. CUBIC은 앞차와 충돌(패킷 손실)이 나야만 브레이크를 밟고 다시 가속하는 운전자입니다. 반면 BBR은 앞차와의 거리와 도로의 흐름을 미리 계산하여 정체가 생기기 직전의 속도로 꾸준히 달리는 숙련된 운전자와 같습니다.

구분	CUBIC	BBR
판단 기준	패킷 손실 여부	대역폭과 지연 시간 모델링
네트워크 손실 환경	속도가 급격히 하락함	비교적 높은 속도 유지
주요 활용 분야	전통적인 서버 환경	고속 스트리밍, 클라우드 서버

어떤 환경에서 어떤 알고리즘이 유리할까

모든 상황에서 BBR이 무조건 좋은 것은 아닙니다. 네트워크 환경에 따라 적합한 알고리즘이 다릅니다. 이를 잘 활용하면 서버나 개인 기기의 네트워크 효율을 극대화할 수 있습니다.

BBR이 빛을 발하는 환경

• 해외 서버 접속: 물리적 거리가 멀어 패킷 손실이 발생하기 쉬운 국제망 구간에서 BBR은 압도적인 성능을 보여줍니다.

• 대용량 파일 전송: 끊김 없이 높은 속도를 유지해야 하는 영상 스트리밍 서비스나 대용량 파일 다운로드 시 유리합니다.
• 무선 네트워크: 와이파이나 이동통신망처럼 환경 변화가 잦고 일시적인 패킷 손실이 잦은 곳에서 BBR은 속도 저하를 최소화합니다.

CUBIC이 여전히 필요한 이유

• 내부 네트워크: 패킷 손실이 거의 없는 로컬 네트워크에서는 CUBIC의 정교한 제어가 오히려 더 안정적일 수 있습니다.

• 공정성 문제: BBR은 대역폭을 공격적으로 점유하는 경향이 있어, 여러 사용자가 공존하는 환경에서 CUBIC 사용자의 대역폭을 뺏어올 수 있습니다.

흔한 오해와 진실

인터넷 커뮤니티에서는 BBR을 적용하면 무조건 속도가 2배가 된다는 식의 근거 없는 소문이 돌기도 합니다. 하지만 이는 사실이 아닙니다.

첫째, BBR은 네트워크의 물리적 한계를 넘어서게 해주지 않습니다. 즉, 인터넷 서비스 제공업체(ISP)에서 제공하는 회선 속도 이상의 속도는 나오지 않습니다. BBR은 주어진 회선 안에서 버려지는 데이터 없이 ‘효율적으로’ 전달하는 기술입니다.

둘째, 모든 환경에서 BBR이 빠른 것은 아닙니다. 패킷 손실이 전혀 없는 아주 깨끗한 환경에서는 CUBIC이 이미 충분히 빠른 속도를 내고 있기 때문에, BBR로 변경한다고 해서 체감 속도가 크게 달라지지 않을 수 있습니다.

셋째, 서버 설정은 클라이언트 단에서만 바꾼다고 되는 것이 아닙니다. 데이터를 보내는 ‘서버’의 알고리즘이 BBR로 설정되어 있어야 효과를 볼 수 있습니다. 사용자가 직접 할 수 있는 영역은 자신이 운영하는 서버나 개인 PC 환경에 국한됩니다.

실무자를 위한 적용 가이드

개인이 운영하는 서버나 개인용 PC에서 BBR을 적용하는 것은 생각보다 간단합니다. 리눅스 환경이라면 커널 설정을 통해 쉽게 전환할 수 있습니다. 다만, 운영 중인 서비스의 특성을 충분히 고려해야 합니다.

리눅스 서버에서 BBR 활성화하기

• 현재 적용된 혼잡 제어 알고리즘 확인: sysctl net.ipv4.tcp_congestion_control 명령어를 사용합니다.
• 커널 설정 변경: /etc/sysctl.conf 파일에 net.core.default_qdisc = fq 및 net.ipv4.tcp_congestion_control = bbr을 추가합니다.
• 설정 적용: sysctl -p 명령어를 통해 설정을 즉시 반영합니다.

이 설정만으로도 해외 접속이 잦은 웹 서버나 스트리밍 서버에서는 유의미한 성능 향상을 경험할 수 있습니다. 단, 변경 후에는 반드시 네트워크 트래픽 모니터링을 통해 서비스에 부작용이 없는지 확인하는 과정이 필요합니다.

네트워크 최적화의 핵심은 균형

네트워크 기술의 발전은 더 빠르고 쾌적한 디지털 환경을 만드는 데 집중되어 있습니다. CUBIC이 안정성이라는 토대를 닦았다면, BBR은 지능형 제어라는 새로운 장을 열었습니다. 사용자의 인터넷 환경이 점점 더 복잡해지고 글로벌화됨에 따라, 이러한 알고리즘의 선택은 단순한 기술적 설정을 넘어 사용자 경험의 질을 결정짓는 중요한 요소가 되었습니다.

중요한 점은 자신의 서비스가 어떤 환경에서 주로 이용되는지를 파악하는 것입니다. 단순히 유행을 따라 BBR을 적용하기보다는, 패킷 손실률과 지연 시간 데이터를 분석하여 최적의 알고리즘을 찾아내는 것이 진정한 네트워크 최적화의 첫걸음입니다. 기술의 본질을 이해하고 자신의 상황에 맞게 적용하는 것, 그것이 네트워크 속도를 한 단계 끌어올리는 가장 확실하고 경제적인 방법입니다.