GPU 백만개가 무슨 소용? 젠슨 황 사로잡은 광섬유 뭐길래…AI 데이터센터 병목의 핵심

광섬유가 GPU와 HBM에 이어 AI 데이터센터 경쟁의 새로운 병목으로 떠오르고 있다. 수십만 개에서 백만 개에 이르는 AI 가속기를 확보하더라도 칩 사이에서 데이터가 제때 이동하지 못하면 거대한 연산 능력을 제대로 활용하기 어렵기 때문이다.

AI 인프라 경쟁의 관심이 이제 단순한 ‘GPU 몇 개를 확보했느냐’에서 ‘그 GPU들을 얼마나 빠르고 안정적으로 하나의 시스템처럼 연결하느냐’로 이동하고 있다. 이 과정에서 주목받는 기술이 빛이 유리가 아닌 빈 공간에 가까운 코어를 통과하도록 만든 중공심 광섬유(Hollow Core Fiber·HCF)다.

광섬유가 AI 데이터센터의 핵심 병목으로 떠오른 이유

대규모 AI 학습은 한 개의 GPU가 독립적으로 계산을 끝내는 방식과 거리가 멀다. 수천·수만 개 이상의 가속기가 데이터를 주고받으며 하나의 거대한 연산 작업을 나눠 처리한다. 특정 노드나 네트워크 구간에서 지연과 장애가 발생하면 값비싼 가속기들이 데이터를 기다리는 시간이 생기고 전체 학습 효율도 떨어질 수 있다.

AI 데이터센터의 성능은 세 가지를 함께 봐야 한다.

연산을 담당하는 GPU·AI 가속기, 데이터를 즉시 공급하는 HBM과 메모리, 그리고 이들을 서로 연결하는 고대역폭·저지연 네트워크다. 어느 한쪽만 성능이 부족해도 전체 시스템의 처리량이 제한될 수 있다.

AWS가 공개한 글로벌 네트워크 규모만 해도 육상과 해저를 합쳐 약 2,000만 km에 이르는 광케이블로 구성된다. 또한 Anthropic과 구축한 Project Rainier에서는 거의 100만 개에 이르는 Trainium2 칩이 Claude 학습과 서비스에 사용되고 있다고 AWS가 설명한다. 이런 규모에서는 네트워크가 단순한 주변 장비가 아니라 AI 컴퓨팅 자체의 일부가 된다.

광섬유 HCF는 무엇이 다른가

기존 통신용 광케이블은 주로 실리카 유리로 만든 코어를 따라 빛을 전달한다. 반면 HCF는 이름 그대로 중심부가 비어 있는 구조를 만들고 그 공간을 따라 빛이 이동하도록 설계한다. 빛이 유리 안을 지나는 시간을 줄일 수 있어 지연을 낮추는 것이 가장 큰 특징이다.

마이크로소프트가 공개한 HCF 자료에서는 일반 실리카 기반 단일모드 광섬유와 비교해 빛의 전파 속도가 최대 약 47% 빨라지고 지연 시간이 약 33% 감소할 수 있다고 설명한다. 따라서 ‘빛이 50배 빨라진다’고 이해하면 안 된다. 실제 의미는 유리 코어를 통과할 때보다 공기 코어에 가까운 구조에서 빛이 더 빠르게 전달된다는 것이다.

숫자 해석에 주의

HCF가 네트워크 전체를 수십 배 빠르게 만든다는 뜻은 아니다. 실제 서비스 성능은 광섬유 길이뿐 아니라 트랜시버, 스위치, 라우팅, 패킷 처리, 서버 구조와 소프트웨어까지 함께 영향을 받는다.

AI용 광섬유 경쟁에 AWS·엔비디아가 뛰어드는 이유

AI 데이터센터 규모가 커질수록 서버 랙 사이뿐 아니라 서로 떨어진 데이터센터를 하나의 클러스터처럼 연결해야 하는 상황이 늘어난다. 전력과 냉각수, 부지 확보 문제 때문에 모든 GPU를 한 건물에 몰아넣는 데 한계가 있기 때문이다.

이 때문에 하이퍼스케일러는 데이터센터 사이의 거리가 늘어나도 통신 지연을 최대한 낮추는 기술에 투자한다. AWS는 자체 글로벌 네트워크 확대와 함께 코닝과 대규모 광통신 공급 계약을 맺었고, 퀄컴과는 최대 1.6T급 광 연결 기술을 포함한 차세대 데이터센터 인프라 협력을 추진하고 있다.

엔비디아 역시 광학 연결을 GPU 판매와 별개의 산업으로 보지 않는다. 코닝과 장기 협력해 미국 내 광 연결 솔루션 생산 능력을 크게 확대하기로 했으며, 코닝은 광섬유 생산 능력도 50% 이상 확대할 계획이라고 밝혔다. 대규모 AI 팩토리에서 필요한 것은 GPU 자체뿐 아니라 GPU가 생성하는 막대한 데이터를 전달할 케이블과 커넥터, 광학 부품이기 때문이다.

GPU 백만개 시대에는 네트워크 효율이 비용이 된다

고가의 AI 가속기를 대규모로 구축한 기업 입장에서 GPU가 네트워크 데이터를 기다리는 시간은 곧 비용이다. 따라서 데이터센터 구축 견적이나 클라우드 AI 서비스 가격을 비교할 때도 단순 GPU 수량과 GPU 종류만 보는 것은 충분하지 않다.

  • 네트워크 대역폭: GPU와 서버 사이에서 초당 얼마나 많은 데이터를 전달할 수 있는지 확인해야 한다.
  • 지연 시간: 대규모 분산 학습에서는 짧은 지연이 전체 작업 완료 시간을 줄이는 데 중요하다.
  • 장애 대응: 링크나 스위치 일부에 문제가 생겨도 전체 클러스터가 멈추지 않는 구조인지 살펴볼 필요가 있다.
  • 광통신 장비 비용: 트랜시버와 케이블, 스위치 교체 비용까지 포함해 전체 소유비용을 비교해야 한다.
  • 확장성: 데이터센터가 추가되거나 물리적으로 멀어졌을 때 동일한 성능을 유지할 수 있는지도 중요한 서비스 선택 기준이다.

일반 광섬유와 HCF 차이, 무엇을 봐야 하나

일반 실리카 광섬유

기술과 공급망이 성숙해 설치 비용과 유지보수 측면에서 유리하다. 이미 전 세계 통신망과 데이터센터에서 대규모로 사용되고 있어 장비 호환성과 조달 안정성도 높다.

중공심 광섬유 HCF

공기 코어에 가까운 구조를 이용해 빛의 전파 지연을 줄일 수 있다. 장거리 저지연 연결과 높은 광출력 활용 가능성이 강점으로 꼽히지만 제조와 접속 기술의 난도가 높다.

성능 선택 기준

초저지연이 실제 사업 가치로 연결되는 금융 거래, 초대규모 AI 클러스터, 데이터센터 간 연결과 같은 환경에서 HCF의 장점이 더 커질 가능성이 있다.

가격·비용 선택 기준

케이블 가격만 비교하면 안 된다. 증폭 장비 수, 설치 난도, 유지보수, 전력 사용량과 네트워크 확장 비용까지 포함한 전체 비용 비교가 필요하다.

HCF 가격이 비싸도 기업들이 연구하는 이유

HCF는 일반 광케이블보다 제조 공정이 복잡하고 접속·시공 생태계도 상대적으로 초기 단계다. 따라서 모든 데이터센터 연결을 HCF로 즉시 교체하는 방식보다는 지연 감소의 가치가 큰 구간을 중심으로 적용 범위를 확대하는 접근이 현실적이다.

반대로 기술이 대량 생산 단계에 진입하고 여러 제조사가 공급에 참여하면 HCF 가격과 구축 비용이 내려갈 가능성도 있다. 마이크로소프트가 HCF 생산 확대와 외부 제조 생태계 구축에 나서고, AWS와 엔비디아 등 대형 AI 인프라 사업자가 광학 공급망에 자금을 투입하는 흐름을 주목할 이유다.

광섬유 다음 병목은 광트랜시버와 스위치다

케이블만 빠르다고 AI 네트워크가 완성되는 것은 아니다. 서버가 처리하는 전기 신호를 빛으로 바꾸고, 다시 반대편에서 전기 신호로 복원하는 광트랜시버도 핵심이다. 네트워크 스위치의 처리량과 전력 효율 역시 GPU 클러스터의 규모를 결정한다.

특히 800G에서 1.6T급으로 광통신 속도가 높아질수록 트랜시버의 발열과 전력 소비, 연결 안정성까지 중요한 구매 기준이 된다. AWS와 퀄컴이 차세대 광 연결 기술을 공동 개발하는 것도 이런 이유다. AI 인프라 시장의 경쟁 범위가 GPU에서 네트워크 칩, DSP, 트랜시버, 케이블까지 빠르게 확장되고 있다는 의미다.

기업이 AI 인프라를 비교할 때 체크할 항목

기업이 자체 AI 서버를 구매하거나 GPU 클라우드 서비스를 가입할 계획이라면 GPU 모델과 시간당 요금뿐 아니라 네트워크 사양을 함께 비교하는 것이 좋다. 분산 학습 규모가 커질수록 GPU 간 통신 성능에 따라 같은 수의 가속기를 사용하고도 실제 학습 시간이 달라질 수 있기 때문이다.

따라서 AI 인프라 견적을 받을 때는 GPU 수량, HBM 용량, 인터커넥트 방식, 서버당 네트워크 대역폭, 데이터센터 간 연결 구조, 장애 대응 방식과 향후 확장 비용을 함께 확인하는 것이 합리적이다. 단순한 하드웨어 가격 비교보다 실제 작업 완료 시간과 전체 운영비를 기준으로 판단해야 한다.

FAQ

Q. HCF는 일반 광섬유보다 50배 빠른가요?

아닙니다. 공개된 마이크로소프트 자료에서는 일반 실리카 광섬유보다 빛의 전파 속도가 최대 약 47% 빠르고 지연은 약 33% 낮은 수준으로 설명합니다. 네트워크 전체 속도가 50배 증가한다는 의미는 아닙니다.

Q. GPU가 많으면 네트워크 성능은 크게 중요하지 않은가요?

오히려 GPU 수가 많아질수록 중요성이 커집니다. 대규모 AI 학습에서는 가속기들이 지속적으로 데이터를 교환하기 때문에 네트워크 지연이나 장애가 전체 GPU 활용률을 떨어뜨릴 수 있습니다.

Q. HCF 가격과 구축 비용은 왜 비싼가요?

내부 구조가 복잡하고 제조·접속·시공 기술이 일반 광케이블만큼 성숙하지 않았기 때문입니다. 실제 도입 비용은 케이블뿐 아니라 트랜시버, 접속 장비, 설치 환경과 유지보수 조건에 따라 달라집니다.

Q. AI 서버나 GPU 클라우드를 비교할 때 무엇을 확인해야 하나요?

GPU 종류와 가격뿐 아니라 GPU 간 인터커넥트, 서버당 네트워크 대역폭, 클러스터 확장성, 장애 대응 구조를 같이 비교하는 것이 좋습니다. 대규모 학습에서는 이 요소들이 실제 비용과 작업 시간에 직접 영향을 줄 수 있습니다.

Q. 앞으로 모든 데이터센터가 HCF로 교체될까요?

단기간에 전면 교체될 가능성보다는 초저지연의 가치가 큰 데이터센터 간 연결부터 선택적으로 확대될 가능성이 큽니다. 제조 비용, 현장 시공성, 기존 장비와의 호환성이 보급 속도를 좌우하는 핵심 변수입니다.