쉽게 말하면, 데이터센터는 서버·저장장치·네트워크 장비를 한곳에 모아 전기, 냉방, 화재 방재, 출입 통제 설비로 받쳐 운영하는 전용 시설이다. 기업 업무 시스템, 클라우드, 과학 계산, 인공지능 서비스가 모두 이 위에서 돌아간다.
| 정의 | IT·통신 장비를 수용·연결하고 전력·냉방·안전·보안 설비를 갖춘 전용 시설2 |
|---|---|
| 주요 구성 | IT 장비, 전기 경로, 열 관리, 네트워크·저장 패브릭, 제어·안전 설비 |
| 운영 모델 | 기업 전용, 코로케이션, 클라우드·하이퍼스케일, 고성능 컴퓨팅, 엣지 |
| 가용성 기준 | 업타임 인스티튜트 티어 I~IV3 |
| 관련 표준 | ISO/IEC 22237 시리즈(시설·인프라)4 |
1. 개요
데이터센터는 정보기술(IT)과 통신 장비를 수용하고 서로 연결하며, 이를 운영하는 전력·환경 제어·안전·보안 설비를 갖춘 전용 시설이거나 시설 안의 전용 구역이다. 국제전기기술위원회(IEC)는 장비의 집중 수용, 상호 연결, 운영과 함께 의도한 가용성과 보안을 제공하는 기반 설비를 정의에 포함한다. 따라서 데이터센터는 컴퓨터를 모아 둔 방 이상이다. 연산, 전기, 열, 네트워크, 물리 보안, 운영 계층이 함께 움직이는 결합 시스템이다.2
데이터센터는 기업 내부 애플리케이션, 클라우드 컴퓨팅, 과학 시뮬레이션, 검색, 영상 전송, 인공지능 서비스를 뒷받침한다. 'AI 데이터센터'는 주요 시설 표준에서 별도의 분류가 아니며, 보통 가속기를 많이 쓰고 대용량 데이터를 옮기며 긴밀하게 연결된 클러스터가 필요한 작업에 맞춰 구성한 데이터센터를 가리킨다. 이런 요구는 랙 전력, 냉각, 네트워크, 저장장치, 장애 관리 설계를 바꾸지만, 기반 공학 분야는 여전히 데이터센터 설계와 운영의 영역이다.4,5
2. 범위와 용어
데이터센터의 경계를 어떻게 잡느냐가 중요하다. 캠퍼스 하나에 여러 데이터센터 건물, 변전소, 발전기, 냉각 설비, 사무실, 네트워크 집합실이 함께 있을 수 있다. 한 건물에 독립 운영되는 전산실이 여러 개 있을 수도 있다. 반대로 작은 엣지 사이트는 통신 설비 보관소나 복합 용도 건물에 랙 몇 개만 둘 수도 있다. 비교는 같은 물리적 경계, 측정 지점, 기간, 작업 범위를 쓸 때만 의미가 있다.6
흔히 쓰는 명칭은 보편적인 규모 등급이 아니라 운영 및 소유 모델을 가리킨다.
| 모델 | 전형적인 책임 분담 | 주요 목적 |
|---|---|---|
| 기업·사설형(Enterprise or private) | 한 조직이 시설과 대부분의 IT 장비를 관리 | 내부 애플리케이션, 규제 대상 작업, 특수 컴퓨팅 |
| 코로케이션(Colocation) | 운영자는 공간·전력·냉방·물리 보안·연결성을 제공하고, 고객은 IT 장비의 일부 또는 전부를 관리 | 전용 시설 없이 공유 인프라 사용 |
| 클라우드·하이퍼스케일(Cloud or hyperscale) | 대형 서비스 운영자가 여러 사이트의 시설과 표준화된 장비군을 관리 | 대규모 탄력적 서비스 |
| 고성능 컴퓨팅(High-performance computing) | 대학, 연구소, 정부 기관, 기업이 긴밀하게 결합된 연산·저장 시스템 운영 | 과학, 공학, AI 작업 |
| 엣지(Edge) | 사용자, 기기, 접속망, 데이터 원천 가까이에 연산 배치 | 지연 시간 단축, 현지 처리, 복원력, 광역 트래픽 감소 |
사이트를 '하이퍼스케일'로 만드는 표준 기반의 단일 전력·랙 수 기준은 없다. 용량 수치는 전력망 연결 용량, 설치 전기 설비, 최대 IT 전력, 계약 전력, 실제 계측 부하 중 무엇을 가리키는지에 따라 달라 서로 바꿔 쓸 수 없다. 계획 단계의 캠퍼스, 건설 중인 건물, 전원만 연결된 빈 건물, 서버가 가득 찬 시설은 각기 다른 사업 단계다.
3. 현대 데이터센터의 발전
초기 조직 컴퓨팅에서는 메인프레임과 저장장치를 전용 전산실에 두는 경우가 많았다. 네트워크 서비스가 늘면서 운영자들은 독립 배전, 연속 냉각, 화재 방재, 출입 통제, 복수 통신 경로를 갖춘 대형 시설을 만들었다. 상업용 코로케이션은 시설 운영과 장비 소유를 분리했고, 클라우드 운영자는 여러 사이트의 하드웨어와 소프트웨어를 표준화했다.
웨어하우스 규모 컴퓨터(warehouse-scale computer) 모델은 대형 데이터센터를 무관한 기계의 묶음이 아니라 하나의 컴퓨터로 본다. 이 모델에서는 한 계층의 결정이 다른 계층에 영향을 주므로 작업 배치, 서버 설계, 네트워크, 전력, 냉각, 장애 복구를 함께 설계한다. 이 관점은 특히 머신러닝 클러스터와 관련이 깊다. 이런 클러스터에서는 학습 중 가속기들이 계속 통신할 수 있고, 저장장치는 많은 작업자에게 한꺼번에 데이터를 공급해야 한다.5
대형 시설이 소형 시설을 없애지는 않는다. 지연 시간, 데이터 지역성, 불안정한 광역 연결, 규제 제약 때문에 규모의 경제 일부를 포기해도 될 때는 엣지 컴퓨팅이 서비스를 수요 가까이에 둔다. 유럽전기통신표준협회(ETSI)는 다중 접속 엣지 컴퓨팅을 접속망 가장자리의 클라우드 컴퓨팅 능력으로 설명하며, 근접성, 낮은 지연, 높은 대역폭을 의도한 특성으로 꼽는다.7
4. 시설 구조
4.1. IT 장비
IT 계층에는 연산 노드, 저장장치, 네트워크 스위치, 관리 시스템, 그리고 이들을 잇는 랙, 케이블, 펌웨어가 포함된다. 운영체제와 애플리케이션 로직에는 여전히 범용 프로세서가 중요하다. 그래픽 처리 장치와 다른 AI 가속기는 처리량이 큰 행렬·벡터 연산을 맡는다. 저장장치에는 로컬 장치, 분산 객체·파일 시스템, 별도의 고성능 저장 네트워크가 포함될 수 있다.
장비 사양은 시설 측정값이 아니다. 부품의 열설계 전력, 서버의 명판 정격, 실측 최대 소비 전력, 장기 평균 소비 전력은 서로 다른 질문에 답한다. 설계자는 실측 작업 프로파일과 보수적인 여유로 전력과 냉각 용량을 정하고, 시운전에서 동작을 확인한다. 명판 값을 모두 더하면 수요를 과대평가할 수 있고, 평균 이용률에만 기대면 동시 피크, 기동, 고장 상황에서 용량이 모자랄 수 있다.8
4.2. 전기 경로
전형적인 전기 경로는 전력 공급이나 현장 전원에서 시작해 배전 설비(스위치기어), 변압기, 전환 장치, 무정전 전원 장치(UPS), 분전반이나 버스웨이, 랙 단위 분배를 거쳐 IT 장비의 전원 공급 장치에 닿는다. 정확한 구성은 사이트마다 다르다. 발전기, 배터리, 연료전지 등은 정전 중 가동 유지(ride-through)나 더 긴 운전을 지원할 수 있지만, 연료, 배출, 정비, 허가 제약을 받는다.6
전력 변환과 배전에서는 손실과 열이 생긴다. 같은 전력에서 배전 전압을 높이면 전류와 도체 손실을 줄일 수 있지만, 절연, 보호, 정비성, 장비 호환성이 여전히 설계를 좌우한다. 보호 장치는 고장을 선택적으로 격리해, 하류 고장이 시설의 넓은 부분을 불필요하게 차단하지 않도록 해야 한다.
이중화는 흔히 N, N+1, 2N 같은 약어로 나타낸다.
- N: 설계 부하를 감당하는 데 필요한 용량이다.
- N+1: 해당 조건에서 필요한 수보다 한 단위를 더 제공한다.
- 2N: 완전한 용량 세트를 두 벌 제공한다.
그러나 표기만으로 복원력이 입증되지는 않는다. 공통 제어, 공유 배전반, 연료 설비, 냉각 의존성, 케이블 경로가 공통 고장점을 만들 수 있다. 유용한 검토는 정비 중, 부품 고장 중, 비상 상황에서 원천부터 작업 부하까지 전원과 제어 경로를 모두 따라간다.
4.3. 열 관리
IT 장비가 쓰는 전기는 거의 모두 시설 안에서 열로 바뀐다. 열 관리는 이 열을 칩과 부품에서 외부 환경이나 열 재사용 시스템으로 옮기는 일이다. 이 경로는 여러 단계를 거칠 수 있다. 칩에서 냉각판이나 공기로 옮기고, 서버 팬이나 액체 루프, 실내 공기나 시설 수 루프, 열교환기, 펌프, 칠러, 냉각탑, 건식 쿨러(dry cooler), 제어 장치를 지난다.6,9
공랭식 실내는 흔히 랙을 고온 통로와 저온 통로로 배치한다. 격리(containment)는 공급 공기와 고온 배기가 섞이는 것을 줄여 냉각 설비가 IT 장비가 요구하는 온도에 더 가깝게 운전하도록 돕는다. 외기 조건이 허락하면 공기측 또는 수측 이코노마이저로 압축기 운전을 줄일 수 있다. 적합성은 기후, 공기 질, 습도, 수질, 장비 등급, 운영 목표에 따라 달라진다.
액체 냉각은 고출력 부품 가까이에서 액체로 열을 옮긴다. 주요 방식은 후면 도어 열교환기, 칩 직접 냉각판, 침지 시스템이다. 가속기와 프로세서에는 액체 냉각을, 메모리, 저장장치, 네트워크, 전력 부품에는 공랭을 함께 쓸 수 있다. 액체 냉각만으로 물 사용량이 정해지지는 않는다. 닫힌 내부 루프도 건식 쿨러, 증발 방식, 지역 열 공급망, 다른 열 싱크로 결국 열을 내보낼 수 있다. 따라서 물과 에너지 사용은 전체 열 배출 설계, 기후, 제어, 운전점에 따라 정해진다.
설계자는 유체 품질, 재료 호환성, 누수 감지, 차단 밸브, 펌핑, 필요한 경우 수처리, 전원이나 유량이 끊겼을 때의 열 거동을 명시해야 한다. 오픈 컴퓨트 프로젝트(Open Compute Project)의 액체 냉각 지침은 시운전, 정비 접근성, 제어 통합, 열적 버팀(thermal ride-through)을 장비 선정 뒤의 세부 사항이 아니라 시스템 요구사항으로 다룬다.10
4.4. 네트워크와 저장장치 패브릭
데이터센터 네트워크는 서버, 저장장치, 관리 시스템, 외부 망을 잇는다. 대형 시설은 거대한 중앙 스위치 하나보다 많은 스위치로 짠 다단계 클로스(Clos) 토폴로지를 자주 쓴다. Google이 공개한 Jupiter 네트워크 연혁은 중앙 제어 방식의 클로스 기반 패브릭을 높은 이분 대역폭(bisection bandwidth)을 유지하며 여러 세대에 걸쳐 확장한 과정을 설명한다. 이 설계 원칙은 특정 운영자에만 해당하지 않는다. 스케일아웃 네트워크는 용량을 여러 경로에 나누고, 라우팅이나 스케줄링으로 트래픽을 분산하며 장애를 견딘다.11
AI 클러스터에는 논리적으로 구분되는 패브릭이 여럿 있을 수 있다. 스케일업 패브릭은 한 서버나 랙 안의 가속기를 잇는다(NVLink는 이 역할을 맡는 한 벤더의 기술이다). 스케일아웃 패브릭은 많은 연산 노드를 잇고, 보통 InfiniBand나 고속 이더넷을 쓴다. 저장장치, 관리, 텔레메트리, 외부 서비스 트래픽은 별도 네트워크일 수 있다. 물리적으로 나눌지 논리적으로 격리할지는 성능, 보안, 비용, 장애 도메인 요구에 따라 정한다.
네트워크 용량은 포트 하나의 최대 속도로 요약할 수 없다. 중요한 속성은 종단 간 처리량, 과구독(oversubscription) 비율, 지연 시간, 혼잡 거동, 집합 통신 성능, 경로 다양성, 케이블 도달 거리, 트랜시버 전력, 링크나 스위치 하나가 고장 났을 때의 영향이다. 저장장치 설계도 설치 용량만이 아니라 지속 읽기·쓰기 속도, 메타데이터 부하, 체크포인트에서 생기는 집중 쓰기, 데이터 내구성, 복구 시간을 고려한다.
4.5. 제어, 모니터링, 안전
건물 관리 시스템과 전기 모니터링 시스템은 전력, 냉방, 환경 조건, 경보를 감독한다. 데이터센터 인프라 관리 시스템은 시설 측정값과 랙·자산 데이터를 결합할 수 있다. 유용한 텔레메트리에는 에너지, 전력 품질, 차단기 상태, 온도, 필요한 곳의 습도, 유체 유량과 압력, 누수, 장비와 네트워크 상태가 포함된다. 경보는 조치가 필요한 상태와 잡음을 구분해야 하며, 진단 대상 사건이 일어나는 동안에도 모니터링이 유지되어야 한다.
화재 방재는 적용 법규, 건물 용도, 구조, 장비 위험에 바탕을 둔다. NFPA 75는 정보기술 장비의 보호를 다루며, 건축, 공급 설비, 감지, 소화, 비상 절차, 복구를 포함한다. 설계에서는 사전 작동식 스프링클러, 청정 가스 소화 설비, 흡입식 연기 감지, 또는 이들의 조합을 쓸 수 있다. 다만 어떤 한 기술도 현장별 화재 분석과 법으로 요구되는 방재를 대체하지 못한다.12
5. 가용성과 복원력
가용성은 종단 간 서비스의 속성이다. 시설의 전력은 정상이어도 소프트웨어, 저장장치, 네트워크 장애 때문에 애플리케이션을 쓸 수 없을 수 있다. 반대로 시설 일부를 잃어도 워크로드 이전이나 복제로 분산 서비스는 계속 제공될 수 있다. 따라서 시설 토폴로지와 소프트웨어 복원력을 함께 설계해야 한다.
업타임 인스티튜트(Uptime Institute)의 티어 체계는 중요 시설의 토폴로지를 평가하는 틀 중 하나다. 현재의 설명은 결과 기준이며 누적적이다.3
| 등급 | 업타임 인스티튜트 명칭 | 시설 결과 요약 |
|---|---|---|
| I | 기본 용량(Basic Capacity) | 전용 부지 인프라가 IT 환경을 지원한다 |
| II | 중복 용량(Redundant Capacity) | 중복된 전력·냉방 용량 구성요소가 추가 정비 기회와 일부 장비 고장으로부터의 보호를 제공한다 |
| III | 동시 정비 가능(Concurrently Maintainable) | 필요한 용량 구성요소와 배전 경로를 IT 운영을 멈추지 않고 계획 정비를 위해 분리할 수 있다 |
| IV | 결함 허용(Fault Tolerant) | 단일 장비 고장이나 배전 경로 중단이 IT 운영에 영향을 주지 않는다3 |
티어 표준은 특정 기술을 규정하지 않는다. 업타임 인스티튜트는 2009년에 티어 등급과 예상 연간 다운타임의 대응 관계를 없앴고, 현재 토폴로지 표준은 네 등급에 가용성 백분율을 부여하지 않는다. 예를 들어 모든 Tier III 시설이 고정된 가용률을 보장한다고 쓴 표는 이 틀을 잘못 옮긴 것이다. 설계 인증, 준공 시설 인증, 운영 지속성 평가는 서로 다른 평가다.3
다른 표준은 더 넓은 위험 기반 분류를 쓴다. ISO/IEC 22237-1은 계획 수명 동안의 가용성, 보안, 에너지 효율 등급을 포함한 데이터센터 시설과 인프라의 일반 개념을 다룬다. 선택은 최고 수준의 이중화가 항상 적절하다는 전제가 아니라 장애의 사업 영향, 복구 목표, 규제 의무, 비용에 따라야 한다.4
5.1. 장애 도메인
장애 도메인은 함께 잃을 수 있는 자원의 묶음이다. 한 차단기 뒤의 장비, 같은 상단 스위치를 쓰는 랙, 하나의 냉각 루프를 쓰는 열, 하나의 변전소가 공급하는 건물이 예다. 같은 장애 도메인에 놓인 복제본은 그 도메인의 손실을 막지 못한다. 2016년 연구는 클라우드 데이터센터의 복제 작업을 대상으로 랙을 포함한 상관된 전력·네트워크 장애 도메인을 모델링했고, 스케줄링과 복제본 배치가 장비 고장을 독립 사건으로 가정하면 안 되는 이유를 보여 주었다.13
복원력 검토는 다음 경로를 추적해야 한다.
- 전력 공급, 현장 발전, 에너지 저장, 연료 의존성
- 배전반, UPS, 배전, 랙 전원 경로
- 펌프, 열교환기, 제어, 열 배출 경로
- 네트워크, 저장장치, 시간 동기화, 이름 서비스, 관리 의존성
- 인증, 모니터링, 원격 접속 서비스
- 예비 부품, 직원 출입, 벤더 지원
- 소프트웨어 복구, 데이터 복원, 워크로드 재배치
대표적인 조건에서 한 번도 시험하지 않은 백업 시스템은 능력이 주장만 된 상태일 뿐이다. 통합 시스템 시험, 부하 뱅크(load-bank) 시험, 이중화 전환 훈련, 복원 훈련, 문서화된 인수 기준은 부품 단위 시험이 놓치는 상호작용을 드러낸다.
6. 운영과 유지보수
설계 의도는 운영 관행 때문에 무너질 수 있다. 용량 변경, 임시 배선, 알람 비활성화, 미뤄진 정비, 문서화되지 않은 제어 변경은 시운전 이후에 고장 경로를 만들 수 있다. 운영자는 계획 작업에 작업 절차(method of procedure), 변경 검토, 동료 확인, 정비 시간대, 롤백 계획, 변경 후 검증을 쓴다.
업타임 인스티튜트(Uptime Institute)의 2025년 장애 분석은 전력이 영향이 큰 데이터센터 장애의 주된 원인이라는 점을 계속 확인했다. 설문 데이터에서 IT 및 네트워크 장애는 영향이 큰 사고의 23%를 차지했고, 인적 오류로 인한 장애에서는 절차의 역할이 강조되었다. 이는 보편적인 고장률이 아니라 설문 결과다. 그래도 중복 장비가 통제된 운영과 검증된 복구를 대신할 수 없다는 결론은 뒷받침된다.14
용량 관리는 시설 측정값과 IT 측정값을 함께 써야 한다. 사이트에 미사용 전력망 용량이 있어도 특정 버스웨이, 냉각 루프, 케이블 경로, 네트워크 계층은 가득 찰 수 있다. 전력 상한 설정, 워크로드 스케줄링, 장비 교체로 상류 설비를 전부 늘리지 않고도 쓸 수 있는 용량을 확보하기도 한다. 예측에는 제약 지점, 측정 시간 해상도, 이용률과 동시 발생률에 관한 가정을 밝혀야 한다.
7. 보안
데이터센터 보안은 물리, 환경, 네트워크, 시스템, 공급망 통제를 포함한다. ISO/IEC 22237-6은 무단 출입, 침입, 내부 화재와 환경 사건, 외부 사건으로부터의 보호를 다룬다. NIST SP 800-53은 접근 통제, 감사, 비상 계획, 사고 대응, 물리·환경 보호, 시스템·통신 보호, 공급망 위험 관리를 포함하는 더 넓은 통제 목록을 제공한다.15,16
물리적 조치에는 부지 경계, 차량 통제, 보안 요원이나 전자 통제 출입구, 신원 확인, 방문자 관리, 카메라, 구역별 출입 분리, 보안 하역장, 잠금 랙과 케이지가 포함될 수 있다. 선택은 위협 모델링과 법적 요구에 따른다. 협력업체, 원격 관리 시스템, 예비 장비, 매체 처리가 통제되지 않으면 눈에 띄는 외곽 보안도 효과가 없다.
사이버 보안은 호스팅 애플리케이션 아래 계층까지 확장된다. 시설 컨트롤러, 펌웨어, 베이스보드 관리 인터페이스, 오케스트레이션 시스템, 원격 벤더 연결은 가용성에 영향을 주거나 특권 접근을 노출할 수 있다. 분리, 인증된 관리, 최소 권한, 지원되는 경우 서명된 업데이트, 취약점 관리, 로깅, 보호된 복구 자격 증명, 시험된 사고 대응 절차가 모두 중요하다. 보안 통제는 안전한 비상 접근도 보장해야 한다. 승인된 운영자가 화재나 전기 사고에 대응하지 못하게 하면 다른 위험이 생긴다.
8. 지표와 측정
단일 지표로 효율, 지속가능성, 유용한 작업을 나타낼 수 없다. 측정 프로그램은 먼저 시설 경계, IT 경계, 기간, 계측 지점, 데이터 완전성, 현장 발전이나 송출 에너지의 처리 방식을 정의한다.
| 지표 | 정의 또는 목적 | 주요 한계 |
|---|---|---|
| 전력 사용 효율(PUE) | 같은 경계와 기간의 총 데이터센터 에너지를 IT 장비 에너지로 나눈 값 | 연산 산출, 탄소 배출, 물 소비, 장비 이용률을 측정하지 않는다17 |
| 물 사용 효율(WUE) | 운영에 따른 물 소비를 IT 장비 에너지로 나눈 값(명시된 측정 범주 기준) | 물 경계, 수원, 기후, 냉각 설계, 보고 범주에 따라 결과가 달라진다18 |
| 에너지 재사용 계수(ERF) | 데이터센터 밖에서 재사용된 에너지를 총 데이터센터 에너지로 나눈 값 | 실제 유용한 수요처와 명확한 에너지 경계가 필요하다19 |
| 재생에너지 계수(REF) | 데이터센터에 귀속되는 재생에너지를 총 에너지로 나눈 값 | 계약상 귀속과 사이트에 실제 공급되는 전기는 서로 다른 문제다 |
| IT 장비 이용률 | 설치된 컴퓨팅 자원의 사용을 측정 | CPU 전용 서버 지표는 가속기 중심 시스템을 나타내지 못한다20 |
ISO/IEC 30134-2:2026은 PUE의 측정과 보고를 정의하고 표준화하며, 복합 용도 건물, 현장 발전, 미계측 에너지의 처리를 포함한다. PUE가 1에 가까울수록 측정된 IT 에너지 단위당 시설 부하가 적다는 뜻이지만, PUE가 낮다고 총 에너지가 적은 것은 아니다. 부하가 낮은 오래된 시설은 PUE가 좋아지면서도 더 바쁜 작은 시설보다 에너지를 더 쓸 수 있다. 두 사이트는 경계와 기후가 달라 서로 다른 값을 보고할 수도 있다.17
ISO/IEC 30134-9는 사용 단계의 WUE를 정의하고 측정 범주와 보고 규칙을 도입한다. 사이트 WUE는 간접 사용 물을 따로 평가하지 않으면 발전에 쓰인 물을 빠뜨릴 수 있고, 건설과 장비에 내재된 물도 포함하지 않는다. 따라서 비교할 때는 직접 현장 물, 수원 물, 전력 관련 물, 생애주기 경계 중 무엇을 포함하는지 밝혀야 한다.18
ERF는 다른 건물이나 공정의 난방처럼 유용한 외부 목적에 쓰이는 데이터센터 에너지의 비율을 측정한다. 열 재사용 성능은 온도, 거리, 계절별 수요, 기반 설비, 열을 승온하고 운반하는 데 드는 에너지에 따라 달라진다. 명목상 연결되어 있다고 해서 연중 유용한 재사용과 같지는 않다.19
서버 이용률은 놀고 있는 IT 용량을 드러낼 수 있지만, 표준화된 ITEUsv 지표는 CPU 이용률을 쓰고 주된 연산을 보조 가속기가 수행하는 서버를 명시적으로 제외한다. 따라서 AI 시설에는 가속기 점유율, 메모리와 상호연결 이용률, 완료된 작업 수, 지연 시간이나 서비스 수준 준수, 에너지 단위당 유용한 작업량 같은 워크로드 관련 지표가 필요하다. 이 지표들은 응용에 따라 다르므로 정의를 밝히지 않고 하나의 점수로 합치면 안 된다.20
9. AI와 고밀도 컴퓨팅
AI 시설은 딥러닝 학습, 모델 평가, 데이터 준비, 온라인 서비스를 운영하는 경우가 많다. 이 작업들의 가동 주기는 다르다. 대규모 학습은 많은 가속기와 네트워크 링크를 오랫동안 활성 상태로 두고, 체크포인트 저장 때 저장장치에 집중 쓰기를 일으킨다. 온라인 서비스는 지연 시간에 민감하고 부하가 변동한다. 배치 추론 실행은 일정 조정이 가능하다. 모든 AI 수요를 일정한 부하나 한 벤치마크의 프로파일로 취급하면 이 차이가 가려진다.
9.1. 랙 전력은 장비에 따라 다르다
높은 랙 밀도는 AI 데이터센터의 정의가 아니라 설계 입력이다. NVIDIA의 DGX H100 데이터센터 설계 자료는 최대 시스템 전력 10.2kW와, 이 시스템 4대를 넣은 랙 설계의 40.8kW를 제시한다. 이후 NVIDIA GB200 NVL72 랙 규모 시스템은 약 120kW로 명시되며, 액체 냉각 매니폴드와 랙 버스바를 쓴다. 이 예시는 특정 벤더 시스템의 범위일 뿐이고, AI 랙의 보편적 기준인 40kW, 100kW, 120kW를 정하지 않는다.21,22
이 예시는 장비 갱신이 전원 공급선보다 더 많은 것을 바꿀 수 있음을 보여 준다. 고전력 장비는 바닥 하중, 랙 배치, 버스웨이와 차단기 용량, 냉각 분배 장치, 배관 경로, 수온, 누수 감지, 케이블 도달 거리, 트랜시버 수, 정비 공간, 소음 조건을 바꿀 수 있다. 한 가속기 세대에 맞춘 사이트가 다음 세대에는 캠퍼스 전체 용량이 충분해 보여도 상당한 변경이 필요할 수 있다.
9.2. 클러스터 상호 의존성
긴밀하게 결합된 작업은 가장 느리거나 고장 난 작업자에 민감하다. 네트워크 혼잡, 저장장치 정체, 열 스로틀링, 불안정한 노드 하나가 훨씬 큰 할당 전체의 유용한 작업량을 줄일 수 있다. 따라서 클러스터 설계는 다음을 고려한다.
- 가속기, 호스트, 메모리, 네트워크, 저장장치 처리량의 균형
- 집합 통신 패턴과 혼잡 제어
- 체크포인트 빈도, 저장 집중 쓰기 용량, 재시작 시간
- 전기, 냉각, 네트워크, 화재 구획에 걸친 배치
- 상태 모니터링과 불안정한 하드웨어 제거
- 부분 용량이나 정비 중 스케줄러 동작
- 전력 과도 현상과 UPS, 저장장치, 제어 장치의 대응
목표는 순간 최대 가속기 할당이 아니라, 신뢰성과 서비스 제약 안에서 완료된 작업량이다. 시설의 PUE가 효율적으로 보여도 비싼 가속기가 데이터나 통신을 기다리며 놀 수 있다. 반대로 시설 부하를 늘리지 않고도 소프트웨어, 스케줄링, 모델 변경으로 유용한 처리량을 높일 수 있다.
9.3. 전력 변동과 유연성
IEA의 2026년 평가에 따르면 AI 학습과 사용은 전력을 빠르게 바꿀 수 있다. 변동의 크기와 시점은 하드웨어, 워크로드, 오케스트레이션, 전력 관리 설정에 따라 달라진다. 설계자는 단계 부하, 고조파, 전압 거동, UPS 모드, 발전기 응답, 전환에 따른 열 영향을 평가한다. 배터리나 다른 저장장치는 순간 정전 대응이나 일부 변화를 완화할 수 있지만, 백업 지속 시간, 전력 품질 지원, 피크 관리, 계통 응답은 각각 다른 용량과 제어 요건을 요구하므로 역할을 명시해야 한다.23
일부 배치 작업은 시간이나 장소를 옮기거나 줄일 수 있고, 계통 제약 때 체크포인트를 만들 수도 있다. 대화형 서비스와 긴밀히 결합된 작업은 유연성이 적을 수 있다. 수요 반응 주장은 워크로드 비율, 통지 시간, 지속 시간, 반등, 데이터 이동, 서비스 영향을 명시해야 한다. 명판 연결 용량은 전체 부하를 발전기처럼 파견할 수 있다는 증거가 아니다.
10. 에너지 사용과 전력 계통
데이터센터의 전력 사용은 빠르게 늘고 있지만 현재 측정치와 전망은 구분해야 한다. IEA는 전 세계 데이터센터 전력 소비가 2025년에 17% 늘어 약 485TWh에 이르렀다고 추산한다. IEA의 중심 전망은 2030년 이 양이 약 950TWh로 거의 두 배가 되어 전 세계 전력 수요의 약 3%에 이른다고 본다. 2030년 수치는 측정 결과나 보장된 프로젝트의 합계가 아니라 모델링된 중심 전망이다. IEA는 효율, 채택, 응용, 금융, 칩 공급, 전력 설비, 계통 연결을 불확실성의 원인으로 든다.23
성장은 지리적으로 집중된다. 전 세계 전력에서 차지하는 비중은 작아도, 프로젝트가 같은 변전소나 송전 경로 뒤에 몰리면 지역 수요는 크게 늘 수 있다. 프로젝트들은 부지와 전력을 놓고 경쟁하고, 시설은 점진적으로 채워지며, 발표된 용량이 모두 건설되는 것은 아니므로 연결 신청은 최종 부하를 과대평가할 수 있다. 계획 기관은 제안, 허가, 자금 조달, 건설 중, 전원 연결, 운영 용량을 구분해야 한다.
미국은 로렌스 버클리 국립연구소(Lawrence Berkeley National Laboratory)의 2025년 업데이트가 계획된 IT 장비 출하량, 장비 에너지, 냉각 시뮬레이션, 시설 유형과 위치에 기반한 상향식 모델을 쓴다. 2030년 기준 사례는 649TWh로 미국 전력의 11.8%이며, 복합 불확실성 범위는 521~843TWh, 즉 9.5~15.3%다. 넓은 범위도 결과의 일부다. 모델 가정과 불확실성 없이 기준 사례만 인용하면 연구가 제공하지 않는 정밀도를 암시하게 된다.24
앞선 전 세계 연구는 데이터센터 컴퓨팅이 빠르게 늘어도 서버, 저장장치, 네트워크, 가상화, 시설 효율이 개선되면서 전력 증가가 일대일로 따라가지 않았음을 보였다. 이 역사적 결과가 미래 수요가 평평하게 유지된다는 증거는 아니며, 프로젝트 파이프라인이 크다고 모든 부하가 실현되는 것도 아니다. 단일 하드웨어, 워크로드, 건설 추세를 외삽하기보다 시나리오 분석이 낫다.25
10.1. 계통 연계와 사이트 전력
대규모 신규 부하는 변전소, 송전 증설, 발전, 리드타임이 긴 장비를 요구할 수 있다. 그래서 부지 선정은 전기 요금 이상을 본다. 확정 용량과 비확정 용량, 연결 시점, 고장 전류 수준, 송전 제약, 발전원 구성, 출력 제한 조건, 백업 배출, 비용 분담, 나중에 오거나 아예 오지 않을 부하를 위해 인프라가 지어질 위험을 확인해야 한다.
미국 에너지부(DOE)는 대형 부하의 요금 설계가 증설 비용을 배분하고, 좌초 자산 위험을 다루며, 유연성에 대한 유인을 만들 수 있다고 밝힌다. 이 결정은 시설 엔지니어만이 아니라 전력회사와 규제기관의 몫이다. 현장 발전은 한 연결에 대한 의존을 줄이거나 제한된 단계를 앞당길 수 있지만, 연료 공급, 대기 배출, 소음, 물, 정비, 안전, 허가 제약을 가져온다. 자동으로 더 빠르거나, 더 싸거나, 탄소가 적거나, 계통과 독립적인 것은 아니다.26
11. 물, 배출, 자재 영향
환경 회계는 최소 네 범위를 구분해야 한다.
- 현장에서 소비하는 전기와 연료
- 냉각 등 시설에서 직접 쓰는 물
- 전기, 연료, 물 공급의 상류 영향
- 건물, 발전기, 배터리, 냉각 장비, 서버, AI 가속기, 네트워크 장비의 내재 영향
냉각에는 에너지와 물의 상충관계가 있다. 증발식 열 배출은 적합한 조건에서 전기를 줄이지만 물을 쓴다. 건식 열 배출은 직접 물 소비를 줄이지만 더 많은 전기를 쓰거나 더운 날씨에 성능이 떨어질 수 있다. 하이브리드 시스템은 기상이나 물 제약에 따라 방식을 바꾼다. 최선의 선택은 유역 여건, 계통 배출, 기후, 신뢰성, 각 영향에 부여하는 가치에 따라 달라진다.
Mytton의 데이터센터 물 소비 검토는 직접 냉각수와 전기 관련 간접 물을 함께 회계하고, 조직과 지리적 경계를 투명하게 밝힐 것을 주장한다. 전력 공급이 물 집약적이면 사이트 WUE가 낮아도 총 물 발자국이 낮다고 할 수 없다. 반대로 한 기후에서 사이트 WUE가 높다는 사실만으로는 전력과 물 공급원을 함께 보기 전에 판단할 수 없다.27
탄소 주장도 경계를 엄격히 해야 한다. 계약상 재생에너지 구매는 재생 발전을 지원하지만, 다른 발전이 한계 발전인 시간에는 시설이 지역 전력망에서 계속 전기를 끌어올 수 있다. 연간 시장기반 회계, 지역 전력망 배출, 시간별 매칭, 백업 연료 사용, 내재 배출은 서로 다른 측정값이다. 보고서는 사용한 기준을 밝혀야 하며, 시설을 단순히 '탄소 없음'이라고 표현하면 안 된다.
장비 제조와 교체도 영향이 크다. 가속기 시스템은 반도체, 메모리, 금속, 회로 기판, 냉각 장비, 전력 전자 부품으로 이루어진다. 짧은 교체 주기는 연산 단위당 성능을 높일 수 있지만 제조와 폐기 영향을 키울 수 있다. 생애주기 결론에는 장비 수만 비교하지 말고, 정해진 품질과 지연 조건에서 완료된 워크로드처럼 기능 단위를 정의해야 한다.
열 재사용은 온도, 거리, 수요 패턴이 맞을 때 다른 사용자의 에너지 수요를 줄일 수 있다. 저등급 폐열은 열펌프, 열 네트워크, 가까운 연중 수요처가 필요할 수 있다. 재사용 에너지는 계량하고, 전달이나 승온에 쓴 에너지를 빼서 보고해야 하며, 버려지는 열을 모두 유용한 열로 취급하면 안 된다.
12. 입지와 지역사회 영향
ISO/IEC 22237-2는 건물 구조와 부지 선정을 데이터센터 인프라 설계의 일부로 다루며, 환경 위험, 접근, 침입, 화재, 물, 건물 구성, 시공 품질을 포함한다. 부지 평가는 보통 다음을 검토한다.28
- 전력망과 연료 공급, 연결 위험, 리드타임이 긴 장비
- 통신사 다양성, 광섬유 경로, 지연 시간, 백본 접근
- 홍수, 산불, 지진, 강풍, 극한 기온, 대기질
- 물 공급 가능성, 수원 복원력, 배수, 유역 스트레스
- 토지, 바닥 하중, 운송, 소음, 조명, 발전기 배출, 시각 영향
- 시공과 운영 인력, 예비 부품, 비상 대응
- 세금, 허가, 용도지역, 보고, 지역사회 의무
위험은 재해 지점과의 거리만으로 파악되지 않는다. '이중' 전력 공급선이 같은 송전 회랑을 쓰거나, 두 광섬유 경로가 한 덕트로 들어오거나, 서로 다른 물 공급원이 같은 정수장에 의존할 수 있다. 실사는 상류 의존성을 따라가며 경로 다양성을 검증해야 한다.
지역사회는 인프라 비용, 소음, 물 수요, 배출, 토지 이용 변화, 공사 피해를 떠안으면서도 고용과 세금 혜택은 사업마다 다른 수준으로 받을 수 있다. 투명한 사업 설명에는 최대 및 예상 전력 수요, 물 공급원과 최대 사용량, 백업 발전, 공사 단계, 장비 채움 가정, 전력망이나 물 설비 업그레이드 비용을 누가 부담하는지가 들어가야 한다. 기밀 때문에 세부 내용을 제한할 수는 있지만, 모호한 캠퍼스 총량은 경계가 명확한 수치를 대신하지 못한다.
EU 위임규정(2024/1364)에 따라 설치 IT 전력 수요가 500kW 이상인 데이터센터 운영자는 지정된 정보와 성과 지표를 유럽 데이터베이스에 보고한다. 에너지, 물, 온도, 폐열, 재생에너지, 용량 정보가 포함되며 집계 공개 조항이 있다. 이는 해당 규정의 보고 기준이지, 대형 데이터센터에 대한 보편적 정의가 아니다.29
13. 엣지와 모듈형 시설
엣지 사이트는 중앙 집중의 이점 일부를 근접성과 맞바꾼다. 통신, 산업 제어, 콘텐츠 전송, 센서 처리, 지연에 민감한 서비스를 지원할 수 있다. 제한된 공간, 전력, 냉방, 현장 감독, 정비 접근성이 흔한 제약이다. 원격 사이트에는 견고한 모니터링, 표준화된 교체 단위, 안전한 원격 관리, 현장 방문이 필요한 장애에 대한 계획이 필요하다.
모듈형 건설은 전력, 냉방, IT 용량을 반복 가능한 단위로 묶어 단계적으로 추가한다. '모듈형'이 반드시 임시나 컨테이너형을 뜻하지는 않으며, 공장에서 만든 전기실, 냉각 스키드, 표준화된 데이터홀도 가리킬 수 있다. 병렬 시공과 검증된 반복이 장점이다. 위험은 모듈 간 인터페이스, 고정 단위로 묶여 쓰지 못하는 용량, 독점 종속, 나중에 들어온 장비가 원래 모듈의 밀도나 유체 요건을 넘는 경우다.
소규모 엣지나 모듈형 시설도 화재, 전기, 환경, 보안 분석이 필요하다. 규모가 작아 완전한 장비 이중화가 경제적이지 않으면, 서비스 복원력은 사이트 간 워크로드 복제에서 얻을 수 있다. 이 전략은 사이트들이 같은 상류 네트워크, 전력망, 소프트웨어, 관리 체계의 장애를 공유하지 않을 때만 작동한다.
14. 데이터센터 주장 평가
데이터센터 발표와 비교에는 서로 호환되지 않는 수치가 자주 섞인다. 재현 가능한 평가는 다음을 묻는다.
- 무엇이 존재하는가: 제안, 허가, 자금 조달, 건설 중, 전원 연결, 운영 중 중 어디인지 확인한다.
- 경계는 무엇인가: 캠퍼스, 건물, 전산실, 랙, IT 장비, 서비스 중 무엇인지, 공유 인프라 포함 여부를 밝힌다.
- 용량은 무엇을 뜻하는가: 계통 연결, 전기 명판, 이중화, 계약, 최대 IT 부하, 실측 수요를 구분한다.
- 어떤 워크로드를 가정하는가: 하드웨어 세대, 이용률, 가동 주기, 이중화, 최대치·평균치·시간별 에너지 중 무엇인지 밝힌다.
- 전력과 냉각은 어떻게 공급되는가: 정상 경로와 고장 경로, 제어 의존성, 연료, 물, 열 배출을 추적한다.
- 지표는 비교 가능한가: PUE, WUE, 배출, 이용률을 경계, 기간, 범주, 기후, 데이터 완전성에서 맞춘다.
- 측정과 전망은 무엇인가: 미래 에너지, 건설, 매출, 용량은 사실이 아니라 시나리오와 불확실성으로 제시한다.
- 무엇이 빠졌는가: 상류 전기와 물, 내재 장비, 지역사회 인프라, 상관된 장애 도메인을 점검한다.
이 방법은 두 가지 흔한 오류를 피하게 한다. 하나는 벤더 구성을 업계 전체의 기준으로 취급하는 것이고, 다른 하나는 프로젝트 발표를 가동 중인 용량으로 취급하는 것이다.
출처 29개
- AI Wiki: Data Center (2026-07-29 수정본) aiwiki.ai · CC BY 4.0 · 확인 2026-10-13
- data centre (AI Wiki 인용) ieclib17.iec.ch · 확인 2026-10-13
- Explaining the Uptime Institute's Tier Classification System journal.uptimeinstitute.com · 확인 2026-10-13
- ISO/IEC 22237-1:2021, Data centre facilities and infrastructures - Part 1: General concepts (AI Wiki 인용) iso.org · 확인 2026-10-13
- Luiz Andre Barroso, Urs Holzle, and Parthasarathy Ranganathan. The Datacenter as a Computer: Designing Warehouse-Scale Machines. 3rd ed., 2018 doi.org · 확인 2026-10-13
- US Department of Energy, Federal Energy Management Program. Best Practices Guide for Energy-Efficient Data Center Design. July 2024 energy.gov · 확인 2026-10-13
- ISG MEC: Multi-access Edge Computing etsi.org · 확인 2026-10-13
- Power Provisioning for a Warehouse-sized Computer research.google · 확인 2026-10-13
- Chapter 20: Data Centers and Telecommunication Facilities handbook.ashrae.org · 확인 2026-10-13
- Open Compute Project. Advanced Cooling Facilities Reference Design Guidance. 2024 opencompute.org · 확인 2026-10-13
- Jupiter Rising: A Decade of Clos Topologies and Centralized Control in Google's Datacenter Network research.google · 확인 2026-10-13
- NFPA 75: Standard for the Fire Protection of Information Technology Equipment nfpa.org · 확인 2026-10-13
- DieHard: Reliable Scheduling to Survive Correlated Failures in Cloud Data Centers research.google · 확인 2026-10-13
- Uptime Institute. Annual Outage Analysis 2025. 2025 uptimeinstitute.com · 확인 2026-10-13
- ISO/IEC 22237-6:2024, Data centre facilities and infrastructures - Part 6: Security systems (AI Wiki 인용) iso.org · 확인 2026-10-13
- National Institute of Standards and Technology. Security and Privacy Controls for Information Systems and Organizations, SP 800-53 Rev. 5. 2020 csrc.nist.gov · 확인 2026-10-13
- ISO/IEC 30134-2:2026, Data centres key performance indicators - Part 2: Power usage effectiveness (PUE (AI Wiki 인용) iso.org · 확인 2026-10-13
- ISO/IEC 30134-9:2022, Data centres key performance indicators - Part 9: Water usage effectiveness (WUE (AI Wiki 인용) iso.org · 확인 2026-10-13
- ISO/IEC 30134-6:2021, Data centres key performance indicators - Part 6: Energy Reuse Factor (ERF (AI Wiki 인용) iso.org · 확인 2026-10-13
- ISO/IEC 30134-5:2017, Data centres key performance indicators - Part 5: IT Equipment Utilization for servers (ITEUsv (AI Wiki 인용) iso.org · 확인 2026-10-13
- NVIDIA. NVIDIA DGX SuperPOD Data Center Design Featuring DGX H100 Systems. 2023 docs.nvidia.com · 확인 2026-10-13
- DGX GB200 Hardware Overview docs.nvidia.com · 확인 2026-10-13
- International Energy Agency. Key Questions on Energy and AI. 2026 iea.org · 확인 2026-10-13
- Sarah Josephine Smith et al. United States Data Center Energy Usage Report: 2025 Update. Lawrence Berkeley National Laboratory, 2026 (AI Wiki 인용) doi.org · 확인 2026-10-13
- Recalibrating global data center energy-use estimates doi.org · 확인 2026-10-13
- Electricity Rate Designs for Large Loads: Evolving Practices and Opportunities energy.gov · 확인 2026-10-13
- Data centre water consumption doi.org · 확인 2026-10-13
- ISO/IEC 22237-2:2024, Data centre facilities and infrastructures - Part 2: Building construction (AI Wiki 인용) iso.org · 확인 2026-10-13
- Commission Delegated Regulation (EU) 2024/1364 on the first phase of the establishment of a common Union rating scheme for data centres eur-lex.europa.eu · 확인 2026-10-13