Simple&Wide Simple&Wide

아니요. HBM은 메모리, SSD는 저장장치로 구분합니다. GPU까지 함께 놓고 각자의 역할을 살펴본 뒤, ‘일부 SSD도 HBM을 사용한다’는 사실이 왜 이 구분을 바꾸지 않는지 짚어보겠습니다.데이터센터 입문 시리즈HBM·SSD·GPU는 각각 무슨 역할을 하나?IBM의 AI 데이터센터 설명은 대규모 데이터 저장과 고속 메모리가 모두 필요하다고 구분합니다. SSD는 일반적으로 NAND 플래시 메모리를 사용하는 저장장치로, HBM(고대역폭 메모리)은 고성능 데이터 전송을 지원하는 메모리 아키텍처로 설명합니다. 같은 ‘메모리’라는 말이 등장하더라도 HBM과 SSD를 같은 종류의 장치로 읽어서는 안 됩니다.GPU는 또 다른 역할입니다. IBM은 AI 모델이 데이터센터 GPU에서 학습·실행된다고 설명합니다. 처..

아니요. 인근 선로의 위치는 부지까지의 인입, 설치된 광 경로, 작동이 확인된 링크와 다릅니다.가상의 부지 설명을 읽으며 각 문구가 말하는 단계와 아직 확인되지 않은 사항을 구분합니다.데이터센터 입문 시리즈가까운 광케이블이 곧 사용 가능한 연결인가?아니요. 부지 가까이에 광케이블이 있다는 말은 외부 통신망을 바로 쓸 수 있다는 뜻이 아닙니다. 선로에서 건물로 들어올 경로, 실제 연결된 광섬유, 양 끝 장비를 통한 링크 동작은 각각 따로 확인해야 합니다.데이터센터 네트워크는 서버 사이의 트래픽뿐 아니라 서버와 고객 사이의 트래픽도 다룹니다. 따라서 건물 안에 네트워크 장비가 있다는 설명과 그 부지의 외부 연결이 확인됐다는 설명도 구분해야 합니다.The Fiber Optic Association — The ..

‘시설기준’이라는 말만으로 모든 데이터센터에 적용되는 의무가 정해지지는 않습니다.시설을 설명하는 문서, 에너지 설계 가이드, 광케이블 공사 표준의 차이를 살펴보고 실제 프로젝트의 요구와 법적 적용 여부를 어디서 확인해야 하는지 구분합니다.데이터센터 입문 시리즈‘시설’의 뜻을 알면 적용 기준도 알 수 있을까?아닙니다. IBM의 데이터센터 개요는 데이터센터를 애플리케이션과 서비스를 위한 IT 인프라를 수용하고 관련 데이터를 저장·관리하는 물리적 방·건물·시설로 설명합니다. 이는 *무엇을 데이터센터라고 부르는지* 알려 주지만, 그 시설에 적용할 설계 문서나 법규를 지정하지는 않습니다. ‘시설기준’을 읽을 때는 먼저 그 문서가 어느 설비와 작업을 다루는지 봐야 합니다.IBM — What Is a Data Cen..

AI 가속기는 AI 연산을 빠르게 처리하는 하드웨어이고, GPU는 그 한 예입니다.학습된 모델과 학습·추론 작업은 하드웨어의 다른 이름이 아닙니다. 흔한 오해를 구분한 뒤, GPU가 들어간 서버와 클러스터, 데이터센터가 각각 어디까지를 가리키는지 살펴봅니다.데이터센터 입문 시리즈GPU는 AI 작업에서 무엇을 하나?AI 가속기는 머신러닝·딥러닝 등의 연산을 빠르게 처리하는 데 쓰이는 컴퓨팅 하드웨어입니다. GPU는 그 한 예로, 여러 연산을 동시에 수행할 수 있어 AI 작업에 흔한 행렬·벡터 계산과 모델의 학습·실행에 사용됩니다.가속기가 모두 GPU인 것은 아닙니다. 텐서 계산을 가속하도록 설계된 TPU와 신경망 연산을 처리하도록 설계된 NPU도 예입니다. 이들은 선택 가능한 하드웨어 유형이지, 모든 AI..

단순 회수기간은 기준안보다 더 드는 초기 비용을 가정한 연간 순절감액으로 메우는 데 걸리는 시간이다.가상의 개선안을 계산해 보고, 그 결과가 보장된 회수 시점이나 전체 사용기간의 비용 판단을 뜻하지는 않는 이유를 살펴본다.데이터센터 입문 시리즈회수기간을 계산하기 전에 무엇을 같게 놓아야 하나?단순 회수기간의 계산식은 ‘기준안 대비 추가 초기 비용(원) ÷ 양(+)의 연간 순절감액(원/년) = 회수기간(년)’이다. 순절감액이 매년 같다는 가정 아래, 추가로 쓴 돈을 절감액으로 메우는 데 걸리는 시간을 나타낸다. 특정 사업의 결과를 예측하는 공식은 아니다.먼저 기준안과 개선안이 제공할 IT 작업과 필요한 신뢰성 조건을 정해야 한다. 조건이 다르면 서비스 수준의 변화를 효율 개선에 따른 절감액으로 잘못 읽을 ..

CDU라는 이름만으로 IT 장비와 시설 냉각 계통을 연결할 수 있다고 판단해서는 안 됩니다.가상의 콜드플레이트 제안을 통해 양쪽 경계에서 필요한 자료를 결정표에 나누어 적고, 무엇이 확인돼야 선택하거나 제외할 수 있는지 살펴봅니다.데이터센터 심화 시리즈CDU에서 구분해야 할 두 경계는 무엇인가?CDU를 검토할 때는 시설 냉각 루프와의 접속 조건, 그리고 IT 장비에 공급할 냉각액의 조건을 별개로 확인해야 합니다. 미국 에너지부(DOE)의 『Best Practices Guide for Energy-Efficient Data Center Design』는 많은 액체냉각 방식에서 CDU가 시설 냉각 루프에 접속하고, IT 장비에 적절한 온도·압력·화학 조건의 냉각액을 공급한다고 설명합니다. 이 역할 설명은 특정..

저장 장소를 정해도 문서를 누가 볼 수 있는지, 언제까지 남길지, 누가 관리할지는 정해지지 않습니다.가상의 팀 공유 문서를 따라 저장 위치와 접근·보관·책임 결정을 나눠 살펴봅니다.데이터센터 입문 시리즈저장 장소를 정하면 문서 관리도 끝날까?아닙니다. 가상의 프로젝트팀이 회의 초안을 함께 작성한다고 해 봅시다. 사내 공유 저장소와 외부 클라우드 파일 저장소는 모두 검토할 수 있는 저장 방식입니다. 여기서는 **외부 클라우드 저장소를 선택했다고 가정**하고, 그다음에 남는 결정을 따라가겠습니다. 이는 특정 방식의 권장이 아닙니다.시설의 물리적 출입 통제는 문서의 열람 권한과도 다른 문제입니다. 데이터센터 건물에 출입 통제가 있더라도 누가 이 초안을 읽을지, 작업 후 언제까지 보관할지는 별도로 정해야 합니다..

알람은 상태를 확인하라는 표시이지 고장 원인을 확정한 진단이 아닙니다.측정값이 가리키는 위치, 화면에 표시된 상태, 아직 확인되지 않은 원인을 가상의 온도 알람으로 나누어 봅니다.데이터센터 입문 시리즈알람과 측정값은 무엇이 다른가?측정값을 읽으려면 먼저 무엇을 어디서 측정했는지 알아야 합니다. 미국 에너지부(DOE)의 「Best Practices Guide for Energy-Efficient Data Center Design」은 IT 장비 흡입구의 온도·습도와 각 CRAC·CRAH 냉각 장치의 공급 공기 온도·습도를 서로 다른 위치의 감시 대상으로 설명합니다. 흡입구 온도는 실내 전체의 온도도, 냉각 장치 공급 공기의 온도도 아닙니다.알람은 운영 화면에서 확인할 상태를 알려 주는 표시로 읽는 편이 정확..