전 세계적으로 증가하는 KI-재센터

전 세계적으로 인공지능(KI) 재센터가 증가하고 있으며, 이는 미국이나 중국뿐만 아니라 유럽과 독일에서도 발생하고 있다. OpenAI, Meta, xAI 및 Microsoft와 같은 기업들은 매년 최대 1조 미국 달러를 투자하고 있다. 이는 1,000억 달러를 초과하는 금액이다.

이 새로운 KI 시설들이 기존의 재센터와 어떻게 다른지를 설명하며, KI 랙이 현재 최대 160킬로와트를 소모하는 이유와 일반적인 서버 캐비닛이 5에서 15킬로와트 사이에 있는 이유를 다룬다. 이번 주 c't uplink 팟캐스트에서, 두 명의 c't 편집자는 Nvidia, AMD, Google 및 Amazon이 어떻게 가속기를 구축하는지에 대해 이야기하며, 칩렛과 고대역폭 메모리가 어떤 기능을 하는지, 데이터 전송이 실제 계산보다 더 많은 에너지를 요구하는 이유를 논의한다.

칩 아키텍처뿐만 아니라 건물의 구조도 중요하며, 이는 미국과 유럽의 인구 밀도가 높은 지역 간에 큰 차이를 보인다.

마지막으로, 많은 계산 능력이 필요한 곳에서 발생하는 엄청난 열 문제도 다룬다. 두 편집자는 KI 재센터의 환경적 영향을 논의하며, 현재의 높은 물 소비를 반드시 유지할 필요가 있는지, 그리고 지구가 Elon Musk 등의 비전을 실현할 수 있는 충분한 자원을 가지고 있는지를 질문한다.