Cisco UCS X-시리즈 M7 블레이드 서버/5세대 인텔 제온 프로세서를 사용한 생성 AI 추론

설명

인텔® 제온® 스케일러블 프로세서 및 Cisco Nexus®를 탑재한 Cisco UCS® 기반 솔루션은 생성형 AI를 대규모로 구축하기 위한 강력하고 확장 가능한 기반을 제공합니다. 이 아키텍처는 다음과 같은 조합을 제공합니다.

• 최적의 성능: 전문화된 AI 가속기와 최적화된 소프트웨어 프레임워크를 갖춘 인텔 제온 스케일러블 프로세서가 포함된 Cisco UCS는 추론 성능과 확장성을 크게 향상시킵니다. Cisco Nexus 9000 스위치는 AI/ML 애플리케이션의 까다로운 네트워킹 요구 사항을 충족하기 위해 높은 대역폭, 낮은 대기 시간, 혼잡 관리 메커니즘 및 원격 측정을 제공합니다.
• 균형 잡힌 아키텍처: Cisco UCS는 딥 러닝 및 비딥 러닝 컴퓨팅 모두에서 탁월하며, 이는 전체 추론 파이프라인에 매우 중요합니다. 이러한 균형 잡힌 접근 방식은 전반적인 성능과 리소스 활용도를 향상시킵니다.
• 온디맨드 확장성: Cisco UCS는 제너레이티브 AI 추론 요구 사항에 따라 원활하게 확장됩니다. Cisco Intersight®를 사용하여 모델이 발전하고 워크로드가 증가함에 따라 서버를 추가 또는 제거하고, 메모리 용량을 조정하고, 자동화된 방식으로 리소스를 구성할 수 있습니다.

Cisco UCS X-시리즈 모듈형 시스템과 C240 및 C220 랙 서버는 5세대 인텔 제온 스케일러블 프로세서를 지원하므로 모듈형 또는 랙 폼 팩터를 사용하여 데이터 센터 또는 에지에서 추론을 실행할 수 있습니다.