FPGAi
맞춤형 솔루션의 AI 지원을 가속화하십시오. FPGAi가 맞춤형 솔루션에 AI를 지원 및 배포하여 지속적인 혁신에 필요한 짧은 대기 시간, 에너지 효율성 및 민첩성을 달성하는 방법을 알아보십시오.
Altera FPGA로 AI의 새로운 시대 선도
FPGAs과 AI의 융합은 단순한 진화가 아니라 혁명입니다.
Altera는 고성능 및 AI 주입 FPGA 패브릭으로 FPGAi의 새로운 시대를 제공합니다. 긴밀하게 통합된 프로그래밍 가능한 로직과 AI는 실시간 데이터 적응과 자율적인 의사 결정을 가능하게 하여 시스템이 차세대 복잡성을 달성할 수 있도록 합니다.
AI를 FPGAs 하는 이유
AI 워크로드는 점점 더 복잡하고 까다로워지고 있으므로 AI 가속에 적합한 하드웨어를 선택하는 것이 중요합니다. FPGAs가 어떻게 AI 응용 프로그램을 위한 강력하고 유연한 솔루션을 제공할 수 있는지 알아보십시오.
FPGA가 에지 AI 및 머신 러닝 응용 프로그램을 구현하는 데 적합한 이유
에지 및 맞춤형 AI 응용 프로그램의 새로운 FPGA 기반 AI 추론 사용 사례와 에지 FPGA AI를 위한 인텔의 소프트웨어 및 하드웨어 솔루션에 대해 알아보십시오.
딥 러닝을 위한 FPGA와 GPU
모든 머신 러닝 및 딥 러닝 응용 프로그램에 적합한 단일 아키텍처는 없지만, FPGA는 GPU 및 기타 유형의 하드웨어에 비해 뚜렷한 이점을 제공할 수 있습니다.
FPGA 추론을 위한 양자화된 뉴럴 네트워크
뉴럴 네트워크를 위한 저정밀 양자화는 동일한 설치 공간에서 더 많은 처리량을 제공하거나 리소스 사용량을 줄여 AI 응용 프로그램 사양을 지원합니다.
에지에서 AI를 가속하는 파트너
이 비디오를 시청하여 Altera의 파트너가 FPGA에서 AI 워크로드를 가속하는 데 어떤 도움을 줄 수 있는지 알아보십시오.
FPGAi 응용 프로그램
에지 AI
FPGAs는 다양한 산업, 의료, 테스트 및 측정, 항공 우주, 방위 및 방송 응용 분야의 에지 AI에 특히 적합합니다. 통합 Arm 프로세서, Nios® V 소프트 프로세서 및 에지에서 다양한 데이터를 지원하는 다양한 IO 프로토콜과 결정론적 짧은 대기 시간, 낮은 전력 및 수명은 에지에서 FPGAs 추가적인 이점을 제공합니다.
GenAI 또는 사용자 지정
Agilex™ 7 FPGA M-시리즈는 사용자 지정 트랜스포머 기반 LLM 추론에 사용할 수 있으며, 성능과 크기 면에서 GPU를 능가합니다.
820GBps에서 32GB HBM2E와 224GBps에서 최대 512GB DDR5를 제공하므로 LLM 및 KV 캐시에 이상적입니다. 고속 SERDES(116Gbps), 800GbE 지원 및 PCIe 5.0(64GBps)은 빠른 확장과 데이터 전송을 보장합니다. 장치의 가변 정밀 DSP는 FP16, bfloat16 및 INT8과 같은 AI 추론 친화적 형식을 지원합니다. Hyperflex™ 아키텍처는 빠른 AI 추론을 위해 500MHz+ 작동을 가능하게 합니다.
AI 부착
800GbE를 지원하는 AI 클러스터 제작자를 위한 맞춤형 솔루션을 FPGA AI NIC 역할을 하는 FPGAs 통해 훈련 또는 추론 중에 GPU의 데이터 수집 지터 및 네트워크 혼잡을 줄일 수 있습니다. 스케일 인 및 스케일 아웃을 위한 사용자 지정 및 개방 표준 옵션이 지원됩니다.
FPGAs는 AI 훈련 또는 추론에 효율적으로 사용할 수 있도록 데이터의 형식을 지정하고 필터링하는 AI 전처리에 적합합니다.
FPGAs는 빠른 데이터 검색을 위해 사설 엔터프라이즈 데이터베이스를 가속화할 수 있습니다.
솔루션 기능: 고성능 FPGA
89 INT8 TOPS를 갖춘 Agilex™ 7 FPGA M-시리즈, 인패키지 HBM2e 메모리 용량(32GB 및 820Gbps 대역폭) 및 강화된 DDR5/LPDDR5 메모리 컨트롤러(5600MBP 지원)는 생성형 AI LLM 기반 트랜스포머 모델과 같은 메모리 바운드 AI 모델의 병목 현상을 완화합니다.
최대 56개의 INT8 TOPS를 갖춘 Agilex™ 5 FPGA 장치는 더 높은 컴퓨팅 밀도를 위해 AI 텐서 블록이 주입된 최초의 FPGA 패브릭을 특징으로 합니다. 텐서 블록은 한 클럭 사이클에서 20개의 BlockFP16 또는 INT8 곱셈 누적을 수행할 수 있으므로 Agilex FPGA 포트폴리오의 다른 장치에 비해 컴퓨팅 밀도가 5배 증가합니다.
개발자 유용성: FPGA 리소스에 대한 원활한 사전 학습된 모델 변환 및 자동 최적화
FPGA AI Suite는 OpenVINO를 사용하여 사전 학습된 모델을 AI 추론 IP로 푸시 버튼 변환을 제공합니다. 이 제품군의 자동 최적화 도구는 AI 모델의 최적 구현을 위해 설계 공간을 스윕합니다.
FPGA AI Suite IP의 소프트웨어 에뮬레이션은 OpenVINO 플러그인 인터페이스를 통해 액세스할 수 있으므로 하드웨어 없이도 FPGA AI IP의 정확도를 빠르게 평가할 수 있습니다(Agilex™ 5 FPGA에서만 사용 가능).
FPGA AI Suite는 Quartus® Prime 디자인 소프트웨어와 플랫폼 디자이너를 통합하여 AI 추론 IP의 통합을 간소화합니다.
애플리케이션 민첩성: 지속적인 혁신 지원
엔지니어는 장치1 재프로그래밍 기능, 확장된 제품 수명 주기 및 지속적인 혁신과 적응을 가능하게 하는 다양한 I/O 옵션을 사용하여 기술의 최첨단을 유지하기 위한 FPGAs AI 솔루션을 만들고 발전시킬 수 있습니다.
FPGAs 본질적으로 AI에 적합합니다. FPGAs 수천 개의 DSP 블록, 메모리 계층 구조 및 광범위한 I/O 지원을 통해 처음부터 설계를 맞춤화하고 AI 네트워크를 구성하여 최적의 성능을 달성할 수 있습니다.
전력 효율적인 TinyML에서 에지의 중대형 모델, 데이터 센터의 GenAI LLM Transformer 모델에 이르기까지 다양한 크기의 AI 모델을 효율적으로 구현할 수 있습니다.
