생성형 AI 변곡점 탐색
2026 년까지 기업의 80% 가 생성형 AI 를 사용할 것이며,1 다른 많은 조직과 마찬가지로 귀사의 조직도 이 새로운 기술을 사용하여 가치와 기회를 포착하기 위해 경쟁하고 있을 것입니다. 모든 AI 이니셔티브의 중심에는 모델 그 자체가 있습니다. 엔터프라이즈 조직은 해당 비즈니스 특유의 특정 AI 기능을 빠르고 비용 효율적으로 지원해야 합니다.
오늘날 엔터프라이즈 조직은 사용자 지정된 생성형 AI 기능을 지원하는 데 두 가지 주요 방법에 의존합니다. 추가 훈련을 통해 범용 기본 모델을 미세 조정하도록 선택할 수 있습니다. 또는 기본 모델을 특정 데이터 세트와 연결하여 사용자 지정된 출력을 용이하게 하는 검색 증강 생성 (RAG) 이라는 기술을 구현할 수 있습니다.
검색 증강 생성과 모델 미세 조정 비교
RAG 와 미세 조정은 모두 사용자 지정된 AI 기능으로 가는 여정의 속도를 높이지만, 그 방식이 서로 다릅니다.
미세 조정 방법에서 조직은 고유한 데이터 세트를 사용하여 기성 모델을 다룹니다. 기본 모델은 출발점을 제공하는데, 이는 팀이 맨 처음부터 빌드하는 데 필요한 많은 시간과 데이터가 필요하지 않다는 것을 의미합니다. 미세 조정의 처리 요구는 처음부터 훈련하는 것보다 덜 까다로우므로, 선택한 기본 모델을 미세 조정하기 위해 무거운 컴퓨팅(예: GPU 클러스터)이 필요하지 않을 가능성이 높습니다.
한편, RAG 는 모델을 고유한 독점 데이터베이스의 관련 데이터와 연결하여, 조직 고유의 최신 정보를 얻고 분석합니다. 이 추가 컨텍스트는 미세 조정과 같은 최종 결과를 알려주며, 엔터프라이즈 조직이 필요로 하는 매우 구체적인 결과를 가져옵니다. 중요한 점은, RAG 패러다임에 따른 모델의 미세 조정 및 추가 학습이 이루어지지 않았다는 것입니다. 대신, 검색 메커니즘을 통해 필수 지식 베이스와 연결됩니다.
두 가지 접근 방식 모두 뚜렷한 이점을 제공합니다. 매우 효과적인 RAG 기반 구현은 미세 조정보다 더 가벼운 하드웨어로 이룰 수 있습니다. 또한 RAG 는 환각의 위험을 줄이고, 출력의 출처를 제공하여 설명 가능성을 개선할 수 있으며, 민감한 정보를 사설 데이터베이스에 안전하게 보관할 수 있기 때문에 보안 이점을 제공합니다.
이러한 접근 방식도 함께 사용할 수 있다는 점을 기억하는 것이 중요합니다. RAG 에 대한 자세한 내용은 다음의 가이드를 확인하십시오.
- RAG 란 무엇입니까?: RAG 의 작동 방식을 알아보고 RAG 구현의 필수 요소를 살펴보십시오.
- RAG 구현 방법: 지식 베이스 생성을 위한 팁을 포함하여 RAG 접근 방식을 사용하는 방법에 대한 단계별 지침을 확인하십시오.
공통 기반 모델 살펴보기
RAG 와 모델 미세 조정은 모두 기본 모델을 핵심 요소로 사용합니다. 비즈니스에 사용할 수 있는 기성 기본 모델이 계속 늘어나고 있는 가운데, 다음 여섯 가지는 오늘날 가장 강력하고 인기 있는 오퍼링 중 일부입니다.
- TII(Technology Innovation Institute) Falcon LLM
- MosaicML MPT
- Hugging Face BLOOM
- Stability AI Stable Diffusion
- Databricks 의 Dolly
- Meta AI Llama 3
- Mistral AI 모델
이러한 기본 모델을 토대로 한 엔터프라이즈 생성형 AI 솔루션을 기반으로 하여, 조직의 AI 투자에 대한 가치 창출 시간을 크게 단축할 수 있습니다.
물론, 모델을 선택하는 것은 요구 사항과 비즈니스 현실에 크게 의존하는 복잡한 프로세스입니다. 실습 실험은 이러한 기성 오퍼링에 익숙해지는 가장 좋은 방법 중 하나입니다. 이러한 여섯 가지 모델 모두 팀이 인텔® Tiber™ 개발자 클라우드를 통해 평가할 수 있습니다.
하드웨어 추천
일반적으로 기성 모델을 사용자 지정하는 것이 모델을 처음부터 훈련하는 것보다 컴퓨팅 성능을 더 적게 필요로 합니다. 필요에 따라, 조직이 이미 소유한 범용 하드웨어를 통해 필수 워크로드를 실행할 수도 있습니다. 또는 더 까다로운 워크로드를 처리하기 위해 특화된 AI 하드웨어를 선택할 수도 있습니다. RAG 의 경우, 처리량 및 대기 시간 요구 사항에 따라 하드웨어 유형 중에서 선택할 가능성이 높습니다. 인텔은 전체 범위의 사용자 지정 요구 사항에 대한 가속화된 AI 하드웨어를 제공합니다.
- 대규모 전용 AI 미세 조정(< 1T 매개 변수) 및 높은 처리량, 짧은 대기 시간 RAG: 인텔® Gaudi® AI 가속기
- 범용 미세 조정(< 10B 매개 변수) 및 일반 RAG 응용 프로그램: 내장 AI 엔진을 갖춘 인텔® 제온® 프로세서
미세 조정된 모델을 배포할 때, 최신 인텔® 제온® 프로세서 및 인텔® Gaudi® AI 가속기는 비용 효율적인 추론을 지원하는 최적화된 배포 플랫폼을 제공합니다.
귀하와 팀은 인텔® Tiber™ 개발자 클라우드를 통해 다양한 하드웨어 유형에서 전체 AI 파이프라인의 성능을 테스트할 수 있습니다.
소프트웨어 툴
두 가지 사용자 지정 접근 방식 모두에서 소프트웨어 도구 및 개발 리소스는 개발과 배포에서 필수적인 역할을 합니다. 적절한 도구가 없으면, 배포 과정, 특히 이기종 하드웨어 조합을 처리할 때 긴 개발 시간과 골칫거리에 직면할 수 있습니다.
인텔은 이러한 과제를 해결하기 위해 AI 를 위한 엔드투엔드 개발 포트폴리오를 제공합니다. 리소스 및 도구 컬렉션은 최적화된 결과로 생성형 AI 를 구축, 확장 및 배포하는 데 도움이 될 수 있습니다.
예를 들어, 최적화된 PyTorch 라이브러리를 통해 몇 줄의 코드만으로 PyTorch 를 위한 가장 최신 인텔® 소프트웨어 및 하드웨어 최적화를 활용할 수 있습니다.
RAG 접근 방식을 통해 사용자 지정을 추구할 때, LangChain, LLamaIndex, IntelLab의 fastRAG 과 같은 통합 RAG 프레임워크는 노력을 간소화하고 가속화할 수 있습니다. RAG 프레임워크는 파이프라인 전반에서 AI 툴체인을 통합하고 실제 사용 사례를 위한 템플릿 기반 솔루션을 제공하도록 지원합니다.
인텔은 인텔® 하드웨어에서 전반적인 파이프라인 성능을 극대화하는 데 도움이 되는 최적화를 제공합니다. 예를 들어, fastRAG 는 인텔® Extension for PyTorch 및 Optimum Habana 를 통합하여 인텔® 제온® 프로세서 및 인텔® Gaudi® AI 가속기에서 RAG 응용 프로그램을 최적화합니다.
한편, OpenVINO™ 툴킷은 배포에서 필수적인 역할을 합니다. 더 낮은 대기 시간과 더 높은 처리량으로 AI 추론을 가속하는 동시에 정확성을 유지하고, 모델 설치 공간을 줄이며, 하드웨어 사용을 최적화하는 오픈 소스 툴킷입니다. 툴킷은 생성형 AI 뿐만 아니라 컴퓨터 비전 및 대규모 언어 모델에서 AI 개발 및 딥 러닝의 통합을 간소화합니다.
RAG 응용 프로그램의 경우, 하드웨어 리소스에서 LLM 추론을 극대화하는 데 도움이 되는 여러 최적화 라이브러리를 제공합니다. 인텔® oneAPI 라이브러리는 PyTorch 및 TensorFlow 를 포함한 인기 있는 AI 프레임워크를 위한 저수준 최적화를 제공하므로, 인텔® 하드웨어에 최적화된 익숙한 오픈 소스 도구를 사용할 수 있습니다.
이 문서와 다른 여러 문서에서 강조된 인텔® 소프트웨어 리소스를 인텔® Tiber™ 개발자 클라우드를 통해 사용해 볼 수 있습니다.
생성형 AI 프로젝트를 위해 엄선된 지원 리소스 컬렉션에 대해 생성형 AI 개발 페이지를 참조할 수도 있습니다.
엔터프라이즈 AI 에 더 간단한 과정 차트 작성
모델 사용자 지정 및 개념 증명부터 배포에 이르기까지 생성형 AI 이니셔티브를 진행하면서, 인텔의 도구 및 기술과 글로벌 파트너 생태계로 효율성을 최적화하고 혁신을 가속할 수 있습니다.
AI 플랫폼에 인텔을 선택하면, 이미 보유한 인프라의 가치를 극대화하는 동시에 미래의 성공을 유지하는 데 필요한 개방성과 상호 운용성을 보장할 수 있습니다. 신뢰성 및 관리 효율성에 대한 인텔의 투자는 파이프라인 전반에서 더 원활하고 간단한 AI 운영을 제공하는 데 도움이 됩니다. 개방형 플랫폼과 고성능의 저비용 하드웨어는 대규모의 생성형 AI 를 지원하는 데 필요한 유연하고 효율적인 배포를 허용합니다.
엔터프라이즈 AI 를 위한 Linux Foundation 오픈 플랫폼의 일환으로, 인텔은 생성형 AI 기술 및 워크플로우를 효율적으로 통합하고, 더 빠른 채택을 지원하며, 협업 개발을 통해 비즈니스 가치를 강화하는 생태계 오케스트레이션 프레임워크를 개발하기 위해 노력하고 있습니다. 귀사의 이니셔티브를 가속화하는 데 도움이 될 수 있는 생성형 AI 아키텍처 세트를 포함하고 있습니다.
생성형 AI 모델 사용자 정의, 지금 인텔에서 시작하십시오
생성형 AI 는 제조부터 의료, 소매 및 그 이상의 거의 모든 산업 전반에서 엔터프라이즈 조직에 큰 변화를 가져올 것입니다.
조직 및 AI 응용 프로그램에 필요한 고유한 AI 기능을 지원하려는 경우, 미세 조정 및 RAG 는 더 빠르게 시장과 ROI 에 훌륭한 경로를 제공합니다. 오늘날의 주요 기본 모델과 특별 목적을 위해 설계된 인텔® AI 포트폴리오를 함께 사용하면, 조직을 위한 생성형 AI 성공을 단순화, 간소화 및 가속화할 수 있습니다.