엔비디아 GTC 2024 요약 정리 : 블랙웰, NIMS, 옴니버스 클라우드,프로젝트 그루트

 

Nvidia는 GTC 2024에서 AI(학습 및 추론)를 기반으로 개발되는

 

모든 것에 대한 독점적인 영향력을 유지하기 위한 전략을 선명제시함

 

 

1. 차세대 AI 칩 'Blackwell'

• LLM과 생성형 AI에 최적화
• Hopper 대비 학습 2.5배, 추론 5배 향상

 

블랙웰

1. 트랜지스터 수 및 성능:

• 블랙웰: 2080억 개 (호퍼 대비 1280억 개 증가)
• FP8 기준 성능: 20 페타플롭스 (호퍼 대비 2.5배 향상)
• FP4 기준 성능: 40 페타플롭스 (호퍼 대비 5배 향상)

2. 메모리:

• 블랙웰: 192GB HBM3e (호퍼 대비 2배 증가)
• 메모리 대역폭: 8TB/s (호퍼 대비 2배 증가)

3. 주요 특징:

• 2세대 트랜스포머 엔진: FP4/FP6 연산 지원
• 향상된 NV링크: 1.8TB/s 대역폭 (호퍼 대비 2배 향상)
• RAS 엔진 탑재: 신뢰성 및 무결성 향상
• DGX GB200 NVL72 시스템: 엑사플롭스 급 AI 시스템 구현 가능

4. 활용 분야:

• LLM (대형 언어 모델)
• 생성형 AI
• 엔지니어링 시뮬레이션
• 클라우드 컴퓨팅

5. 출시 시기 및 파트너:

• 블랙웰 기반 제품: 2024년 말 출시 예정
• 파트너: AWS, 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드 등
• 엔지니어링 시뮬레이션: 앤시스, 케이던스, 시놉시스 등

6. 생성형 AI 마이크로서비스:

• 쿠다 플랫폼 기반 풀 스택 구성 및 사전 훈련된 모델 제공
• NIM 마이크로서비스: 엔비디아, A121, 어뎁트, 코히어, 게티이미지, 셔터스톡 모델 및 구글, 허깅페이스, 메타, 마이크로소프트, 미스트랄 AI, 스태빌리티 AI 의 오픈 모델 배포 가능
• 업계 표준 API 제공
• 개발자의 자체 인프라에서 안전하게 호스팅되는 독점 데이터 사용 가능

 

2. NIMS (Nvidia Inference Microservices)

• 오픈소스 사전 학습/최적화된 AI 모델 패키지
• CUDA 기반 작동 및 Nvidia 하드웨어 연동
• 'AI Foundry'로서의 Nvidia 입지 강화

 

엔비디아는 수십 개의 엔터프라이즈용 생성형 AI 마이크로서비스를 출시했습니다.

이를 통해 기업들은 다음과 같은 이점을 얻을 수 있습니다.

• 지적 재산에 대한 소유권과 통제권 유지: 기업들은 자체 플랫폼에서 맞춤형 애플리케이션을 생성하고 배포할 수 있습니다.
• 표준화된 경로를 통한 맞춤형 AI 모델 실행: 모델 개발자, 플랫폼 제공업체, 기업 AI 생태계는 표준화된 경로를 통해 맞춤형 AI 모델을 실행할 수 있습니다.
• 다양한 기능 제공: 엔비디아 NIM 마이크로서비스는 다음과 같은 다양한 기능을 제공합니다.
  • 추론 최적화: 24개 이상의 인기 AI 모델에 대한 추론 최적화를 지원합니다.
  • 검색 증강 생성(RAG), 가드레일, 데이터 처리, HPC 등을 위한 엔비디아 가속 소프트웨어 개발 키트, 라이브러리, 툴
  • 의료용 NIM과 쿠다-X 마이크로서비스: 24개 이상의 의료용 NIM과 쿠다-X 마이크로서비스 제공

주요 파트너

• 어도비(Adobe)
• 케이던스(Cadence)
• 크라우드스트라이크(CrowdStrike)
• 게티이미지(Getty Images)
• SAP
• 서비스나우(ServiceNow)
• 셔터스톡(Shutterstock)

 

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang) 발언

"기존 엔터프라이즈 플랫폼은 생성형 AI 코파일럿으로 전환할 수 있는 풍부한 데이터를 가지고 있다. 파트너 에코시스템과 함께 구축된 이러한 컨테이너화된 AI 마이크로서비스는 모든 산업 분야 기업들이 AI 기업으로 거듭나기 위한 기본 요소이다."

 

3. Omniverse Cloud

• 3D 디자인과 연계된 개발자 작업 개선
• Nvidia의 로보틱스 플랫폼 핵심 요소

엔비디아는 GTC 2024에서 옴니버스 클라우드 API를 출시하여

소프트웨어 제조업체의 전체 에코시스템에 걸쳐

산업용 디지털 트윈 애플리케이션과 워크플로우 제작을 위한

세계 최고의 플랫폼의 범위를 확장한다고 발표했습니다.

 

개발자는 다음과 같은 다섯 개의 새로운 옴니버스 클라우드 API를 사용하여 핵심 옴니버스 기술을 직접 쉽게 통합할 수 있습니다.

• 디지털 트윈: 기존 설계 및 자동화 소프트웨어 애플리케이션에 디지털 트윈 기능을 추가합니다.
• 시뮬레이션: 로봇이나 자율 주행 차량과 같은 자율 머신의 테스트 및 검증을 위한 시뮬레이션 워크플로우를 만듭니다.
• RTX 렌더링: 사실적인 시각적 경험을 제공합니다.
• Isaac: 로봇 제어 및 시뮬레이션을 위한 강력한 플랫폼을 제공합니다.
• DRIVE: 자율 주행 차량 개발을 위한 맞춤형 플랫폼을 제공합니다.

세계 최대 규모의 산업용 소프트웨어 제조업체들 중 일부는 이미 소프트웨어 포트폴리오에 옴니버스 클라우드 API를 도입하고 있습니다.

• 앤시스 (Ansys)
• 케이던스 (Cadence)
• 다쏘시스템 (Dassault Systèmes)의 3D익사이트 (3DEXCITE)
• 헥사곤 (Hexagon)
• 마이크로소프트 (Microsoft)
• 로크웰 오토메이션 (Rockwell Automation)
• 지멘스 (Siemens)
• 트림블 (Trimble)

엔비디아의 창립자 겸 CEO인 젠슨 황은 "제조되는 모든 제품에는 디지털 트윈이 적용될 것"이라며 "옴니버스는 물리적으로 사실적인 디지털 트윈을 구축하고 운영하기 위한 운영체제"라고 말했습니다. 이어 "옴니버스와 생성형 AI는 50조 달러 규모의 중공업 시장을 디지털화하기 위한 기반 기술"이라고 강조했습니다.

 

주요 파트너 및 고객의 옴니버스 클라우드 API 활용 사례:

• 지멘스: 엔비디아 옴니버스 API를 통해 고객이 물리 기반 디지털 트윈을 더욱 몰입감 있게 만들 수 있도록 생성형 AI를 지원합니다.
• 삼성전자: 이번 GTC 2024에서 옴니버스 기반의 반도체 공장 디지털 트윈을 소개합니다.

 

4. Project Gr00t 와 로보틱스

• 휴머노이드 로봇 학습을 위한 시뮬레이션 기반 기초 모델
• 로봇 개발의 새로운 가능성 열어

 

엔비디아는 이족보행 휴머노이드 로봇을 위한 파운데이션 모델 "프로젝트 그루트"를 발표하며 AI 로봇 시장에 진출했습니다.

 

프로젝트 그루트:

• 목표: 일반 휴머노이드 로봇을 위한 기초 모델 구축
• 핵심 기술:
  • 자연어 이해
  • 인간 행동 관찰 및 모방
  • 범용 기반 모델
  • 텍스트, 음성, 비디오, 실시간 데모 입력 가능
  • 일반 동작 생성
• 주요 특징:
  • 휴머노이드 로봇 성능 향상
  • 개발 및 배포 간소화
  • 텍스트와 데모 기반 프로그래밍 가능

젯슨 토르:

• 프로젝트 그루트의 일환으로 공개된 휴머노이드 로봇용 컴퓨터
• 주요 특징:
  • 모듈식 아키텍처
  • 800테라플롭스 AI 성능
  • 트랜스포머 엔진
  • 차세대 블랙웰 GPU

아이작 플랫폼:

• 산업용 로봇용 사전 훈련된 AI 모델, 라이브러리, 참조 하드웨어 모음
• 주요 구성 요소:
  • 아이작 매니퓰레이터: 로봇 팔 제어 및 조작
  • 아이작 프리셉터: 로봇 시각 및 인식

새로운 기능:

• 아이작 플랫폼에 기본 모델 생성 도구 통합
  • 로봇 작업 자동화 경로 지정 및 인식 속도 최대 80배 향상
  • 다중 카메라 및 3D 서라운드 비전 기능
  • 구조화되지 않은 환경에서 로봇 안내 작업 지원

출시 일정:

• 새로운 아이작 플랫폼 기능: 2024년 2분기 출시 예정
• 프로젝트 그루트: 현재 초기 액세스 상태, 출시 일정 불분명