RHEL AI

RHEL AI는 레드햇이 제공하는 생성형 AI 파운데이션 모델 플랫폼으로, 기업 애플리케이션을 위한 대규모 언어 모델(LLM)의 개발, 테스트, 실행을 지원합니다. 이 플랫폼은 오픈소스 Granite LLM과 InstructLab 모델 정렬 도구를 결합하여, 생성형 AI 사용 사례에 최적화된 RHEL 이미지를 제공합니다.

주요 특징 및 장점:

• 오픈소스 LLM 제공: Apache-2.0 라이선스 하에 배포된 Granite LLM을 포함하여, 투명한 학습 데이터셋과 함께 제공됩니다.
• InstructLab 통합: 커뮤니티 기반의 모델 개발 접근 방식을 통해 LLM의 기능 강화를 지원합니다.
• 클라우드 네이티브 확장성: RHEL 이미지 모드를 활용하여 컨테이너 이미지로 AI 플랫폼을 관리할 수 있어, 스케일링이 용이합니다.
• 하드웨어 가속 및 AI 도구 지원: NVIDIA, Intel, AMD 등 다양한 하드웨어 가속기를 지원하며, PyTorch와 같은 인기 있는 AI 라이브러리를 포함하고 있습니다.

RHEL AI 1.2 버전의 주요 업데이트:

• 하드웨어 지원 확대: AMD 가속기를 지원하며, Lenovo ThinkSystem SR675 V3 서버와의 호환성을 제공합니다.
• 클라우드 지원 강화: AWS와 IBM 클라우드뿐만 아니라, Google Cloud Platform(GCP)과 Microsoft Azure에서도 RHEL AI를 사용할 수 있습니다.
• InstructLab 도구 및 워크플로우 개선: 모델 미세 조정을 위한 InstructLab 워크플로우가 개선되어, 효율적인 모델 학습과 배포가 가능합니다.

RHEL AI는 오픈소스 접근 방식을 통해 비용을 절감하고 진입 장벽을 낮추며, 신뢰성과 투명성을 바탕으로 생성형 AI 혁신을 지원합니다.