정보광장

  • 공지사항
  • 게시판
  • 자료실
  • 질의응답
  • 이의불만처리
  • 석회산업카달로그
  • 생석회표준원가
  • 자료실

Dynamic Lime Industry

 

질의응답 홈 > 정보광장 > 질의응답
제목 GPU를 나눠 사용해 AI 개발한다
작성자 근육맨 작성일시 2024-12-28 16:07 조회수 27
내용 울산이삿짐센터롯데이노베이트가 클라우드 서비스를 기반으로 그래픽처리장치(GPU)를 효율적으로 사용해 인공지능(AI) 서비스를 개발하는 '인피디아 스튜디오(INFIDEA Studio)'를 내놨다.

27일 롯데이노베이트에 따르면, 인피디아 스튜디오는 하나의 GPU를 여러개의 섹터로 나눠 효율적으로 운용함으로써 비용을 절감할 수 있다.

울산이사짐센터또한 이 플랫폼은 AI 모델의 개발부터 배포, 그리고 추론까지의 모든 과정을 지원하는 머신러닝운영(MLOps)을 지향한다. 이와함께 개발에 필요한 주피터랩(JupyterLab) 등 다양한 작업 도구를 '웹 브라우저(Web UI)'기반으로 제공해 편의를 돕는다.

인피디아 스튜디오는 엔비디아의 멀티 인스턴스 GPU(MIG) 기술을 활용해, 하나의 GPU를 여러 개의 작은 단위로 나누어 사용할 수 있도록 했다. 이를 통해 관리자는 GPU의 사용률을 극대화하고, CPU와 RAM의 성능도 설정하는 등 다양한 컴퓨팅 리소스 프리셋을 구성할 수 있어 한정된 자원을 최적화할 수 있다. 또한 중요한 프로젝트에 필요한 자원을 우선적으로 할당할 수 있다.

광주이사또 스토리지 기능을 통해 대규모 데이터 처리에 적합한 GPU 다이렉트 스토리지(GDS)와 연동 기능을 제공한다. IBM 스토리지 스케일, 웨카 등과 같은 다양한 GDS 벤더사 지원이 가능하며, 사용자 요구사항에 따라 NAS와 같은 일반적인 스토리지도 지원한다. 또한 다수의 개발자가 함께 학습 및 산출 데이터를 공유할 수 있도록 스토리지도 공유할 수 있는 기능도 제공한다.

광주포장이사롯데이노베이트는 향후 추론 API 자동 배포 기능을 지원할 예정이며, 개발자 간 협업을 위한 다양한 보조 도구도 확대해 나갈 예정이다. 또한 플랫폼 구축 측면에서 온프레미스 환경 뿐만아니라 다양한 클라우드 기반의 마켓플레이스 형태로 확장할 계획을 가지고 있다. 이를 통해 AI 개발 인프라 구축에 어려움이 있는 기업이나 개발자들이 손쉽게 개발 환경을 구축할 수 있도록 지원할 예정이다.
첨부
환율 뛰면서 주유소 기름값까지 상승…경유 ℓ당 1500원 돌파
전북 최대 20㎝... 내일까지 충청·전라권에 폭설
코멘트
※ 코멘트를 남겨주세요.
이름 비밀번호 스팸방지 여기를 클릭해 주세요.   
내용