엔비디아가 IBM과 엔비디아의 최신 기술에 최적화된 새로운 딥 러닝 툴을 위해 협력한다고 밝혔다. 이번 협력은 컴퓨터가 좀 더 인간과 비슷하게 생각하고 학습하도록 빠르게 훈련시키는 것을 목표로 한다.
딥 러닝은 빠르게 성장 중인 머신 러닝 방식으로 데이터의 가장 중요한 부분을 감지해 중요도에 따라 등급을 매기기 위해 해당 데이터를 수백만 조각으로 분리해 정보를 추출한다. 선도적인 소비자 웹 및 모바일 애플리케이션 기업의 공개적인 지지에 힘입어 딥 러닝은 전통적인 기업들에서도 빠르게 채택되고 있다.
딥 러닝과 AI는 산업계 전반에서 널리 사용되고 있다. 은행에서는 얼굴인식 기능을 통해 금융사기를 감지하기 위한 목적으로 사용되고 있고 자동차 업계에서는 자율주행차의 개발에 유통 업계에서는 대화를 잘 이해하고 고객의 질문에 답할 수 있는 컴퓨터를 도입해 콜 센터의 완전한 자동화를 목표로 하고 있다.
새롭게 발표된 딥 러닝 소프트웨어 툴킷인 IBM 파워AI(Power AI)는 최근 발표된 AI용 IBM 서버에서 구동된다. 이 서버에는 IBM 파워 아키텍처에 최적화된 엔비디아 NV링크(NVLink) 상호 연결 기술이 포함돼 있다.
이 하드웨어와 소프트웨어 솔루션은 카페(Caffe)가 적용된 알렉스넷(AlexNet)을 구동하는 4개의 GPU를 통해 비슷한 서버와 비교시 2배 이상의 성능을 낸다. BVLC 카페(Caffe)가 적용된 알렉스넷을 구동하는 동일한 4개의 GPU 파워 기반 구성은 8개의 M40 GPU 기반 x86 구성의 성능을 능가하며 이는 주요 딥 러닝 프레임워크의 두 가지 버전에서 세계에서 가장 빠른 상업용 엔터프라이즈 시스템 플랫폼이다.
카페(Caffe)는 버클리 비전 및 학습 센터(BVLC; Berkeley Vision and Learning Center)가 개발한 딥 러닝 프레임워크로 기술 업계에서 가장 대중적인 딥 러닝 커뮤니티 애플리케이션으로 인정받고 있다.
카페(Caffe)는 IBM 파워AI 툴킷에서 사용할 수 있는 5개 딥 러닝 소프트웨어 프레임워크 중 하나다. 이 툴킷은 IBM의 서버에서 다중 GPU 가속화를 가능하게 하는 엔비디아 SDK의 일부로, cuDNN, cuBLAS, NCCL을 포함하는 엔비디아 GPUDL 라이브러리를 최대한 활용하도록 설계됐다.
IBM 파워AI는 IBM 오픈파워 LC(OpenPOWER LC) 라인업중 최고 성능을 내는 서버에서 구동되도록 설계됐다. 이 서버는 파워 아키텍처와 엔비디아의 최신 GPU 기술에 최적화된 엔비디아 NV링크(NVLink) 기술을 포함한다.
이 새로운 솔루션은 최근 부상하는 AI 방식, 특히 딥 러닝을 지원한다. IBM 파워AI는 IBM의 인지 솔루션 플랫폼인 왓슨을 훈련하는 여러 딥 러닝 방식을 도입해 엔터프라이즈 부문에서 AI 전문성을 넓히기 위한 행보를 지속하고 있다.
오픈파워(OpenPOWER) 켄 킹(Ken King) 제너럴 매니저는 “파워AI는 기업 데이터 과학자들과 연구원들이 AI연구를 빠르게 진전시킬 수 있도록 구축이 쉬운 플랫폼을 제공하며 딥 러닝과 고도 분석 기술을 대중화한다”며 “오픈파워의 AI용 HPC 서버와 함께 IBM은 고객과의 소통을 위한 챗봇이나 소셜 미디어 데이터의 실시간 분석을 위한 솔루션 등의 AI 기반 소프트웨어를 구축하는 기업들에게 최고의 플랫폼을 제공한다”고 말했다.
엔비디아 이안 벅(Ian Buck) 액셀러레이트 컴퓨팅 부문 부사장은 “엔비디아 NV링크를 위한 IBM과의 혁신으로 파워는 딥 러닝 및 데이터 분석 시장에서 새로운 기회를 만들어 나가고 있다”며 “파워AI 내의 엔비디아 GPUDL 라이브러리는 GPU 가속 딥 러닝 애플리케이션을 구동하며 세계적인 고성능 툴을 제공할 것”이라고 설명했다.
IBM 파워AI는 HPC서버용 IBM 파워 S822LC를 구매한 고객들에게 추가 비용 없이 제공되고 있다. 파워AI는 한대의 S822LC 서버에서 구동되도록 설계됐고 수십대, 수백대, 수천대로 구성된 대규모 슈퍼컴퓨팅 클러스터에도 확장해 적용 가능하다.
파워AI는 카페(Caffe), 토치(Torch), 테아노(Theano)와 같은 인기 딥 러닝 프레임워크의 바이너리 배포 세트다. 추가적인 배포로는 IBM과 엔비디아 버전의 카페 딥 러닝 프레임워크인 IBM-카페와 NV카페가 있다. IBM은 각각의 배포가 HPC서버용 IBM 파워 S822LC에 포함된 엔비디아 NV링크(NVLink) 인터페이스와 최근 발표된 IBM 파워8(POWER8) 칩의 장점을 이용할 수 있도록 최적화시켰다.
엔비디아 NV링크(NVLink) 기술이 탑재된 파워8은 오픈파워 파운데이션의 회원사인 IBM과 엔비디아가 공동 개발한 기술 트렌드를 선도하는 프로세서 디자인이다. 이 새로운 칩은 IBM의 파워 8 CPU서버 아키텍처와 새로운 파스칼 아키텍처 기반의 엔비디아 테슬라 P100 GPU 가속기의 탄탄한 결합을 가능하게 한다.
HPC용 파워 S822LC에 통합된 CPU와 GPU는 고속 엔비디아 NV링크(NVLink) 인터커넥트를 통해 서로 연결된다. CPU와 GPU, GPU와 GPU가 연결되는 이 칩은 산업 내에서도 독특한 인터페이스로 대부분의 인텔 x86 기반의 서버에서 찾아볼 수 있는 PCIe 인터페이스에서의 병목현상의 가능성을 제거한다.
딥 러닝 애플리케이션의 파워AI 툴킷은 이 NV링크(NVLink) 기반 서버 아키텍처의 장점을 활용해 선도적인 AI와 딥 러닝, 그리고 머신 러닝 애플리케이션의 성능을 최적화한다.
파워AI와 연결돼 구동되는 HPC용 IBM 파워 S822LC는 지난 9월 초에 출시됐다. 출시후 고유 성능(raw performance)을 지닌 이 서버에 선도적인 연구기관, 클라우드 서비스 기업과 일반 기업들이 즉각적인 관심을 보였다. 이 같은 관심은 3분기에 강력한 수요로 이어졌고 기존 리눅스 시스템 매출 중 파워의 매출이 전년 대비 두 배 상승하는데 기여했다.
