카카오브레인, 구글 TPU 통해 연구개발 역량 강화
상태바
카카오브레인, 구글 TPU 통해 연구개발 역량 강화
  • 김혜나 기자
  • 승인 2021.11.26 17:16
  • 댓글 0
이 기사를 공유합니다

구글 클라우드가 자사의 ‘클라우드 TPU(Tensor Processing Unit)’를 카카오의 인공지능 연구 자회사 카카오브레인에 제공해 한국어 특화 AI 언어 모델인 ‘KoGPT’의 연구개발을 도왔다. 

클라우드 TPU는 구글 클라우드 맞춤형 머신러닝 하드웨어(ASIC)로, 구글 클라우드 AI와 맞춤형 고속 네트워크를 기반으로 기업 혁신 가속화를 가능하게 한다. 카카오브레인은 이를 도입해 네트워크 병목 현상 해결 및 60억 개의 파라미터와 2000억 개 토큰(token)에 달하는 한국어 데이터를 빠르게 처리한다.

뛰어난 편의성과 확장성도 특징이다. 팟(Pod) 단위로 할당 및 관리가 가능하며, 최소한의 코드 변경을 통해 최대 2048개의 연산 노드를 확장할 수 있다. 또 별도의 인프라 설치 필요 없이 퍼블릭 클라우드 환경에서 모든 시스템을 사용할 수 있어 KoGPT의 개발 시간 및 비용을 절감할 수 있다.

KoGPT는 미국의 AI 연구기관 오픈AI(OpenAI)가 개발한 딥러닝 기반 자연어처리(NLP) AI 모델 ‘GPT-3’의 한국어 특화 버전으로, 학습 과정에 수십억 이상의 데이터와 모델 파라미터(매개변수)가 활용됐다. 카카오브레인은 이러한 대규모 데이터 및 모델 학습에 필요한 리소스 확보를 위해 GPU 서버 환경에 클라우드 TPU를 도입했다. 오픈소스 커뮤니티 깃허브(GitHub)에도 공개되어 있다.

김일두 카카오브레인 대표는 “구글 클라우드에서 제공하는 클라우드 TPU가 딥러닝에 최적화되어 단기간에 고효율의 학습 파이프라인을 구축할 수 있었다”라며 “구글 클라우드와 지속적으로 협력해 AI 모델의 연구 효율을 끌어올릴 예정”이라고 밝혔다.

최기영 구글 클라우드 코리아 사장은 “한국어 AI 모델 개발에 구글 클라우드가 함께 할 수 있는 것을 의미 있게 생각한다” 라며 “앞으로도 구글 클라우드의 AI 및 머신러닝 인프라를 기반으로, 다분야의 한국 기업과 연구 기관이 혁신을 가속화할 수 있도록 적극 지원하겠다”라고 강조했다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.