AI EXPO KOREA 2022 그래프코어 부스 전경
그래프코어(Graphcore)는 지난 13일부터 15일까지 서울 코엑스에서 사흘간 개최된 '제5회 국제인공지능대전(AI EXPO KOREA 2022)'에 참가해 자사의 콜로서스(Colossus) 칩을 기반으로 하는 GPU를 넘는 세계 최강 '지능처리장치(Intelligence Processing Unit. 이하, IPU)‘ 2세대 AI 플랫폼 'IPU M2000'과 지난 3일(현지시간) 출시한 차세대 '초지능' 머신을 구현하는 인공지능 3D 칩과 Bow(보우) IPU 시스템을 전시하고 소개했다.
그래프코어의 2세대 AI 플랫폼 'IPU M2000'과 차세대 AI 3D 칩과 Bow 시스템(벽면)을 설명하고 있는 모습
2016년 영국에 기반을 두고 AI 워크로드 가속칩을 개발하는 사이먼 놀스(Simon Knowles)와 니겔 툰(Nigel Toon)이 공동창립하고 엔비디아를 넘는 창업 비전으로 예사롭지 않은 행보를 이어가는 그래프코어(한국 지사장 강민우)는 참관객들의 뜨거운 관심과 주목을 받았다.
(왼쪽부터) 그래프코어의 2세대 AI 플랫폼 'IPU M2000'과 차세대 AI 3D 칩
2개의 반도체 다이를 적층한(웨이퍼-온-웨이퍼) 이 새로운 AI 3D 칩은 버트(BERT)나 이피션트넷(EfficientNet)과 같이 오늘날 가장 널리 사용되는 모델의 구동에서 머신러닝 성능을 40%까지 가속화하고 엔비디아 DGX A100 보다 5배 이상 뛰어난 성능으로 머신에서 초인간적인 '초지능(Ultra-Intelligence)'이라고 부르는 것을 가능하게 한다고 한다.
AI 3D 칩
플래그십 제품 Bow POD256과 초대형 Bow POD1024는 각각 89페타플롭스(PetaFLOPS)와 350 페타플롭스의 AI 연산을 지원한다. 그래프코어는 이 획기적인 시스템을 통해 AI 모델의 크기가 기하급수적으로 증가하는 추세에 대응하는 동시에 머신 인텔리전스 분야에서 새로운 혁신을 기대하고 있다.
그래프코어 Bow 시스템 VS 엔비디아 DGX A100 시스템의 EfficientNet 모델 훈련 비교
그래프코어 Bow 시스템의 첫 도입 사례는 미국 에너지부 산하 퍼시픽 노스웨스트 국립연구소(Pacific Northwest National Laboratory, PNNL)로 사이버보안 및 컴퓨터 화학 관련 애플리케이션에 Bow 시스템을 적용했다.
데이터센터에 탑재된 그래프코어 Bow 시스템
기존의 기술로 다루기 어려운 과학 문제를 해결하기 위해 머신러닝과 그래프신경망(Graph Neural Network, GNN)의 한계에 도전하고 있는 PNNL은 그래프코어 시스템을 통해 학습과 추론에 걸리는 시간을 몇 일에서 단 몇 시간으로 단축시킨 것이다.
2021년 11월에 출시된 2세대 AI 플랫폼 IPU M2000은 대규모 AI 인프라를 위한 시스템으로 피자 박스 크기로 페타플롭의 처리 능력을 달성한 최초의 AI 컴퓨팅 능력으로 594억 개의 트랜지스터를 823 평방밀리미터 크기의 단일 다이에 집적해 TSMC의 7nm 공정으로 출시됐다.
그래프코어의 IPU ‘M2000’ 플랫폼(사진:본지DB)
강민우 그래프코어 한국지사장은 “이번 Bow IPU 출시와 더불어 그래프코어는 메가트론-튜링(Megatron-Turing)과 같은 딥러닝 신경망의 모델 크기가 증가함에 따라 500조개의 매개변수를 사용하는 신경망 모델을 처리할 수 있는 컴퓨팅 시스템(The Good Computer)을 설계 중이다”라고 밝혔다.
한편, 그래프코어는 국내 삼성전자를 비롯한 보쉬 벤처캐피털, 델 테크롤로지 캐피털, 아마데우스 캐피털파트너스, C4벤처스, 드라퍼 에스프리트, 파운데이션 캐피털, 피탕고 캐피털, 암 공동 창업자 헤르만 하우저와 딥마인드 공동 창업자 데미스 하사비스 등으로부터 5억 달러를 유치했으며, 현재 기업 가치를 약 25억 달러(약 3조 1천억원)로 평가 받고 있다.