“인공지능(AI) 시대가 시작되면서 무어의 법칙은 한계에 달했다. 이제 새로운 법칙하에 개발된 반도체가 AI산업 발전을 이끌게 될 것이다.”
정명훈 구글 클라우드 파트너 엔지니어는 29일 부산 벡스코에서 개최된 ‘AWC(AI World Congress) 2022 in Busan’ 행사에서 이같이 말했다. 빠르게 진화하는 AI의 성능을 현재 반도체 발전 속도가 따라잡지 못한다는 것이다.
정 엔지니어가 언급한 ‘무어의 법칙’은 반도체의 성능이 24개월마다 2배씩 늘어난다는 말이다. 그동안 이 법칙은 ‘반도체 산업의 예언서’라고 불릴 만큼 정확하게 반도체 발전 트렌드를 예측해왔다. 또 업계 경쟁을 활성화시켜 컴퓨터 성능 향상과 비용 절감 효과도 가져왔다. 1965년 인텔의 공동 창립자 연구원 고든 무어가 개발했다.
하지만 2016년 ‘알파고(AlphaGo) 붐’ 이후, 본격적인 ‘AI시대’가 시작되면서, ‘무어의 법칙’은 한계에 달했다. AI에 필수적인 강력한 연산 능력을 뒷받침하기 위해선, 24개월마다 ‘겨우 2배씩’ 발전하는 반도체의 발전 속도론 부족하기 때문이다. 정 엔지니어는 “AI머신러닝에 필요한 컴퓨터 능력은 3개월 반 마다 2배가 증가해야 한다”고 말했다.
이 문제에 대해 구글이 내놓은 답안은 ‘텐서 처리 장치(TPU)’다. TPU란 구글이 자체 개발한 AI전용 반도체다. 구글의 AI머신러닝 엔진인 ‘텐서 플로우(Tensor Flow)’에 최적화됐다. 2016년 1세대 모델이 공개됐으며, 2017년 2세대 모델이 공개됐다. TPU는 가장 많이 사용되는 AI반도체 ‘그래픽 처리 장치(GPU)’보다 약 15~30배 이상 연산 속도가 빠르며, 이를 기반으로 제작된 AI의 연산 능력도 30~80배 높다.
정 엔지니어의 설명에 따르면 TPU가 GPU보다 우수한 연산 능력을 가진 이유를 ‘물리적 구조’ 차이 때문이다. AI에 가장 많이 사용되는 AI반도체인 ‘그래픽 처리 장치(GPU)’의 경우 연산 과정에서 데이터를 메모리에 저장하고, 다시 불러오는 과정이 필요하다. 반면 TPU는 행렬 연산을 위해 필요한 수리 논리 연산 장치(ALU) 2개가 딱 붙어 장착됐다. 때문에 연산 과정에서 메모리에 데이터를 적재·로딩하는 과정이 필요가 없어, 훨씬 빠른 연산능력을 보여줄 수 있는 것이다. 즉 GPU가 요리사(GPU)가 요리(데이터)를 한 뒤, 웨이터(메모리)를 거쳐 고객들에게 전달하는 레스토랑이라면, TPU는 요리사와 고객이 딱 붙어 있어, 바로 바로 요리를 전달하는 회전 초밥집과 유사하다고 볼 수 있다.
특히 정 엔지니어는 ‘초거대 AI’에서 TPU의 활용도가 높을 것으로 기대했다. 초거대 AI란 대용량 데이터를 스스로 학습해 인간처럼 종합 추론이 가능한 차세대 AI모델이다. 기존 AI보다 수천 배에 달하는 데이터 학습량이 필요하기 때문에, TPU와 같은 고성능 연산 처리 장치가 필수다. 실제로 구글의 ‘딥마인드’와 카카오브레인의 ‘KoGPT’, LG AI리서치의 ‘엑사원’ 등 초거대 AI모델들에는 구글 TPU가 적용됐다.
정 엔지니어는 “초거대 AI가 가진 파리미터(매개변수) 개수는 170억 개 수준에서 1750억 개, 나아가 1조 6000억 개 수준까지 늘어날 전망”이라며 “이를 구현하기 위해선 매우 강력한 데이터 연산 능력을 가진 AI반도체가 필수적”이라고 말했다.
이어 “하지만 현대 일반적인 GPU모델 수준으로는 이를 뒷받침하기 어렵다”며 “때문에 TPU와 같은 차세대 AI반도체 모델이 초거대 AI의 미래를 이끌게 될 것”이라고 전했다.
.