인공지능 시대를 맞이하는 FPGA의 역활

인공지능 시대를 맞이하는 FPGA의 역활
FPGA In the new AI era

"인공지능 반도체(또는 AI 칩)"은 인공지능 알고리즘을 "효율적"으로 처리하는 칩(GPU, NPU, ASIC 등)이다. 범용 CPU에서도 인공지능 알고리즘의 수행이 물론 가능하다. 다만 AI 칩이라고 따로 분류하는 이유는 인공지능 알고리즘의 엄청난 량의 곱셈과 덧셈을 "효율적"으로 수행하는 것에 주안점을 두었기 때문이다.

범용 CPU가 미리 정해둔 규칙을 기반(Rule-Based)으로 IF~THEN~ELSE 방식의 알고리즘 처리에 적합하다면 AI 프로세서는 스스로 규칙을 만들기 위해 엄청난 계산을 한다. 범용 CPU로  인공지능 알고리즘을 수행하면 메모리에서 명령을 읽어 그 뜻을 해독하고 계산에 필요한 값을 불러와 계산하고 다시 그 값을 메모리에 저장하는 일을 수없이 반복한다. 명령중 정작 인공지능을 위한 계산 비중은 매우 낮다. 이에 비해 AI 칩은 범용 CPU의 ALU(Arithmetic-Logical Unit) 대신 단번에 곱셈과 덧셈(Multiplication-Accumulation)을 반복 계산하는 전용의 산술 장치를 가지고 있다. 당연히 명령을 해석하고 이에 맞춰 값을 불러오고 저장하는데 클럭을 소모하지 않는다. 따라서 AI 칩은 적은 클럭을 들이고도 방대한 계산을 할 수 있는 "효율적"인 반도체다. 게다가 자료의 교차 의존이 거의 없는 인공지능 알고리즘의 특성 상 대규모 연산기를 동원한 병렬처리 구조를 취하기 매우 적합하다. 반도체 칩의 집적도가 폭발해 버린 지금 연산장치의 갯수는 얼마든지 늘릴 수 있다. 일상의 인식체계(패러다임)가 경직된 규칙 기반의 알고리즘에서 유연한 인공지능으로 전환되어 버린 지금 반도체의 화두는 "AI"의 지배가 더욱 공고해질 것은 자명하다.

인공지능의 유연성에 하드웨어의 경직성이 대응하는 방안은 명령처리 방식의 프로세서다. 인공지능 프로세서는 매우 특회된 몇가지 산술명령을 가지고 고용량 메모리를 곁에 두고 있다. 대부분 인공지능 개발자들이 전용 프로세서의 소프트웨어에 집중되어 있는 것을 본다. GPU, NPU 등 프로세서가 지배적인 "AI 칩"에 FPGA의 미래가 있을까?

구조 재편이 가능한 FPGA는 하드웨어의  유연화 방안으로 주목받고 있다. 아예 명령어 자체를 두지 않는 알고리즘 전용의 계산기(하드웨어)를 구성 할 수 있다. 따라서 알고리즘에 소요될 클럭의 수를 극단적으로 줄일 수 있다. 클럭은 곧 에너지 소모를 의미한다. 특히 일방적인 계산을 반복하는 "추론(inference)"에 재구성 가능한 FPGA의 미래가 있다.

아래 동영상은 인공지능 알고리즘에 맞춰 FPGA의 구조가  어떻게 변화되고 있는지 설명한다. 순차적인 알고리즘을 병렬처리 하드웨어를 목표로 기술하기는 소프트웨어에 비하면 매우 어렵다. 하드웨어 설계 생산성을 높이기 위해 기존의 프로그래밍 언어로 기술된 알고리즘을 직접 하드웨어로 합성하는 설계방법론이 이미 성숙되었음을 보여 준다.

The Hidden Weapon for AI Inference EVERY Engineer Missed
거의 모든 기술자들이 놓치고 있는 인공지능 추론용 하드웨어 장치
https://youtu.be/ysd545AjEOU?si=hNBOzb8lbcLSGXxT

How to Build a Neural Network on an FPGA
FPGA에 신경망을 구성하는 방법
https://youtu.be/3qtMs5jD-OY?si=joOEUEez7sbfYFk3

Resources Mentioned:
    hls4ml Repository: https://github.com/fastmachinelearning/hls4ml
    Iris Model on FPGAs GitLab: https://gitlab.com/ai-examples/iris-model-on-fpgas/
    Make your own Neural Network by TARIQ RASHID [pdf]

이미 핏빛으로 물들어 있는 인공지능 소프트웨어에서 그나마 시원한 하드웨어 설계에 눈길을 줘보자. 끝으로,

Challengers Are Coming for Nvidia’s Crown
엔비디아의 아성에 도전자들이 몰려온다 [링크]

    [검색 참고]
    "규칙 기반 알고리즘" [검색]
    "AI Semiconductor" [검색]