엔비디아 625배 효율!...세계 최초 '초저전력 AI 반도체' 개발 / YTN

엔비디아 625배 효율!...세계 최초 '초저전력 AI 반도체' 개발 / YTN

YTN

 

기존 AI 반도체, 전력·크기↑…

온 디바이스 불가 외부 연결 없이도 GPT2 초저전력·초고속 구동 엔비디아 A100 대비 소모전력 1/625·면적 1/41 DNN-to-SNN 등가 변환…

각 방식의 장점만 취해 [앵커] 챗GPT와 같은 고도의 인공지능 서비스가 나오면서 인공지능을 구동할 수 있는 'AI 반도체' 개발 경쟁이 치열한데요, 국내 연구진이 인간 뇌를 모사해 전력 소모를 획기적으로 줄인 고성능 AI 반도체를 세계 최초로 개발했습니다. 최소라 기자입니다.

 

[기자] 스마트폰 등이 외부 서버를 통하지 않고도 스스로 인공지능을 구동하는 '온 디바이스 AI'. 보안이 우수해 차세대 IT 기기의 청사진이지만, 이를 구현하는 건 쉽지 않습니다. 복잡한 연산을 처리하는 만큼 AI 반도체는 전력도 많이 필요하고, 크기도 크기 때문입니다. 국내 연구진이 인간 뇌를 모사해 초저전력으로 인공지능을 구동하는 뉴로모픽 AI 반도체를 세계 최초로 개발했습니다. 가로·세로 4.5㎜에 불과한 칩입니다. 컴퓨터에 장착하고, GPT를 구동했더니, 외부 서버의 도움 없이도 글을 요약하거나 다른 언어로 번역하는 건 물론, 주어진 데이터를 학습한 뒤 요청에 맞는 답변을 생성해 냅니다. 일반 컴퓨터가 45분 걸리는 연산을 칩을 장착한 경우 단 3분 만에 처리하기도 합니다. 개발된 칩은 엔비디아의 GPU A100 그래픽카드와 비교하면 전력 소모가 625분의 1에 불과하고 칩 면적도 41분의 1로 작습니다.

 

[김상엽 / KAIST 전기·전자공학부 박사 : (PC뿐만 아니라) 갤럭시24 핸드폰 모델에서 저희 보드를 연결해 언어 작업들을 처리할 수 있도록 구현했습니다.] 초저전력·초소형화를 가능하게 한 건 두 가지 인공지능 방식을 장착하고, 각각의 장점을 취하도록 만든 덕분입니다. 입력된 데이터가 큰 경우, 연산 정확도가 높은 기존 AI 방식인 '심층 인공 신경망'이 활약하고, 연산량이 적으면 전력 효율이 우수한 '스파이킹 뉴럴 네트워크'가 데이터를 처리해 두 기술이 상보적으로 작동하도록 했더니 시너지 효과가 난 겁니다.

 

[유회준 / KAIST 전기·전자공학부 교수 : 사람이 생각을 많이 할 때는 에너지를 많이 소모하게 되고요. 그리고 생각이 적을 때는 에너지 소모가 적습니다. 뉴로모픽도 이와 동일합니다. 입력해야 할 것이 많으면 많이 돌리고 입력할 게 적으면 적게 돌립니다.] 뉴로모픽 기반의 반도체로 GPT와 같은 거대 언어 모델을 구동하는 데 성공한 건 이번이 세계 최초입니다. 연구팀은 현재 칩에 탑재된 GPT의 다음 버전인 GPT3.0을 탑재하는 연구를 진행 중이라며, 언어 모델 외에도 다양한 응용 분야로 연구범위를 확장하겠다고 밝혔습니다. YTN 사이언스 최소라입니다.

 

채 GPT 같은 고도의 인공지능

0:02

서비스가 나오면서 인공지능을 구동할

0:05

수 있는 AI 반도체 개발 경쟁이

0:07

치열한데요 국내 연구진이 인간의 뇌를

0:10

모사해 전력 소문을 획기적으로 줄인

0:13

고성능 AI 반도체를 세계 최초로

0:16

개발했습니다 최수라

0:20

기자입니다 스마트폰 등이 외부 서버를

0:22

통하지 않고도 스스로 인공지능을

0:25

구동하는 온디바이스

0:26

AI 보안이 우수에 차세대 it

0:29

기기에

0:34

복잡한 연산을 처리하는 만 AI

0:36

반도체는 전력도 많이 필요하고 크기도

0:39

크기

0:40

때문입니다 국내연구진이 인간 뇌를

0:43

모사해 저전력으로 인공지능을 구동하는

0:46

뉴로모픽 AI 반도체를 세계 최초로

0:49

개발했습니다 가로로 4.5mm 불과한

0:53

칩입니다 컴터에 장하고 GPT

0:56

구했더니 외부 서버에

0:58

도없이 하거나 다른 언어로 번역하는

1:01

건 물론 주어진 데이터를 학습한 뒤

1:04

요청에 맞는 답변을

1:06

생성해냅니다 일반 컴퓨터가 45분

1:08

걸리는 연산을 칩을 장착한 경우 단

1:11

3분 만에 처리하기도 합니다 개발된

1:14

칩은 엔비디아의 GPU a00 그래픽

1:17

카드와 비교하면 전력 소모가 625에

1:20

불과하고 칩 면적도 1로 작습니다

1:24

저희는 갤럭시 24라는 어 핸드폰

1:27

모델에서 저희 보드를 연결해 이제

1:29

앞서

1:30

보여드렸던 언어 작업들을 처리할 수

1:32

있도록 구현을 하였습니다 초저전력 초

1:35

소형화를 가능하게 한 건 두 가지

1:38

인공지능 방식을 장착하고 각각의

1:40

장점을 취하도록 만든

1:42

덕분입니다 입력된 데이터가 큰 경우

1:45

연산 정확도가 높은 기존 AI 방식인

1:48

심층 인공신경망이 활약하고 연산량이

1:51

적으면 전력 효율이 우수한 스파이킹

1:54

뉴럴 네트워크가 데이터를 처리해 두

1:56

기술이 상보적으로 작용하도록 했더니

1:59

시너지 과가 겁니다 사람이 생각을

2:02

많이 할 때는 어 에너지를 많이

2:04

소모하게 되고요 그리고 어 생각이

2:07

적을 때는 에너지 소모가 적습니다

2:09

저희가 만든 유로

2:30

GPT 다음 버전인 GPT 3.0을

2:32

탑재하는 연구를 진행 중이라며 언어

2:35

모델 외에도 다양한 응용 분야로

2:37

연구범위를 확장하겠다고 밝혔습니다

2:40

YTN 사이언스 출소합니다