양자컴도 GPU도 AI 없이는 불가능

6일 오후 한국과학기술원(KAIST) 대전 본원 학술문화관에 수백 명의 청중이 자리를 가득 메웠다.

KAIST 신소재공학과가 국제 학술지 네이처(Nature)와 공동으로 개최한 학술회의가 열렸다.

이날 학술회의는 ‘인공지능을 위한 신소재, 신소재를 위한 인공지능’을 주제로 국내외 AI를 활용하는 다양한 분야의 석학들이 참석했다.

특히 참석자들의 눈길을 끈 건 두 기업이었다.

그래픽처리장치(GPU)로 전 세계 반도체 시장을 뒤흔든 엔비디아의 마크 렌 설계 자동화 책임자가 강연자로 나섰다.

엔비디아의 임원급 엔지니어가 한국에서 열린 학술회의에 참석한 건 이례적인 일이다.

마크 렌 책임자에 앞서 발표를 한 미셸 시몬스 호주 뉴사우스웨일스대 교수도 마찬가지다.

미셸 교수는 호주의 양자컴퓨터 기업인 실리콘 퀀텀 컴퓨팅(Silicon Quantum Computing)의 최고경영자(CEO)를 맡고 있다.

테크 분야에서 가장 뜨거운 반도체와 양자컴퓨터 기업 관계자가 AI 학술회의에 선 것이다.

마크 렌 책임자는 엔비디아가 혁신적인 GPU를 선보일 수 있었던 비결로 AI를 꼽았다.

그는 “엔비디아는 AI를 활용해 칩 설계 과정을 최적화하기 위해 노력하고 있다”며

“칩 설계 과정에 필요한 물리적 설계, 논리적 설계, 개념 검증, 패키징 설계 등 다양한 영역에서 AI를 적용해 연구를 진행 중”이라고 말했다.

기존에는 복잡한 수식을 세우고 이를 바탕으로 문제를 푸는 걸 반복해야 했는데, 엔비디아는 AI 신경망 모델을 통해 이 시간을 3시간에서 3초로 단축했다.

이외에도 오차를 예측하고, 설계를 최적화하는 대부분의 과정에 AI 기술이 쓰이고 있다.

마크 렌 책임자는 “GPU가 AI를 가능하게 하는 것처럼 AI도 칩 설계를 혁신하고 있다”며

“AI는 빠르고 정밀한 칩 설계를 가능하게 해서 설계 생산성을 획기적으로 향상시킬 수 있다.

앞으로 AI가 반도체 설계 전반에서 더욱 중요해질 것”이라고 강조했다.

미셸 교수도 양자컴퓨터 개발에서 AI가 얼마나 중요한 지 강조했다.

미셸 교수가 만든 실리콘퀀텀컴퓨팅은 회사 이름에서 알 수 있듯 실리콘을 기반으로 한 양자 프로세싱 유닛(QPU)을 만들고 있다.

미셸 교수는 “과거에는 실리콘이 양자 상태를 유지하기 어려운 재료로 간주됐지만,

우리는 연구를 통해 실리콘이 높은 품질의 큐비트를 만들 수 있고, 제조 과정에서도 유리하다는 걸 알았다”고 말했다.

실리콘퀀텀컴퓨팅은 초고진공(ultra-high vacuum, UHV) 환경에서 양자 컴퓨터를 만들고 있다.

이렇게 하면 불순물을 없앨 수 있어 공정 중 오염을 막을 수 있다. 이 과정에서도 AI가 중요한 역할을 한다.

미셸 교수는 “양자 컴퓨터를 구축하려면, 동일한 큐비트를 일관되게 제조해야 하며, 오류를 보정할 수 있는 구조를 설계해야 한다”며

“한 층에서 패터닝을 진행한 뒤 실리콘을 성장시키고, 다시 패터닝을 진행하는 방식으로 여러 층을 쌓아 올리는데

이 과정에서 AI를 이용해 제조 공정을 정확하게 예측하는 게 필요하다”고 설명했다. 실리콘퀀텀컴퓨팅은 처음에 90% 정도였던 AI의 정확도를 계속 개선해 나가고 있다.