[AI칩] 5. AI칩·신경모방칩에 도전하는 사례들 

신경망을 모방하는 인공지능칩(AI Chip)·신경모방칩(Neuromorphic Chip) 기술개발 동향

[요약] 인간의 뉴런(Neuron)과 시냅스(Synapse)의 신경망(Neural Networks)을 모방하는 인공지능칩(AI Chip) 또는 신경모방칩(Neuromorphic Chip)을 개발하는 퀄컴, 인텔, IBM, 삼성전자, 알리바바 등의 특허분석을 소개하기에 앞서, (1) AI칩·신경모방칩을 개발하는 배경과 (2) 두뇌 신경망의 특징들인 가소성(Plasticity)·SNNs/JNNs·STDP와 LTP/LTD, 시냅스의 역할, 그리고 비-신경세포인 신경교의 역할 등 생물학적이고 화학적인 구조와 기능과 역할을 이해할 필요가 있다. 왜냐면 이러한 지식이 없으면 특허를 분석할 수도 없고 다음에 소개할 기업들의 특허분석 보고서를 이해할 수 없기 때문이다. 

추아(Chua, 1971)가 제안하고 HP의 연구원들이 2008년에 발견한 멤리스터(memristor)가 실제 존재하냐 아니냐의 논쟁도 다소 있지만, 향후 특허분석 보고서를 통해 소개하는 내용 중 멤리스터를 이용한 AI칩·신경모방칩을 연구하는 기업들이 있어 다소 긍정적인 관점에서 소개하려 한다. 왜냐면 AI칩·신경모방칩은 이제 시작이라는 점이다. 누가 어떤 물질(소자)을 갖고 뉴런과 시냅스와 같은 유기칩(Organic Chip)을 개발하는가가 중요하다. 멤리스터는 메모리(memory)와 저항기(resistor)의 합성어로 이전의 상태를 모두 기억하는 메모리 소자다. 

본 글에서는 획기적인 에너지 절감의 AI칩·신경모방칩에 도전하는 두 가지 사례를 소개하는데, 프랑스/미국의 스스로 학습하는 인공 고체 시냅스인 멤리스터 개발과 미국 스탠포드대의 뉴로모픽 컴퓨팅을 위한 인공 유기 시냅스 개발이다. 이 두 가지 사례는 앞으로 소개할 퀄컴, 인텔, IBM, 삼성전자, 알리바바 등의 특허분석을 이해하고 왜 AI칩·신경모방칩에 도전해야 하는지 이해하는 데 도움이 된다. 결론적으로 인간의 두뇌는 연산과 학습, 기억과 회상을 하는데 20W의 전력이 필요한데, 이를 모방해 저-전력의 칩을 개발하자는 것이다. 

[글 싣는 순서]
1. 배경(Background) – Edge AI <-> Cloud AI의 쌍방향 시대가 온다
2. 뉴런과 시냅스의 신경망
2-1. 뉴런과 시냅스, 연산과 학습과 저장(기억)을 동시에 처리
2-2. 가소성과 SNNs/JNNs과 STDP와 LTP/LTD
2-3. 시냅스의 역할
3. 비-신경세포인 신경교의 별 세포 또는 성상세포
4. 회로를 구성하는 4번째 요소인 멤리스터(memristor)란?
4-1. 추아(Chua, 1971)가 제안하고 HP의 연구원들이 발견(2008)
4-2. 멤리스터의 만능 기능, 토탈 리콜(Total recall)이 가능
4-3. 어떤 원리인가? 이력현상(hysteresis effect)

5. 획기적인 에너지 절감의 AI칩·신경모방칩에 도전하는 사례들  
5-1. 프랑스/미국, 스스로 학습할 수 있는 인공 고체 시냅스인 멤리스터 개발

5-2. 미국 스탠포드대, 신경모방 컴퓨팅을 위한 인공 유기 시냅스 개발


5. AI칩·신경모방칩에 도전하는 사례들 

다음 두 가지 사례들은 앞으로 소개할 퀄컴, 인텔, IBM, 삼성전자, 알리바바 등의 특허분석을 이해하고 왜 AI칩·신경모방칩에 도전해야 하는지를 이해하는 데 도움이 된다. 결론적으로 인간의 두뇌는 연산과 학습과 기억과 회상을 하는데 20W의 전력이 필요한데, 이를 모방해 저-전력의 칩을 개발하자는 것이다.

5-1. 프랑스와 미국, 스스로 학습할 수 있는 인공 고체 시냅스인 멤리스터 개발

프랑스와 미국의 과학자들이 인공 두뇌를 위한 스스로 학습할 수 있는 고체 상태의 인공 시냅스(an artificial synapse)인 전자 시냅스(Electronic synapses), 즉 멤리스터(Memristor)를 개발하는 데 성공해, “고체 상태 시냅스에서의 강유전성 도메인 역학을 통한 학습(Learning through ferroelectric domain dynamics in solid-state synapses)”이라는 논문을 발표했다(Boyn et al., Nature Communications & Science Daily, 3 Apr 2017). 이들은 시냅스를 모방해 인공 시냅스를 모델링하여 물리적 디바이스인 멤리스터를 제시했는데, 이로써 더 복잡한 뉴런-시냅스-뉴런의 회로를 만들 수 있는 초석을 구축한 것이다.

▲ 아티스트가 그려낸 전자 시냅스에 대한 인상: 가운데의 입자들은 생물학적 시냅스에서의 신경전달물질들(neurotransmitters)과 유사하게 산화물을 통해 순환하는 전자들을 나타낸다. 전자들의 흐름은 산화물의 강유전성 도메인 구조(the oxide's ferroelectric domain structure)에 의존하는데, 이것은 전압 펄스들(electric voltage pulses)에 의한 저항(resistance)으로 제어된다. Credit: Soren Boyn / CNRS /Thales physics joint research unit.

생체모방학(biomimetics)의 목표들 중 하나는 지능적인 기계들을 디자인하기 위해 두뇌 기능으로부터 영감을 이끌어 내는 것이다. 이 원칙은 이미 정보기술에서 많이 연구되고 있는데, 이미지 인식 등과 같은 특정 작업을 완수하기 위한 알고리즘의 형태로 나타나고 있다. 예를 들어 페이스북은 사진들을 분류하고 무엇인지를 알아내기 위해 이미지 인식 알고리즘을 사용한다. 그러나 문제는 엄청난 시간과 에너지를 소비한다는 것이다. 

작금의 딥 러닝 알고리즘들은 전기 상태들(electrical states)을 계산하고 모방하고, 그다음 그것들을 메모리에 저장하는 프로세서에 전적으로 의존한다. 이러한 과정은 에너지와 시간 관점으로 볼 때 비효율적이다. 우리 두뇌의 시냅스가 처리하는데 들어가는 20W의 에너지보다 무려 100,000배의 에너지가 소비된다. 정확히 비교할 수는 없겠으나, 전문가들에 의하면 2016년에 이세돌의 두뇌는 20W의 전력을 사용했지만, 구글/딥마인드의 알파고 리(AlphaGo Lee)는 1MW, 즉 슈퍼컴퓨터의 전력을 소비했다. 2017년에 중국 바둑 대회(The Future of Go Summit, Match One)에 투입해 커제(Ke Jie)를 물리치고 복식 바둑을 석권한 알파고 마스터(AlphaGo Master)는 알파고 리의 1/10인 0.1MW를 소비했다. 따라서 알파고 마스터는 일반인들에게 상용화할 수 없다는 단점이 있다.

▲ 2016년 이세돌 9단과 바둑대결을 한 딥마인드의 알파고 리. Image: YouTube Capture

이를 극복하기 위해 개발된 인공 시냅스는 아직 인간 두뇌를 따라갈 수 없는 최소한의 한 발자국 앞선 전진이지만, 과학자들은 칩 위에 스스로 학습할 수 있는 능력을 지닌 전자 시냅스를 개발한 것이다. 그리고 더 나아가 학습할 수 있는 능력을 보여주는 물리적인 모델까지 개발했다. 이번 발견으로 시냅스들의 네트워크를 구축할 수 있는 발판을 마련함과 동시에 시간과 에너지를 덜 소비하는 지능 시스템들을 개발할 수 있게 됐다.

과학자들이 우리 두뇌의 학습하는 과정을 모방해서 고체 상태의 인공 시냅스를 개발했는데, 이것이 소위 말하는 멤리스터(Memristor)다. 멤리스터는 메모리(memory)와 저항기(resistor)의 합성어로 이전의 상태를 모두 기억하는 메모리 소자다. 전원 공급이 끊어졌을 때도 직전에 통과한 전류의 방향과 양을 기억하기 때문에, 다시 전원이 공급되면 기존의 상태가 그대로 복원되는데, 예를 들어 컴퓨터를 켜면 최종 작업 화면이 그대로 뜨게 한다. 다시 말하면 전류의 흐름과 시간의 변화에 따라 저항의 강도가 바뀌는 새로운 전기소자로 속도가 빠르고 저장용량이 큰 메모리 반도체를 만드는 데 쓰인다. 강유전체(ferroelectric)를 이용하여 재기록이 가능한 비-휘발성 메모리(non-volatile memory)의 일종이다.

▲ 독일의 물리학자 옴(G. S. Ohm)이 1826년에 밝힌 '옴의 법칙(G. S. Ohm Ohm's law)'. 전류의 세기는 전압에 비례하고 저항에 반비례한다. Image: Naver

이 전자 나노요소인 멤리스터는 두 개의 전극들 사이에 하나의 얇은 강유전체 층(a thin ferroelectric layer)이 샌드위치된 것으로, 뉴런과 비슷하게 전압 펄스들을 사용하여 입력되는 저항(resistance)이 제어되는 것이다. 예를 들어 저항값이 낮으면 시냅스 연결이 강하게 되고(학습-강화학습 등), 저항이 높으면 약하게 된다. 이 또한 시냅스의 가소성을 모방한 것이다. 이러한 저항의 가소성 변화가 바로 인공 시냅스를 학습하게 하는 것이다. 

▲ (a) 하나의 시냅스와 연결된 시냅스전뉴런과 시냅스후뉴런. 시냅스 전달은 뉴런 스파이크(불꽃)의 인과율(&Delta;t)에 의해 조절됨. (b) 두 개의 전극들 사이에 하나의 얇은 강유전체 층(비스무스철산화물, BiFeO3, BFO)이 샌드위치된 강유전체 멤리스터. 위의 전극은 백금/코발트(Pt/Co), 아래전극은 (Ca, Ce)MnO3 (CCMO). YAO stands for YAlO3. Credit: Boyn et al., Nature Communications, 3 Apr 2017

수많은 연구들이 인공 시냅스에 집중하고 있지만, 물리적 디바이스의 기능은 대부분 밝혀지지 않았다. 하지만 이번에 과학자들은 처음으로 물리적인 모델을 개발했다. 따라서 이러한 멤리스터들(인공 시냅스들)로 연결된 인공 뉴런들을 개발해 복잡한 지능 시스템들을 개발할 수 있을 것으로 기대하고 있다. 

이번 연구는 유럽의 프로젝트인 ULPGC H2020의 일환으로 연구했는데, 이번 발견은 혁신적인 카메라를 이용해 리얼타임의 형상 인식(shape recognition)에 사용될 예정이다. 형상 인식이란 시야각에서 변화가 있을 때만 보이고 다른 때는 픽셀들이 비활성 상태로 유지된다. 이러한 상태에서의 데이터 프로세싱 과정은 에너지를 덜 소비하고 동시에 사물을 알아내는데 필요한 시간도 짧아지게 된다. 

단지 필자가 보기에 아쉬운 것은 유기물질(Organic materials)로 만든 것이 아닌 고체 상태라는 점이다. 왜냐면 우리 두뇌의 시냅스는 고체 상태가 아니라 칼슘(Ca), 나트륨(Na), 칼륨(K) 이온들이 드나드는 이온 채널을 가진 하나의 세포이기 때문이다. 따라서 유기 시냅스에 도전해야 할 것이다. 

 

차원용 소장/교수/MBA/공학박사/미래학자 

아스팩미래기술경영연구소(주) 대표, (전)국가과학기술심의회 ICT융합전문위원회 전문위원, 국토교통부 자율주행차 융복합미래포럼 비즈니스분과 위원, 전자정부 민관협력포럼 위원, 국제미래학회 과학기술위원장 

[정리 이새잎 기자 ebiz@]