뉴로모픽 소자 활용, 4차 산업혁명 가속화

[병렬 방식의 컴퓨팅 구조 구현을 위한 하드웨어]

■ 시냅스 특성을 위한 뉴로모픽 소자

현재의 컴퓨터는 폰노이만 방식 (Von Neumann Architecture) 방식으로 메모리 (Memory), 중앙처리장치 (Central Processing Unit, CPU), 산술논리장치 (Arithmetic Logic Unit, ALU) 및 데이터 경로 등이 각각 떨어져서 따로 동작되어 구현 되지만 급증하는 정보 처리량 따라 새로운 기술이 요구되며 향후 컴퓨팅 시스템은 생물학적 인간 두뇌의 기능을 모방하는 병렬 컴퓨팅 (Parallel Computing) 방향으로 발전 될 것으로 예상된다.<그림 3-3-3-1> 2016년 3월 이세돌 9단과 구글 알파고의 바둑 대결은 인공지능 (Artificial Intelligence, AI) 알파고의 승리로 끝났지만, 알파고는 1202개의 CPU, 176개의 그래픽처리장치 (Graphic Processing Unit, GPU), 920 TB (Terabyte)의 DRAM (Dynamic Random Access Memory) 칩으로 구성되어 무수히 많은 데이터의 패턴을 인지하는 심층신경망 (Deep Neural Network, DNN) 방식으로 구동 되었는데 서버와 인터넷 연결 문제뿐만 아니라 12 GW라는 엄청난 전력이 요구되어 일상생활에 적용하기에는 어려운 방식이다. 뉴로모픽 공학 (Neuromorphic Engineering)은 초대규모 집적 회로 기술 (Very Large Scale Integration Technology, VLSI)에 기반 하여 제작된 상보성 금속-산화물-반도체 (Complementary Metal-Oxide-Semiconductor, CMOS)와 같은 다양한 소자를 이용하여 인간의 두뇌의 전기적 신호의 흐름을 모사하는 회로를 만들고 이를 이용하여 인간의 두뇌처럼 연산을 수행하는 연산 단위 (Computing Unit)을 구성하는 것으로 정의 될 수 있다.

이러한 뉴로모픽은 해외에서 2015년 세계경제포럼 (World Economic Forum) 에서 2015년 주목해야할 기술 중 하나로 뽑혔고 국내에서는 한국전자통신연구원에서 2015년 주목해야할 7대기술 중 하나로 선정되었다. 인간의 뇌는 약 1011 개의 뉴런 (Neuron)과 약 1015 개의 시냅스 (Synapse)로 구성되어 있으며 에너지 효율적 (Energy-Efficient), 뛰어난 장애허용능력 (Fault-Tolerant), 병렬형 데이터 처리, 3차원 구조의 조밀화, 저장 및 연산 조합 및 주변 환경에 대한 자기 학습 (Self-Learning)이 가능한 특성을 갖는 뛰어난 컴퓨팅 구조로 이미지, 화상, 소리 인식, 방향 탐지 등과 같은 비정형 데이터를 수행하는데 있어 기존의 Von Neumann 컴퓨팅 시스템보다 유리한 궁극의 컴퓨팅 시스템으로 관련 많은 연구 결과가 보고되어지고 있다.

이러한 인간의 두뇌는 현존하는 슈퍼컴퓨터보다 약 50만배 적은 전력으로 500배 이상의 연산이 가능하다고 알려져 있다. 아래 표는 인간의 두뇌와 Si CMOS 소자 특성을 비교하고 있다.

저전력·고성능·소형화, 무수히 많은 데이터 처리

인간 두뇌 전기적 신호 흐름 모사, 두뇌처럼 연산

뉴런은 소마 (Soma, 세포체), 수상돌기 (Dendrite) 및 축색돌기 (Axon)로 구성되며 세포체 내에서 0.1~1 ms동안 약 100 mV의 진폭 조건 내에서 활동전위 (Action Potential, Spike)를 발생시킨다. 이러한 활동전위는 축색돌기를 통해 진행되며 시냅스를 통해 다른 뉴런세포에 전달된다. 시냅스는 수상돌기와 축색돌기 사이에 20~40 nm 의 간격으로 뉴런이 전기적 또는 화학적 신호를 다른 세포에게 전달하게 하는 역할을 하며 두뇌에서 가장 많은 연산 요소이다. 시냅틱 소자는 인간의 생물학적 시냅스 기능을 모방하는 소자로 뉴론 회로와 결합하여 인간의 두뇌 기능을 구현하는데 필요한 뉴로모픽 요소 소자이다. <그림 3-3-3-2> 반도체 소자의 최신 기술 동향을 알 수 있는 세계 최대 전자소자 학회인 국제 전기전자협회 주관 국제 전자 소자 학회 (IEEE International Electron Devices Meeting, IEDM)의 올해 주요 발표 주제는 주로 인공지능, 뉴로모픽 소자 및 시스템에 관한 내용이며 앞으로 활발하게 연구되어야 할 방향으로 동의하고 있다.

뉴로모픽 소자는 앞서 기술한 바와 같이 인간의 뇌신경 구조를 현재의 반도체 소자 집적 회로 기반의 하드웨어로 구현하는 것이고 특히, 뉴런에서 발생하는 Spiking을 다른 뉴런으로 전달하는 시냅스 기능을 반도체 소자로 구현하는 것을 시냅스 소자로 정의할 수 있다. 기존의 소프트웨어 기반의 DNN과는 다르게 뉴런은 세포막에서 특정 전압치에 도달할 때만 전기 펄스를 보내는 방식의 스파이킹신경망 (Spiking Neural Network, SNN)을 이용하여 기억과 연산을 동시에 처리하는 초저전력 고성능을 구현하고자 한다. 이때 기존의 SRAM (Static Random Access Memory)뿐만 아니라, 저항변화스위칭메모리 (Resistive Random Access Memory, RRAM), 상변화메모리 (Phase Change Random Access Memory, PCRAM), 스핀전달토크 기반 자성 메모리(Spin Torque Transfer Random Access Memory, STT-MRAM), 강유전체메모리 (Ferroelectric Random Access Memory, FeRAM) 등과 같은 차세대 메모리기반의 소자와 메모리와 저항의 특성을 갖는 멤리스터 (Memristor)소자가 뇌의 기능을 효율적으로 처리하는데 필요한 소자로 관심을 받고 있다.

■ 시냅스 가소성 및 학습

Pre-synaptic 뉴런에 활동전위 (action potential)가 다다르면 Ca+2 이온이 뉴런으로 확산되어 시냅스 소포가 신경 전달 물질 (Neurotransmitter, ex. glutamate)을 시냅스 틈 (Synapse Gap)으로 발산시키고 확산을 통해 다른 post-synaptic 뉴런의 Na+ 이온에 의한 수용체 (receptor)와 결합을 하고 뉴런 내부로 확산하게 되어 기저 상태의 막전위 (Membrane Potential)을 증가 시켜 한계치 (Threshold)에 다다르면 뉴런은 활동전위 (action potential)을 발사 (Firing)하게 되는데 이러한 뉴런과 시냅스 전달에 의한 Spiking Activity-Dependent Plasticity (활동 전위의 변화 의존에 따른 가소성)는 두뇌의 기억과 학습을 담당한다.

뉴런은 다른 뉴런으로부터 input을 받아 spike를 만들어 연산되며 시냅스는 뉴런의 작용으로 연결 강도/무게 (interconnection strength/weight)의 변화로 연산되며 이러한 과정을 시냅스 가소성 (Synaptic Plasticity)이라 한다.

시냅스 가소성은 Pre-Synaptic 과 Post-Synaptic 뉴런 사이의 신경계 작용의 결과로 뉴런간 연결 강도/무게 (Interconnection Strength/Weight)의 변화가 가능하다는 것에 기인한다.

1990년대 후반 제안되어 실험적 및 계산으로 널리 동의 되는 스파이킹 시간 의존 가소성 (Spiking-Time-Dependent-Plasticity, STDP)은 Pre-와 Post-Synaptic Spike의 상대적 시간 차이가 시냅스 무게 (Synaptic Weight)를 변화 시킨다는 것이다. Activity-Dependent Plasticity (활동 전위의 변화 의존에 따른 가소성)는 두뇌의 기억과 학습을 담당한다. <그림 3-3-3-3 우) 뉴런은 다른 뉴런으로부터 input을 받아 spike를 만들어 연산되며 시냅스는 뉴런의 작용으로 연결 강도/무게 (interconnection strength/weight)의 변화로 연산되며 이러한 과정을 시냅스 가소성이라 한다. 위 그림의 오른쪽에서 볼 수 있듯이 Pre-Synaptic Spike가 Post-Synaptic Spike 보다 계속해서 선행하면 (△t > 0) 시냅스의 강도는 증가하게 된다 (Synaptic Weight의 증가 또는 Conductance의 상승). 반면에 Post-Synaptic Spike가 Pre-Synaptic Spike보다 선행하면 (△t < 0) 시냅의 강도는 감소하게 된다 (Synaptic Weight의 증가 또는 Conductance의 상승). 이러한 Synapse weight의 차이는 Pre-와 Post-뉴런의 Spiking 시간 차이에 영향을 받으며 시간이 짧을수록 높은 Synapse Weight를 갖게 된다. Synaptic Weight에 따라 단기 증가 (Short-Term Potentiation, STP), 단기 감소 (Short-Term Depression, STD), 장기 증가 (Long-Term Potentiation, LTP) 및 장기 감소 (Long-Term Depression)으로 구분되어 질수 있으며 Potentiation과 Depression은 기억 (Memory)과 삭제 (Loss Memory)와 관련 있다. 시냅스 소자는 이러한 Synaptic Weigth의 변화를 저항 (Resistance), 전도도 (Conduction) 및 전류 (Current)로 해석할 수 있는 하드웨어로 다양한 재료 및 가해진 자극에 따라 여러 가지 타입으로 연구되어진다.</p>

시냅스 특성을 갖는 뉴로모픽 소자는 위 그림의 오른쪽과 같이 전류 vs. 전압 특성이 점진적으로 변화는 아날로그 특성을 가져야한다.

■ 4차 산업혁명 관점에서 기술의 중요성

4차 산업 혁명의 트렌트는 무수한 스마트 기기들이 사물인터넷에 연결되는 환경으로 특징 지워질 수 있는데 현재의 인공 지능 기술은 기존의 컴퓨팅 방식에 의존할 뿐만 아니라 기존의 소프트웨어 알고리즘 (ex. DNN)과 빅데이터를 활용한 데이터 처리기반의 AI는 서버와 인터넷의 연결 문제뿐만 아니라 많은 전력을 소모하기에 실제 일상생활에 다방면으로 응용되기에 한계를 가지므로 인간의 뇌의 기능을 모방한 뉴로모픽 소자 기술은 하드웨어 크기와 저전력으로 특징으로 비약적인 성능 향상이 예상된다.

4차 산업혁명의 시대에 돌입한 이후 우리 일상생활은 실시간 문자 번역, 실시간 얼굴 및 물체 인식, IoT 센서, 첨단운자보조시스템으로부터 시작해서 지능형 로봇, 드론, 자율 주행 자동차, 지능형 센서, 웨어러블 디바이스, AI 비서 및 스마트 팩토리 등 새로운 트렌드에 놓이기 될 것으로 예상되며 이러한 시스템을 구현하기 위해 뉴로모픽 소자의 활용이 절대적으로 필요하다. <그림 3-3-3-5> 이를 통한 다양한 분야로의 파급 효과 또한 대단할 것으로 예상된다. 4차 산업혁명을 진행하기 위해 무수히 많은 데이터 처리는 병렬 처리 방식의 컴퓨팅 시스템이 필요하며 <그림 3-3-3-6>에서 볼 수 있듯이 저전력 기반의 computing을 구현할 수 있는 것은 다양한 후보 소자 기술 중 뉴로모픽 소자임을 알 수 있듯이 저전력, 고성능, 소형화를 특징으로 하는 뉴로모픽 소자는 기존의 방식과 비교해 볼 때 필수적으로 개발 되어야 하며 4차 산업혁명을 가속화할 잠재성이 높은 기술이다.

▲ <그림 3-3-3-1>High-level 컴퓨팅과 뉴로모픽 컴퓨팅 시스템 비교

▲ <표 3-3-3-1>인간 두뇌와 CMOS 소자의 특징 비교

▲ <그림 3-3-3-2>Von Neumann과 Neuromorphic Circuit에서의 Interconnectivity

▲ <그림 3-3-3-3> 화학적 시냅스의 Potentiation(Post-Synaptic 뉴론 내에서 전위 증가) 에 대한 Schematics(좌)과 Pre-Synaptic 및 Post-Synaptic 뉴런의 활동 전위(또는 Spiking)의 시간 차이에 따른 Synaptic 무게 변화(Syanptic Weight Change)로 정의되는 스파이킹의 시간 의존에 따른 가소성(Spike-Time-Dependent-Plasticity, STDP)(우)

▲ <그림 3-3-3-4>Von Neumann 기반의 소자(왼쪽)와 뉴로모픽 소자(오른쪽)의 전류vs전압 특성. 시냅스 뉴로모픽 소자는 아날로그 특성이 나타난다.

▲ <그림 3-3-3-5>뇌 모방 소자의 도입에 따른 트렌드 변화

▲ <그림 3-3-3-6>다양한 소자에 따른 전력 소모 및 성능 비교