테크 포커스

R&Dism>공학자의 시선

반도체의 미래는 새로운 소재에서 시작된다

글 류혜진 한국과학기술연구원 반도체기술연구단 책임연구원

더 작게 만드는 기술의 한계를 마주한 지금, 미래 반도체의 핵심 열쇠는 '새로운 기능성 소재'에 있다.
본 칼럼에서는 방사광 가속기 기반의 전자구조 분석을 통해 신소재 속 전자의 동작 원리를 규명하고, 이를 차세대 소자 기술로 완성해나가는 연구 과정과 의의를 다룬다.
미시적인 전자의 변화를 인류의 삶을 바꿀 기술로 전환하고자 하는 비전을 소개한다.

포항 4세대 방사광 가속기PAL-XFEL 내부의 번치 압축기 장치. 전자 뭉치를 정밀하게 압축해 극초단·고휘도 X선을 만들어내는 핵심 장비다. 이렇게 생성된 빛은 신소재 내부 미시 세계 속 전자의 에너지와 운동량을 측정하는 광원이 된다.

반도체 산업은 오랫동안 '더 작게, 더 빠르게' 만드는 경쟁을 이어왔다. 더 미세한 공정을 구현하고, 더 많은 트랜지스터를 집적하는 기술은 반도체 발전의 핵심 동력이었다. 그러나 인공지능^{AI, Artificial Intelligence}이 산업 전반을 바꾸기 시작한 지금, 공학자들은 조금 다른 질문을 던지고 있다. 더 작게 만드는 것만으로 미래 반도체가 요구하는 성능을 모두 구현할 수 있을까?

AI 반도체는 단순히 계산속도가 빠른 프로세서를 의미하지 않는다. 방대한 데이터를 실시간으로 처리하고, 수많은 센서에서 발생하는 정보를 지연 없이 분석하며, 동시에 전력 소비는 획기적으로 줄여야 한다. 자율주행 자동차, 휴머노이드 로봇, 온디바이스 AI와 같은 미래 기술이 현실이 되기 위해서는 지금보다 훨씬 효율적이고 지능적인 반도체가 필요하다. 이는 기존 CMOS 기술을 계속 미세화하는 것만으로는 해결하기 어려운 문제다. 결국 공학자들의 관심은 '어떻게 더 작게 만들 것인가'에서 '어떤 새로운 기능을 구현할 수 있는가'로 점차 옮겨가고 있다.

반도체 발전의 본질은 '소재 혁신'에 있다

반도체 박막 증착 실습용 웨이퍼 전시 모습. 단순한 미세화를 넘어 소재 자체에 새로운 기능을
설계하는 신소재 연구가 미래 반도체 산업의 새로운 패러다임을 열어가고 있다.

돌이켜보면 반도체의 역사는 새로운 소재의 역사라고도 말할 수 있다. 게르마늄에서 실리콘으로의 전환은 직접회로 시대를 열었고, 실리콘 산화막은 CMOS 기술의 기반이 되었다. 이후 구리 배선, 고유전율 절연막, 금속 게이트 같은 소재의 도입은 미세공정의 한계를 극복하며 반도체 성능을 획기적으로 향상했다. 새로운 공정이 새로운 소재를 필요로 했던 것이 아니라, 새로운 소재가 새로운 공정을 가능하게 했던 것이다. 지금 우리가 맞이하는 AI 시대 역시 또 한 번의 소재 혁신을 요구하고 있다.

이러한 이유로 최근에는 반데르발스 소재, 위상 양자 소재, 강유전·강자성 소재 등과 같은 다양한 기능성 소재가 활발히 연구되고 있다. 이들 소재는 단순히 전기가 잘 흐르거나 잘 흐르지 않는 물질이 아니다. 전자의 전하뿐 아니라 스핀, 궤도, 결정의 대칭성 같은 양자역학적 자유도를 활용해 기존 반도체에서는 구현하기 어려웠던 기능을 제공할 수 있다. 다시 말해 미래 반도체 소재 개발은 기존 소재를 다른 물질로 바꾸는 것이 아니라, 소재 자체에 새로운 기능을 설계하는 일이라고 할 수 있다.

작은 전자의 움직임에서 가능성을 읽다

그러나 새로운 소재를 발견하는 것과 그것을 실제 기술로 구현하는 것은 전혀 다른 문제다. 연구실에서 새로운 물질을 합성하는 순간이 끝이 아니라, 오히려 그때부터가 시작이다. 그 소재 안에서 전자가 어떻게 움직이고, 왜 기존 물질에서는 나타나지 않던 물성이 발생하는지 이해해야만 비로소 새로운 소자로 이어질 수 있다. 실제로 겉보기에는 비슷해 보이는 물질이라도 전자구조가 조금만 달라지면 전기 전도성이나 자성은 물론, 소자의 동작 원리 자체가 완전히 달라질 수 있다. 결국 소재를 발견하는 것보다 더 어려운 일은 그 소재를 이해하는 것이며, 이것이 공학자가 해결해야 할 중요한 과제 가운데 하나다.

원자현미경을 이용해 반도체 웨이퍼 표면의 나노미터 단위 패턴과 미시적 물성을 정밀 측정하는 모습.

세계적 규모의 방사광 가속기 시설인 유럽방사광가속기연구소^ESRF 전경. 방사광 가속기에서 나오는 고휘도의 빛을 이용하면 신소재 내부 전자의 에너지와 운동량(전자구조)을 직접 측정할 수 있다.

필자가 수행하는 각도분해 광전자분광법^{ARPES, Angle-resolved Photoemission Spectroscopy}을 활용한 전자구조 연구는 바로 이러한 질문에 답하기 위한 연구다. 방사광 가속기의 빛을 이용하면 물질 속 전자의 에너지와 운동량을 직접 측정할 수 있으며, 이를 통해 새로운 물성이 어디에서 비롯되는지 확인할 수 있다. 실험실에서 하루 종일 들여다보는 전자 밴드의 작은 이동이나 스핀 상태의 변화는 언뜻 보면 미세한 차이에 불과하다. 그러나 연구자의 눈에는 그 작은 변화가 새로운 기능의 단서가 되고, 아직 존재하지 않는 반도체의 가능성으로 읽힌다. 소재를 개발하는 연구와 전자구조를 이해하는 연구는 별개의 과정이 아니라 하나의 기술을 완성하는 두 축인 셈이다.

미시적 현상의 발견에서 상용화 소자로의 진화

최근에는 물질에서 나타나는 비선형 홀 효과^{Nonlinear Hall Effect}가 차세대 기능성 반도체 소재로 주목받고 있다. 일반적인 홀 효과는 자기장이 있어야 나타나지만, 반전 대칭성이 깨진 특정한 결정구조를 가진 물질에서는 자기장이 없어도 비선형적인 홀 전압이 발생할 수 있다. 이 새로운 물리현상은 전자구조 연구를 통해 그 주요 기원이 베리 곡률 쌍극자임이 밝혀졌고, 나아가 전자구조 제어를 통해 베리 곡률 쌍극자를 제어함으로써 비선형 홀 효과의 특성을 제어할 수 있음이 입증되었다. 이처럼 전자구조 연구는 새로운 물리현상의 미시적 기원을 규명할 뿐만 아니라, 원하는 물성을 구현하기 위한 소재 개발과 특성 최적화의 핵심 지침을 제공한다. 이러한 이해를 바탕으로 비선형 홀 효과를 나타내는 기능성 소재는 정류소자, 고감도 센서, 메모리, 에너지 하베스팅 소자 등 차세대 반도체 소자로의 응용 가능성을 넓혀가고 있다.

비선형 홀 효과를 보이는 반전 대칭성이 깨진 물질의 원자구조.
대칭성이 깨진 원자 배열을 활용해 자기장 없이도 특이 전압 신호를 발생시킴으로써,
기존 실리콘 한계를 넘어서는 차세대 센서·메모리 소자의 가능성을 보여준다.
출처 : J.-E. Lee et al., Nature Communications, 2024

온도 변화(2~300K)에 따른 비선형 홀 효과의 변화. 극저온(2K, 영하 271℃)부터 상온(300K, 27℃)에 이르기까지 온도가 변함에 따라 나타나는 비선형 홀 전압 신호를 측정한 데이터다. 양자 물성이 실험실 환경을 넘어 실제 반도체 제품이 작동하는 상온(300K) 환경에서도 안정적으로 구현 가능한지 검증하기 위한 지표가 된다.
출처 : J.-E. Lee et al., Nature Communications, 2024

물론 흥미로운 물리현상이 발견되었다고 해서 곧바로 산업으로 이어지는 것은 아니다. 상온에서도 안정적으로 동작하는 소재를 개발하고, 기존 반도체 공정과 호환되는 소자를 제작하며, 대면적 성장 기술을 확보하는 과정이 반드시 뒤따라야 한다. 다시 말해 미래 반도체 소재 개발은 물질 합성, 전자구조 분석과 같은 물성 측정, 이론 분석, 소자 제작이 긴밀하게 연결될 때 비로소 완성된다.

오늘날 실험실에서 관측하는 작은 전자 상태의 변화가 당장 하나의 제품으로 이어지지 않을지도 모른다. 그러나 지금의 반도체 산업은 전자의 움직임을 이해하려는 연구에서 출발했다. 미래의 반도체 경쟁 역시 더 작은 회로를 만드는 경쟁을 넘어 새로운 소재를 발견하고, 그 안의 전자를 얼마나 깊이 이해하며, 그것을 새로운 기능으로 연결할 수 있는가의 경쟁이 될 것이다. 공학자의 역할은 아직 이름조차 붙지 않은 새로운 물성을 발견하는 데 그치지 않는다. 그 가능성을 기술로 구현하고, 결국 사람들의 삶을 바꾸는 반도체로 연결하는 것. 그것이 반도체를 연구하는 공학자의 역할이라고 믿는다.

류혜진 한국과학기술연구원 반도체기술연구단 책임연구원
서강대학교에서 학사, 서울대학교에서 석사학위를 취득한 후, 미국 뉴욕주립대학교 스토니브룩^{The State University of New York at Stony Brook}에서 물리학 박사학위를 받았다.
이후 미국 로렌스버클리 국립연구소^{Lawrence Berkeley National Lab}와 막스플랑크 포스텍연구소^{Max Plank POSTECH}에서 박사후연구원으로 근무했으며,
현재 한국과학기술연구원^KIST에서 책임연구원으로 재직하고 있다. 방사광 가속기를 활용한 전자구조 분석을 바탕으로
다양한 반도체 신소재의 전자구조적 특성 및 물성을 규명하고, 이를 차세대 반도체 소재 및 소자 기술로 확장하는 연구를 주로 수행하고 있다.