온디바이스 AI 메모리 칩 하나가 이번 달 실험실 성과로 한 걸음 더 가까워졌습니다. 서던캘리포니아대학교(USC) 비터비 공과대학의 J. 조슈아 양 교수 연구팀이 초박형 스위치 부품을 만들었습니다. 이 부품을 쓰면 스마트폰이 클라우드 서버로 아무것도 보내지 않고도 대형 AI 모델을 직접 돌릴 수 있습니다.
연구팀이 손댄 부분은 데이터를 저장하는 메모리 셀 자체가 아닙니다. 메모리 격자 안에서 어느 한 칸을 읽거나 쓸지 결정하는 부품, 즉 선택기(selector)입니다. 그동안 메모리를 AI 작업에 필요한 만큼 촘촘하게 쌓지 못한 이유는 저장 소재가 아니라 이 선택기의 한계 때문이었습니다.
새 선택기는 원자 두께의 2차원 소재 다섯 층을 쌓아 만들었습니다. 그래핀, 이황화몰리브덴, 터널 장벽, 이황화몰리브덴, 그래핀 순서입니다. 실험실 시험에서 1조 번이 넘는 스위칭 사이클을 견뎠습니다. 열림과 닫힘 상태를 구분하는 정확도는 기존 최고 기록보다 약 100배 높았습니다. 이 결과는 9월 12일 국제 학술지 Nature Electronics에 논문으로 발표됐습니다.
내구성과 정확도, 그리고 얇은 두께를 동시에 갖췄다는 점은 중요합니다. 메모리를 3차원으로 쌓아 올릴 길이 열리기 때문입니다. 지금까지 쓰인 트랜지스터 방식 선택기로는 이렇게 쌓을 수 없었습니다.
온디바이스 AI 메모리 칩, 병목의 정체는 저장 소재가 아니라 선택기
양 교수는 USC 발표 자료에서 이 결과를 이렇게 설명했습니다. 메모리는 AI 하드웨어의 병목입니다. 그리고 메모리의 병목은 메모리 소자 자체가 아니라 그 게이트키퍼, 즉 문지기에 있다는 것입니다. 이 문지기 역할을 하는 부품이 선택기입니다. 왜 그런지는 메모리 칩이 배선되는 방식을 보면 알 수 있습니다.
메모리 칩을 격자 모양 도로망이라고 생각해 보겠습니다. 저장 셀 하나하나가 각 교차로에 놓여 있습니다. 셀 하나를 읽거나 쓰려면 같은 도로에 있는 다른 교차로를 건드리지 않고 그 교차로 하나에만 접근해야 합니다. 각 교차로에서 통행을 열거나 막는 장치가 선택기입니다. 쉽게 말해 칩이 한 줄이나 한 열 전체가 아니라 셀 하나씩만 골라 대화할 수 있게 해 주는 스위치입니다.
지금까지 이 스위치는 대개 3단자 트랜지스터였습니다. 트랜지스터는 작동은 하지만 상대적으로 큽니다. 게다가 평면 구조라서 3차원으로 쌓기 어렵습니다. 트랜지스터 방식 선택기 위에 메모리층을 하나 더 올릴 때마다 크기와 발열이 늘어납니다. 스마트폰과 노트북이 아직 데이터센터 서버랙만큼 빠른 메모리를 담지 못하는 이유 중 하나가 여기 있습니다.
AI 모델이 커지면서 이 제약은 넘기 힘든 한계로 바뀌었습니다. 대형 언어모델을 스마트폰 안에서만 돌리려면 수십억 개 매개변수를 모델 연산 속도를 따라갈 만큼 빠른 메모리에 담아야 합니다. 데이터센터는 메모리 칩과 전력을 더 넣어 이 문제를 풉니다. 스마트폰에는 그럴 여지가 없습니다. 배터리 용량과 본체 내부 공간이 고정돼 있기 때문입니다.
USC 연구팀이 좁히려는 간극이 바로 여기입니다. 데이터를 저장하는 새로운 방법을 발명한 것이 아니라, 다음에 어느 저장 비트를 건드릴지 결정하는 선택기를 줄이고 강화한 것입니다.
이들의 접근은 트랜지스터와는 아예 다른 물리 원리에서 출발합니다. 메모리 격자 안에 곧바로 넣을 수 있습니다. 평면에 펼치는 대신 층층이 쌓을 수 있을 만큼 얇기 때문입니다.
온디바이스 AI 메모리 칩, 스위치를 대신한 원자층 다섯 겹
USC의 선택기는 5층 구조입니다. 맨 위에 그래핀, 그다음 이황화몰리브덴, 가운데에 터널 장벽, 다시 이황화몰리브덴, 맨 아래 그래핀 순입니다. 전류는 가운데 장벽을 터널링으로 통과해야 합니다. 연구팀은 이 장벽을 두 가지 소재로 각각 만들어 비교했습니다. 하나는 육방정 질화붕소(hBN), 다른 하나는 황화갈륨(GaS)입니다.
질화붕소 소자는 내구성에서 가장 앞섰습니다. 열림과 닫힘 상태를 구분하는 비율인 비선형성이 1,000만 배를 넘었습니다. 시험에서 1조 번 넘는 스위칭 사이클을 견뎠습니다. 20나노초 미만으로 전환됐고, 온도가 올라가도 특성이 거의 바뀌지 않았습니다. 이는 일반 트랜지스터 선택기가 흔히 어려움을 겪는 부분입니다.
황화갈륨 소자는 이 성능 일부를 내주는 대신, 스마트폰이 직접 신경 쓰는 값을 얻었습니다. 동작 전압이 2.5V에 불과해 배터리 사용 시간에 의미가 있을 만큼 낮고, 비선형성도 100만 배를 넘습니다.
두 수치 모두 이 계열 소자의 기존 최고 발표 기록을 두 자릿수, 대략 100배 안팎 차이로 넘어섰다고 논문은 밝혔습니다. 최고치 못지않게 중요한 것은 균일함입니다. 장벽은 원자층을 한 겹씩 쌓아 만들었습니다. 그래서 식각이나 증착으로 고르지 않게 만드는 기존 방식보다 셀 사이 편차가 크게 줄었습니다. 이 편차는 그동안 선택기 설계를 대량 생산 규모에서 신뢰하기 어렵게 만든 요인 중 하나였습니다.
이 연구는 USC가 주도했고 플로리다대학교, 미 공군연구소, 미 육군연구소, 일본 국립물질재료연구소가 함께 참여했습니다. 논문 제목은 “High-performance tunnel-junction selectors with graded tunnel barriers based on five-layer van der Waals heterostructures”이며 Nature Electronics에 실렸습니다.
같은 메모리 병목을 다른 방향에서 공략하는 곳도 있습니다. 세레브라스는 각 셀 안의 스위치를 새로 설계하는 대신, AI 모델 전체의 메모리를 자르지 않은 웨이퍼 한 장에 담는 방식을 택했습니다. USC 연구팀이 쓴 논문 원문에는 이번 소자의 물리적 원리가 전부 기술돼 있습니다.
실험실 결과와 아직 남은 과제
선택기 소자 하나를 실험실에서 시연한 것과 완성된 메모리 칩은 다른 이야기입니다. 스마트폰에 실제로 쓰이려면 이런 선택기가 저항형 메모리 셀이나 축전기 같은 실제 저장 소자와 대규모로 결합돼야 합니다. 또한 시험대 위 소자 몇 개가 아니라 웨이퍼 전체 규모로 제조돼야 합니다.
논문 저자들도 이 간극을 직접 밝혔습니다. 선택기와 저항, 또는 선택기와 축전기를 결합하는 일은 아직 시연하지 못했고, 앞으로의 방향으로만 제시했습니다. 대규모 제조 공정이 실제로 가능한지도 추가 연구가 필요하다고 적었습니다.
스마트폰 제조사나 메모리 업체 중 이 소자를 실제 제품에 넣겠다고 발표한 곳은 아직 없습니다. 학계의 선택기 연구는 실험실 수치는 좋지만 공장 생산까지 여러 해가 걸리거나 끝내 도달하지 못하는 사례가 많았습니다. 지금 스마트폰에 쓰이는 트랜지스터 방식 선택기도 논문에서 양산까지 같은 여러 해의 과정을 거쳤습니다.
지금 스마트폰과 데이터센터에 실제로 쓰이는 것은 D램, 낸드플래시, 그리고 더 최근의 고대역폭 메모리(HBM)입니다. 이 기술들은 이번 방식과 경쟁하는 다른 여러 접근법이 논문이 남긴 제조 관련 질문들을 풀어가는 동안에도 계속 쓰일 것입니다.
이번 결과가 확인한 것은 물리적 원리가 작동한다는 사실입니다. 이렇게 얇은 5층 구조가 몇 배나 더 큰 선택기와 맞먹거나 그 이상의 전기적 성능을 낼 수 있다는 것입니다. 이것이 제조 규모에서도 유지된다면 그 이득은 스마트폰에서 그치지 않습니다. 같은 메모리 병목은 데이터센터 서버랙 한 대가 전력 1와트당 처리할 수 있는 AI 작업량도 제한합니다. 그래서 더 작고 더 저렴한 선택기는 데이터센터에서도 의미가 있습니다.
참고 자료
USC 비터비 공과대학, “A Tiny Gatekeeper Could Keep AI on Your Device,” 2026년 9월 21일
Liu 외, “High-performance tunnel-junction selectors with graded tunnel barriers based on five-layer van der Waals heterostructures,” Nature Electronics, 2026년 9월 12일
