AI가 RFIC 설계의 “흑마술”을 배우다

• RFIC는 5G, 자동차 레이더, 위성 통신 같은 무선 기술의 기반이지만, 전자기·열·패키징 신뢰성을 함께 맞춰야 해 수작업 중심의 난제로 남아 있음
• Princeton 연구진은 인간 설계 템플릿을 출발점으로 삼지 않고, 강화학습과 역설계를 결합해 아키텍처·회로 토폴로지·소자 파라미터·전자기 인터페이스를 처음부터 탐색함
• AI 기반 에뮬레이터는 임의의 2차원 전자기 구조에 대한 산란 파라미터를 밀리초 단위로 예측해, 기존 전자기 솔버의 분~시간 단위 반복을 크게 줄임
• 2023년 30~100GHz 밀리미터파 전력 증폭기에서 당시 실리콘 기반 전력 증폭기 중 대역폭·출력·효율 조합이 가장 좋은 결과를 냈고, 2024년에는 multiport IC 구조도 분 단위로 생성함
• AI는 작동하지 않는 회로도 만들 수 있어 검증에는 인간 감독이 필요하며, 범용 모델로 가려면 NDA에 묶인 RFIC·아날로그 설계 데이터를 공유할 개방형 생태계가 필요함

RFIC 설계가 “흑마술”로 남은 이유

• RFIC는 기기가 무선으로 정보를 송수신하게 하는 핵심 회로이며, 자율주행차, 양자 통신, 6G, 위성 통신의 발전도 더 진보한 RF 칩에 의존함
• CPU나 GPU 설계는 표준화된 과학에 가까워졌지만, RF 설계는 오랜 경험으로 익히는 수작업 기반 기술의 성격이 강함
• RFIC 설계는 여러 물리 영역을 동시에 다룸
  • Maxwell 방정식은 전자기장이 능동·수동 소자와 상호작용하는 방식을 지배함
  • 열역학은 동작 중 열이 생성되고 제거되는 방식을 좌우함
  • 열팽창과 수축은 칩과 패키지가 온도 변화에서 안정적으로 버티는지와 연결됨
• 모든 물리 제약을 함께 고려해야 하므로 설계 공간이 매우 크고, 한 성능 지표를 높이면 다른 지표가 나빠지는 트레이드오프가 자주 생김

전통적 RFIC 설계 흐름과 병목

• 5G 밀리미터파 핸드셋용 28GHz 전력 증폭기를 설계하려면 먼저 회로 아키텍처와 토폴로지를 정해야 함
• RFIC 아키텍처는 집의 청사진처럼 필요한 구성 요소와 신호 경로를 정함
  • 전력 증폭기에서는 증폭 단계 수가 중요한 요소가 됨
  • RFIC 면적 대부분은 트랜지스터보다 인덕터, 전송선 같은 수동 소자와 전자기 구조가 차지함
• 5G 신호는 28GHz와 39GHz, 위성 통신은 26.5~40GHz 이상, 자동차 레이더는 77GHz에서 동작하며, RFIC는 이런 고주파에서 신호 에너지를 정교한 전자기 구조로 관리함
• 신호 경로가 다음 구성 요소와 제대로 맞지 않으면 에너지가 앞으로 흐르지 않고 뒤로 반사되는 임피던스 매칭 문제가 생김
  • 엔지니어는 구성 요소 사이에 미세한 전환 구조를 설계해 반사를 줄임
  • 이 구조는 신호 전달뿐 아니라 분할, 결합, 다중 경로 분배에도 쓰일 수 있음
• 사양을 만족하지 못하면 토폴로지나 아키텍처를 다시 고치고 시뮬레이션을 반복해야 하며, 새 칩 설계에는 수년과 수천만~수억 달러가 들어갈 수 있음

템플릿을 벗어난 AI 설계 접근

• 기존 연구는 머신러닝을 회로 템플릿 최적화에 활용했지만, 여전히 인간이 만든 기존 설계 라이브러리에 의존함
• Princeton 연구진의 목표는 미리 만든 토폴로지 없이 아키텍처, 구성 회로, 전자기 수동 구조의 모든 파라미터를 알고리듬이 처음부터 정하게 하는 것임
• 이 방식은 기존 최적화와 출발점이 다름
  • 기존 방식은 인간이 만든 구조에서 트랜지스터 크기나 수동 소자 형상 같은 파라미터를 조정함
  • 새 방식은 빈 상태에 가까운 출발점에서 후보 회로 조합을 만들고, 성능 트레이드오프를 매핑하며 설계 공간을 탐색함
• 접근 방식은 AlphaGo Zero처럼 인간 사례를 따라가기보다 자체 탐색과 평가로 설계 전략을 발전시킴
• 알고리듬은 회로, 전자기, 그리고 둘 사이의 공동 설계를 학습해 end-to-end RFIC 설계를 목표로 함

강화학습과 역설계의 결합

• 첫 단계는 강화학습 프레임워크로, 최적의 시스템 아키텍처, 회로 토폴로지, 소자 파라미터, 전자기 인터페이스 특성을 정함
• 강화학습 에이전트는 게임을 배우는 컴퓨터처럼 여러 조합을 시도하고, 행동과 점수의 관계를 관찰하며 더 나은 회로를 찾아감
  • 학습에는 며칠에서 일주일이 걸림
  • 학습이 끝난 뒤에는 회로를 매우 빠르게 설계할 수 있음
• 두 번째 단계는 원하는 산란 파라미터를 만드는 물리적 전자기 구조를 찾는 역설계임
  • 산란 파라미터는 신호가 구성 요소 안으로 들어갔을 때 앞으로 진행하는지, 뒤로 반사되는지를 측정함
  • 구조공학에서 목표 공간을 만들기 위해 아치나 버팀 구조를 찾는 방식과 유사함
• RFIC 역설계는 회로 동작과 인터커넥트·수동 소자의 전자기 응답을 동시에 맞춰야 하므로, 반복적인 수작업 탐색만으로 해결하기 어려움

AI 에뮬레이터가 줄인 전자기 설계 반복

• 연구진은 RF 회로 시뮬레이터를 AI 기반 에뮬레이터로 대체함
• 이 모델은 임의의 2차원 구조를 입력받아 Maxwell 방정식을 직접 계산하지 않고 산란 파라미터를 예측함
  • 기존 전자기 솔버가 분~시간 걸리던 작업을 밀리초 단위로 줄임
• 에뮬레이터는 이미지 처리에 강한 합성곱 신경망을 기반으로 구축됨
  • 구조 이미지는 전자기 성능을 예측할 수 있는 공간 정보를 포함함
  • 연구진은 산란 파라미터가 라벨링된 다수의 무작위 픽셀 구조로 모델을 학습시킴
• 강화학습 기반 역설계와 AI 에뮬레이터를 결합해 end-to-end AI designer를 구성하고, 전력 증폭기 설계에 적용함

사람과 다른 RF 아키텍처 결과

• 2023년 공개된 개념 증명은 30~100GHz 밀리미터파 대역 전력 증폭기를 대상으로 함
  • 이 범위는 관련 5G와 레이더 주파수 대부분을 포함함
  • 최종 설계는 당시 실리콘 기반 전력 증폭기 중 wide bandwidth, output power, efficiency의 조합이 가장 좋았고, record efficiency를 유지함
• 생성된 전자기 경로는 사람이 일반적으로 고려하는 정규적·대칭적 구조와 달리, 임의 패턴이나 QR 코드처럼 보였음
• 이 결과는 역사적으로 사용해 온 템플릿이 현대 설계 목표에 최적에 가깝다는 보장이 없음을 보여줌
• 이후 연구진은 입출력 포트가 많은 구조로 모델을 확장함
  • 2개 포트는 산란 파라미터 4개, 4개 포트는 16개가 되어 복잡도가 빠르게 증가함
  • 2024년 multiport integrated circuits 연구에서 AI 알고리듬이 multiport 구조도 다룰 수 있음을 보임
  • 이전에는 multiport 전자기 시뮬레이션에 며칠 또는 몇 주가 필요했지만, 이 모델은 새 구조를 분 단위로 진화시킴
• 강화학습 프레임워크와 역설계를 결합해 사양에서 fabrication-ready layout까지 생성하는 흐름을 보였고, 저잡음 증폭기, subterahertz, broadband power amplifiers에 적용됨

해석 가능한 AI 설계

• RFIC 테스트와 디버깅은 설계만큼 오래 걸리거나 더 어려울 수 있어, 엔지니어는 문제가 생겼을 때 이해하고 고칠 수 있는 해석 가능한 구조를 선호함
• 연구진은 이미지 생성 AI에 쓰이는 diffusion models를 RFIC 구조 생성에 적용함
• 텍스트 프롬프트 대신 산란 파라미터를 입력으로 사용하고, RFIC의 전자기 구조를 출력으로 생성함
• 공간 주파수 다이얼을 입력에 포함해 설계자가 결과 구조의 형태를 조절할 수 있게 함
  • 낮은 공간 주파수: 고전적이고 해석 가능한 형태
  • 중간 공간 주파수: 미로 같은 구조
  • 높은 공간 주파수: 픽셀화되거나 임의 형태에 가까운 구조
• 프롬프트에서 출력까지 전체 과정은 약 6분이 걸리며, 물리적으로 Maxwell 방정식 아래 실현 가능한 산란 파라미터라면 대응 구조를 생성할 수 있음

남은 한계와 데이터 과제

• AI 기반 설계 방식은 RF 커뮤니티의 관심을 얻었고, 전통적인 bottom-up 설계 흐름을 뒤집기 시작함
• 아직 해결되지 않은 질문이 남아 있음
  • 방법이 얼마나 일반화될 수 있는지
  • 꾸준히 높은 성능을 낼 수 있는지
  • 가능한 모든 트레이드오프를 전체적으로 최적화할 수 있는지
  • RFIC를 넘어 인간이 만든 적 없는 다른 회로까지 발명할 수 있는지
• AI는 작동하지 않는 나쁜 회로를 생성하는 hallucination을 할 수 있어, 검증에는 인간 감독이 계속 필요함
• 범용 foundational model을 만들려면 전자기와 회로 동작의 지배 법칙을 학습할 대규모 데이터가 필요함
  • ImageNet은 1,400만 개의 다양하고 사람 라벨이 붙은 이미지로 이미지 인식 모델의 일반화를 가능하게 한 사례임
  • RFIC와 아날로그 설계에서도 비슷한 규모와 다양성의 데이터가 필요함
• 데이터는 전 세계 기업과 연구실의 시뮬레이션에 많이 존재하지만, 대부분 NDA 뒤에 묶여 있음
• Natcast는 U.S. CHIPS and Science Act’s R&D program을 운영하며 차세대 무선, 센싱, 방위 기술을 위한 공유 인프라와 혁신을 강화할 수 있었지만, 조직과 머신러닝·RFIC 관련 프로그램은 종료됨
• RFIC 분야가 AI 연구자와 칩 설계자 간 협력을 넓히고 개방형 생태계를 만들면, AI 기반 IC 설계의 잠재력을 더 크게 활용할 수 있음