첨단 반도체·디스플레이 공정은 바늘 끝보다 훨씬 작은 나노미터(nm)와 원자 단위에서 이뤄진다. 이때 핵심은  '플라즈마(Plasma)'에 있다. '시사위크'에서는 일본 오사카대학교를 방문, 한국의 서울대 원자핵공학과 플라즈마응용연구실(SNUPAL)과 공동 진행하는 플라즈마 첨단 공정 기술 분야 공동 연구 기획 현장을 확인했다. / 생성형 AI로 제작한 이미지 "How many angels can dance on the head of a pin? (이 바늘 끝 위에서 몇 명의 천사가 춤을 출 수 있을까?)" 시사위크=박설민 기자   17세기 중세 스콜라 철학자들을 비웃기 위한 말이다. 현실에서 불가능하며 아무런 영향도 없는 이야기에 불과한 '탁상공론'의 예시로 자주 사용된다. 하지만 4차 산업시대, 초고성능 '반도체·디스플레이 공정'에서는 이야기가 조금 달라진다. 첨단 반도체·디스플레이 공정은 바늘 끝보다 훨씬 작은 나노미터(nm)와 원자 단위에서 이뤄진다. 원자 하나하나의 움직임, 이온, 전자의 흐름 모두 고려해야 한다. 즉, 중세시대 '바늘 끝의 천사'가 허구의 논쟁이었다면 첨단 산업에 있어 바늘 끝은 무시할 수 없는 거대한 공간인 셈이다. 이 탁상공론을 현실로 만드는 핵심은 '플라즈마(Plasma)'에 있다. '시사위크'는 일본 오사카대학교를 방문, 한국의 서울대 원자핵공학과 플라즈마응용연구실(SNUPAL)과 공동 진행하는 플라즈마 첨단 공정 기술 분야 공동 연구 기획 현장을 확인했다. 지난 9일 방문한 오사카대학교 'R3 이머징과학디자인센터(R3 Institute of Newly Emerging Science Design, INSD)' 내부의  '하마구치 연구소'. 반도체 공정의 핵심인 '데이터 기반 플라즈마 과학(Data-Driven Plasma Science, DDPS)' 기술 연구를 주도하는 곳이다. / 사진=박설민 기자 ◇ 무더운 여름, 오사카에 韓-日과학자가 모인 이유는 '플라즈마' 모바일 인터넷 바다 이야기 지난 9일 뜨겁기로 유명한 일본 열도의 무더위를 뚫고 오사카대학교 'R3 이머징과학디자인센터(R3 Institute of Newly Emerging Science Design, INSD)'에 방문했다. 이곳은 반도체 공정과 나노소재, 차세대 과학기술 등을 연구하는 인재를 양성하는 곳이다. 이곳에서 서울대 플라즈마응용연구실과 오사카대 R3센터 '하마구치 연구소' 연구진은 반도체 디스플레이 제조 공정 분야 난제를 함께 풀어가기 위한 워크숍을 진행하고 있었다. 워크숍 주제는 '데이터 기반 플라즈마 과학(Data-Driven Plasma Science, DDPS)'였다. '데이터 기반 플라즈마 과학'이란 AI와 머신러닝을 활용해 플라즈마 상태를 분석하는 연구 분야다. 여기서 플라즈마는 기체가 초고온 상태로 가열돼 전자와 양전하 이온으로 분리된 것이다. 우주의 99.9%가 이 플라즈마로 이뤄져 있다. 고체, 액체, 기체와 함께 '물질 제 4의 상태'라 불린다. 이때 반도체·디스플레이 공정은 제조용 가스를 플라즈마 상태로 만든 다음, 원자 하나하나를 쌓거나 깎는 것이다. 하지만 플라즈마를 제어하는 것은 매우 어려운 일이다. 장비 내부에는 전기장·가스 분포에 따라 변동이 심하기 때문이다. 즉, 공정 과정에서의 민감하게 반응하는 플라즈마를 제어하는 기술력이 곧 반도체·디스플레이 성능과 직결된다고 볼 수 있다. 현재 글로벌 데이터 기반 플라즈마 과학 컨퍼런스 'ICDDPS' 의장이기도 한 사토시 하마구치 오사카대학교 교수(사진)는 해당 연구 분야 세계 최고 권위자 중 한 명이다. 1990년부터 1998년까지 'IBM TJ Watson' 연구센터에서 근무하며 반도체·디스플레이 플라즈마 공정 방법 연구를 담당한 '현장형 연구자'이기도 하다. / 사진=박설민 기자 이 문제 해결을 위해 글로벌 과학자들이 머리를 맞대는 곳이 오사카대 R3센터 하마구치 연구소. 온라인야마토릴게임 원자 및 분자 기술 센터 교수로 부임 중인 과학자 사토시 하마구치의 이름을 딴 이 연구소는 고성능 컴퓨팅 자원과 인공지능(AI)을 활용, 방대한 양의 플라즈마 공정에서 발생하는 데이터를 분석한다. 사토시 교수는 현재 글로벌 데이터 기반 플라즈마 과학 컨퍼런스 'ICDDPS' 의장이기도 한 해당 연구 분야 세계 최고 권위자 중 한 명이다. 반도체 공정 분야 뿐만 아니라 플라즈마 의학, 핵융합 플라즈마 연구도 함께 하고 있다. 1990년부터 1998년까지 'IBM TJ Watson' 연구센터에서 근무하며 반도체·디스플레이 플라즈마 공정 방법 연구를 담당한 '현장형 연구자'이기도 하다. 사토시 교수는 "양국의 기초 과학, DDPS 분야 협력 공동 연구를 통해 유럽과 미국 중심의 플라즈마 물리 기술 연구 흐름을 바꿀 필요가 있다"며 "특히 반도체·디스플레이 연구 분야에서 필수적인 저온 플라즈마 관련 난제를 풀어 한국과 일본이 국제 사회에서의 리더십을 확보하길 바란다"고 말했다. 이번 워크숍에서 핵심 논의 주제가 된 기술은 AI 기반 플라즈마 계측 기술 'PI-AI(Plasma Physics informed AI)'이다. '합성곱 신경망(CNN)' 등 AI모델을 기반, 반도체 공정에 사용되는 가스, 전력을 분석해 불량률을 예측하는 기술이다. / 사진=박설민 기자 ◇ AI기반 플라즈마 반도체 공정, 핵심은 '우수한 데이터'의 학습 이번 워크숍에서 핵심 논의 주제가 된 기술은 AI 기반 플라즈마 계측 기술 'PI-AI(Plasma Physics informed AI)'이다. PI-AI는 '플라즈마 정보 인자화(plasma information-parameterization)'등을 활용, 반도체 공정의 데이터로 부터 플라즈마 특성 정보를 추출한다. 그 다음 AI모델에 적용해 불량 반도체 발생 확률을 예측할 수 있다. 해당 기술은 실제 산업계에서도 이미 적용한 것으로 알려졌다 모바일 바다이야기기계 . 대표적인 곳은 '삼성디스플레이'다. OLED디스플레이 공정 시 발생하는 불량 확률을 PI-AI를 기반, 예측해 줄이는 방식이다. OLED디스플레이 공정 시 발생하는 불량 확률을 기존 대비 약 25% 감소시킨 것으로 알려졌다. 핵심은 AI에게 과학자들이 '물리모델'을 학습시키는 것이다. 일반적인 AI기반 반도체 공정 진단 기술은 수많은 데이터를 분석, '통계적'으로 결과를 예측하는 것이다. 이 경우, 빠르게 산업계에 적용할 수 있다는 장。은 있다. 하지만 물리적 현상이 적용된 실제 현장에서는 오차가 크게 날 수 있다는 단.이 있다. 즉, 이 같은 기본 통계 AI모델에 물리 현상 데이터를 학습시킨 모델을 적용한다면 더 높은 정확도를 확보할 수 있다는 게 전문가들의 설명이다. 이때 물리 기반 AI모델 역시 학습 데이터가 중요하다. 과학계에서는 이를 'Garbage in garbage out(쓰레기를 넣으면 쓰레기가 나온다)' 현상이라 부른다. 즉, 이 문제를 해결하기 위해 오사카대와 서울대 연구진이 논의하는 기술 분야가 바로 DDPS인 것이다. 아울러 데이터 기반 플라즈마 과학 분야 연구는 반도체·디스플레이 공정에만 국한된 연구 분야가 아니다. 서울대, 오사카대 연구진들은 우주, 국방, 에너지, 의료 등 다양한 산업에 적용 가능한 기술에 대한 발표를 이어갔다. 사토시 교수는 "AI로 우리가 반도체 디스플레이 공정 플라즈마의 난제들을 풀어나가기 위한 연구를 하지만 핵심은 PI-AI와 같은 모델"이라며 "이 같은 성공을 위해선 기초 플라즈마 물리 연구에 더욱 충실해야 AI를 제대로 활용할 수 있다"고 말했다. 워크숍 발표자로 나선 박설혜 서울대학교 원자핵공학과 교수는 "대한민국은 막강한 반도체·디스플레이 제조 산업 1위국가로, 인프라와 거대 제조 공정 플라즈마 데이터를 보유하고 있다"며 "일본은 전통적으로 강한 세계 최고의 반도체·디스플레이 소부장 기반 산업 인프라를 갖고 있고 기초 연구가 탄탄해 양국 과학자들의 협력은 플라즈마 연구분야 선도국가로 발돋움 하는데 큰 보탬이 될 것"이라고 말했다. 센터에서 근무하며