우리는 빛을 이용해 얼마나 작은 물체까지 관측 혹은 탐지할 수 있을까. 일반 학부 수준의 광학에서는 빛의 회절 한계(diffraction limit) 보다 작은 물체는 빛으로 관측할 수 없다고 한다. 대략 200~300 나노미터 크기 이하의 물체는 일반적인 가시광선을 이용하는 광학 현미경으로는 관측할 수 없다. 이 한계를 극복하기 위해 이미 1950년대에 빛보다 파장의 크기가 훨씬 작은 전자를 이용해 물체의 표면을 관측할 수 있는 주사전자현미경(Scanning Electron Microscope, SEM)이 개발됐고 현재에는 수 나노미터의 분해능으로 물체를 관측할 수 있는 수준에 이르렀다. 또한 투과전자현미경(Transmission Electron Microscope, TEM)을 이용해 전자의 회절, 산란 패턴을 관측해 원자의 크기(0.1나노미터)에 해당하는 분해능으로 물체를 관측할 수 있다.

그렇다면 빛을 이용한 관측 방법 중에서는 전자현미경과 같은 우수한 분해능으로 물체를 관측할 수 있는 방법은 없을까. 최근 생물학 연구 분야에서는 Photoactivated Localization Microscopy (PALM) 혹은 Stochastic Optical Reconstruction Microscopy (STORM)이라고 불리는 기술을 이용해 수 나노미터 크기의 양자점 발광체의 위치를 정확하게 관측하는 방법이 보고됐다. 이 기술은 통계적 분석에 기초했는데 여러 장의 연속적 광학 현미경 이미지를 겹쳐지도록 위치한 후 이미지가 가장 빈번하게 나타나는 위치를 발광체의 위치로 정하는 방법이다. 하지만 이 방법은 대부분 생물 시료에만 적합하고 다른 분야에 이용하기에는 많은 제약이 따른다.

한편 필자의 연구 주제이기도 한 근접장 광학 현미경 (Near-field Scanning Optical Microscope, NSOM)을 사용해 빛의 회절 한계 이하의 분해능으로 광학 신호를 관측할 수도 있다. 이 방법은 마치 청진기처럼 구멍이 뚫린 탐침을 시료 표면에 아주 가깝게 근접시켜 광학 신호를 관측하는 방법으로 구멍의 크기가 작으면 작을수록 더 높은 분해능으로 광학 신호를 관측할 수 있다. 그러나 구멍의 크기가 작으면 관측되는 광학적 신호 또한 급격히 감소하므로 실제 장비는 100 나노미터 정도의 분해능으로 광학 신호 관측이 가능하다.
현재 상용화된 공정에서 선폭이 수십 나노미터인 나노 구조를 제작할 수 있는 것과 비교하면 광학적 분석 방법은 나노 공정 분야의 발전 속도를 따라가지 못하는 것처럼 보인다. 그러나 광학 분석 방법은 다른 분석 방법보다 비파괴, 비침습적 분석 방법이라는 측면에서 비교 우위를 가지고 있기 때문에 신뢰도가 높은 분석 방법이 개발되면 그 활용도가 매우 클 것이다.

필자가 속한 연구실에서는 주로 금속 나노 구조에서의 광학적 현상에 대해 연구한다. 재작년에 나노 구멍에 1나노미터 크기의 분자를 채운 다음 빛(테라헤르츠파)의 투과도를 관측한 결과 놀랍게도 분자의 유무에 따라 투과하는 빛의 스펙트럼이 변화하는 것을 관측했다. 또한 이번 연구에서 1나노미터 크기의 갭을 제작해 빛을 갭 내부에 1억 배 이상 강하게 집속한 연구 결과를 보고했다. 지금까지의 상식과는 달리 빛이 나노 구조와 결합해 세기가 강해지면 파장의 크기보다 훨씬 작은 1나노미터 크기의 분자와의 상호 작용도 급격하게 증가해 검출이 가능하다는 것이다.

앞으로 연구가 더 진행되면 1나노미터보다 더 작은 구조를 제작할 수 있을 것으로 기대된다. 이렇게 되면 원자의 크기 수준 즉, 양자역학적 스케일에서 모든 광학적 현상을 다시 생각해야 된다. 필자는 이를 통해 빛으로 단일 원자 크기의 물체를 검출하는 것을 넘어서 고전적으로 기대할 수 없었던 현상의 관측을 기대하고 있다.

안재성 서울대 물리천문학부 박사과정
서울대 물리천문학부를 졸업했다. 근접장 광학 현미경을 이용해 나노 구조 주변의 전기장과 자기장을 선택적으로 매핑(mapping)하는 연구를 하고 있다.