스마트폰 화면 등에 쓰이는 액정(Liquid Crystal)은 액체도 아니고 고체도 아닌 ‘뜨거운 아이스 아메리카노’와 같은 상태다. 기초과학연구원(IBS) 원자제어 저차원 전자계 연구단 김범준 부연구단장 연구팀은 양자 물질에서 액정과 유사한 물질 상을 세계 최초로 관측하고 그 연구 결과를 14일 최고 권위의 국제학술지 ‘네이처(Nature)’에 발표했다.

제4의 상 네마틱

대부분 물질은 고체, 액체, 기체의 세 가지 상으로 존재한다. 액정을 포함한 제4의 상 ‘네마틱’은 액체와 고체의 성질을 동시에 갖는다. 액체처럼 자유롭게 움직이지만 고체처럼 분자의 배열이 규칙적이다. 네마틱 상이 양자역학적인 스핀(전자의 각운동량) 계에서도 존재할 것이라는 이론적 예측은 반세기 전부터 있었지만, 실제 물질에서 확인한 건 이번이 처음이다.

자석은 스핀이 한 방향으로 정렬된 고체 상태다. 자석에서 스핀은 자석의 N극과 S극이라는 두 개의 극으로 이뤄진 자기 쌍극자를 형성한다. 반면 스핀 네마틱은 자성은 없지만 네 개의 극으로 이뤄진 사극자가 정렬된 상태다.

액체에서 고체로 상전이가 일어나는 현상을 물리학에서는 대칭성 붕괴로 설명한다. 가령 액체는 임의의 축에 대해 임의의 각도로 회전했을 때 원래 상태와 구분이 되지 않는다. 반면 고체는 원자가 규칙적인 배열을 갖기 때문에 회전 전후의 상태가 다르다.

양자역학적인 스핀 계에서 고체 상태는 스핀이 일정한 방향을 가리키는 상태다. 시간을 거꾸로 돌리면 스핀의 방향도 바뀐다. 스핀을 지구의 자전에 비유하고는 하는데, 시간을 거꾸로 돌리면 지구가 반대로 도는 것과 마찬가지다. 이를 물리학에서는 ‘시간반전대칭성’이 깨진다고 말한다. 동시에 ‘회전대칭성’도 깨진다. 스핀이 특정 방향을 가리키기 때문이다. 그런데 스핀 네마틱이라는 상에서는 회전대칭성은 깨지지만, 시간반전대칭성은 깨지지 않는다. 이 차이를 이용하면 스핀 네마틱의 존재를 확인할 수 있다.

문제는 기존 개발된 중성자 산란 등 대부분의 실험 도구는 쌍극자에만 민감하게 설계되어 스핀 네마틱을 검출하기 어려웠다는 것이다. 게다가 스핀 네마틱 상이 존재할 것으로 예측돼 온 후보물질의 상당수는 이리듐(Ir) 산화물인데, 이리듐 원소는 중성자 흡수가 강해 중성자 산란 실험이 특히 더 어렵다.

4년여에 걸쳐 장비 독자 개발

이 한계를 돌파하기 위해 연구진은 사극자의 존재를 빛(X선)을 이용해 직접 확인할 수 있는 새로운 장비를 설계했다. 우선 연구진은 미국 아르곤연구소와 협업하여 공명 비탄성 X선 산란 장비(RIXS)를 4년여에 걸쳐 개발했다. 이후 포항가속기연구소 등 가속기 빔라인에 개발한 분광기를 구축하여 실험을 진행했다.

이후 연구진은 유력 고온 초전도체 후보물질로 꼽히는 이리듐 산화물에 X선을 조사하며 스핀의 거동을 관찰했다. 이리듐 산화물은 230K(-43.15℃) 이하의 저온에서는 쌍극자와 사극자가 공존했지만, 260K(-13.15℃)의 온도까지는 쌍극자가 사라져도 사극자가 남아있었다. 230~260K의 온도 범위에서 스핀 네마틱 상태로 존재한다는 의미다.

스핀 네마틱 상의 발견은 물리학자들의 숙원 과제인 스핀 액체 탐색에 도움이 될 수 있다. 스핀 액체는 양자컴퓨터 등 양자 정보 기술 소재로 각광받는다. 하지만 스핀 액체는 어떤 측정 가능한 물리량으로 특정하기 어렵기 때문에 어떤 물질이 스핀 액체인지 여부를 확인하기가 매우 어렵다. 반면, 스핀 네마틱은 사극자를 통해 검출이 가능하다. 즉, 스핀 액체와 물리적 성질이 유사한 스핀 네마틱을 이용하면 스핀 액체 탐색의 핵심 단서가 된다.

더 나아가, 이리듐 산화물에서 고온 초전도 상이 존재할 가능성을 제시했다는 의미도 있다. 이론적으로 스핀 네마틱 상도 스핀 액체처럼 스핀 양자 얽힘을 통해 고온 초전도 현상을 나타낼 수 있기 때문이다. 연구진은 후속 연구에서 이리듐 산화물의 전자 농도를 변화시켜가며 고온 초전도 현상이 나타나는지 조사해 볼 계획이다.

김범준 부연구단장은 “RIXS는 스핀 상호작용에 대한 정보를 얻을 수 있어서 엑스선 과학 분야에서 지난 10년간 가장 주목받은 기술 중 하나”라며 “이번 연구는 국내 방사광 X선 실험 인프라 및 활용 능력이 세계적인 수준에 도달했기 때문에 가능했다”고 말했다.