‘세상은 무엇으로 만들어졌을까?’라는 질문에 현대물리학은 표준모형(Standard Model)로 답한다. 표준모형은 현재까지 인류가 이룩한 우주에 대한 이해의 결정체다. 표준모형은 12개의 기본입자와 각 입자 사이에 힘을 매개하는 입자, 그리고 기본입자에 질량을 부여한 ‘힉스’로 우주를 설명한다.

그런데 기본입자 중 하나인 뮤온(muon)은 표준모형에서 ‘내부고발자’ 역할을 한다. 표준모형 소속이면서도 표준모형의 한계가 있음을 증명하는 단서로 쓰이고 있기 때문이다. 2021년 미국 페르미국립가속기연구소(이하 페르미연구소)가 이끄는 국제 공동연구진은 뮤온을 단서로 자연계에 제5의 힘이 존재할 수 있다는 가능성을 처음 제시했다. 그리고 이어 지난 8월 10일 물리학 분야 권위지인 ‘피지컬리뷰레터스(Physical Review Letters)’에 더 정밀도를 높인 실험 결과를 발표했다.

뮤온의 흔들림 포착하기 위한 실험 1960년대 시작

뮤온은 나침반처럼 자기장을 따라 정렬하기 위해 스스로 회전한다. 이때 뮤온 자석 축이 팽이처럼 흔들리는데, 이 흔들림은 g(g-factor)라는 값으로 표현한다. 뮤온은 전자보다 207배 무거워서 진공에서 나타났다 사라지는 무수한 가상입자들에 더 민감하게 상호작용한다. 이때 g 값도 그 영향을 받는다.

표준모형으로는 g 값을 99.99996%의 정확도로 계산할 수 있다. 그렇게 계산된 값이 2 정도다. 만약 g 값을 실험으로 측정하였을 때 표준모형이 계산한 값과 다르다면, 아직 발견하지 못한 새로운 입자 혹은 상호작용이 있다는 강력한 증거가 된다. 이런 이유에서 뮤온 흔들림의 실제값(g)과 예측값(2)의 차이인 g-2(g마이너스2) 값을 정확히 구하기 위한 여러 실험 연구가 1960년대부터 진행되어왔다.

g-2 값을 측정하기 위한 최초의 실험은 1961년부터 1976년까지 유럽입자물리연구소(CERN)에서 진행됐다. 1997년부터 2001년까지는 미국 브룩헤이븐국립연구소(BNL) 주도의 실험(이하 브룩헤이븐 실험)이 진행됐다. 브룩헤이븐 실험은 측정된 g 값이 표준모형으로 계산한 값과 다르다는 결론을 내렸다. 다만, 실험의 신뢰도가 약 3.7시그마(통계적 오차일 확률이 약 4,600분의 1)에 불과했다. 5시그마 이상의 신뢰도를 달성해야 과학적 발견으로 간주된다.

브룩헤이븐 실험이 마무리된 뒤 더욱 정밀한 실험 결과를 얻기 위한 차세대 실험이 계획됐다. 그 실험이 바로 페르미연구소의 실험(이하 페르미 실험)이다. 페르미 실험은 이롬값과의 차이를 5시그마 이상의 신뢰도로 확인해 새로운 입자 혹은 상호작용의 존재를 최종적으로 ‘발견’하자는 것이 목표였다. 이 실험에는 우리나라의 기초과학연구원(IBS) 액시온 및 극한상호작용 연구단 연구진을 비롯한 세계 7개국 200여 명의 물리학자가 참여했다.

한 달에 거쳐 뮤온 저장 고리 옮겨

연구는 브룩헤이븐 연구소에 있는 ‘뮤온 저장 고리’를 약 5,000㎞ 떨어진 페르미연구소로 옮기는 것부터 시작됐다. 새롭게 제작하는 것보다 옮기는 것이 10배 이상 경제적이었기 때문이다. 뮤온 저장 고리는 강력한 자기장의 고리형 초전도 자석을 사용해 뮤온을 저장시키는 정교한 장치다. 이동 과정에서 코일 모양 변형은 4분의 1인치, 평탄도는 10분의 1인치 이내를 유지해야 했다. 그래서 이동에만 한 달이 넘게 걸렸다. 2013년 이동을 마친 후엔 페르미연구소의 가속기와 연결했다.

실험은 가속기에서 양성자를 가속시킨 뒤 타깃과 충돌시켜 뮤온을 생산하고, 이후 뮤온 저장 고리에서 강력한 자기장 하에서 뮤온의 흔들림을 측정하는 방식으로 진행된다. 뮤온의 흔들림을 직접 관측하는 것은 불가능하므로 붕괴된 뮤온으로부터 파생되는 전자를 검출해 정보를 얻는다. 검출되는 전자의 수는 뮤온의 스핀 방향에 따라 변하는데, 이 변화로부터 g-2 값을 측정할 수 있다.

페르미 실험은 브룩헤이븐 실험보다 20배 더 많은 뮤온을 사용했다. 즉, 확보하는 데이터가 20배가 되어 더 정밀한 실험 결과를 얻을 수 있다. 2021년 4월 7일 페르미 실험 연구진은 실험 첫해에 확보한 데이터를 분석한 결과를 ‘피지컬리뷰레터스’에 발표했다. 측정된 뮤온 g 값은 2.00233184122. 표준모형으로 계산한 이론값인 2.00233183620과 소수점 8번째 자리부터 값이 다르다.

2021년 실험 결과는 이론값과의 차이를 4.2 시그마로 확인했다. 이 결과가 통계적 오차로부터 기인했을 확률이 4만 분의 1이라는 의미다. 브룩헤이븐 실험이 4년의 데이터를 통해 신뢰도 3.7 시그마로 제공한 힌트를 1년 만에 더 높은 신뢰도로 확인했다. 당시 활용한 데이터는 최종 분석을 목표로 하는 데이터양의 단 6%에 불과했다.

g=2.00233184110

이번 연구에서는 실험 2~3번째 해에 확보한 데이터까지 추가로 분석했다. 2년 전보다 5배 많은 400억 개의 뮤온 입자가 투입됐다. 그렇게 얻은 g 값은 2.00233184110으로 측정됐다. 오차는 2021년 실험의 오차와 비슷했다.

2023년 7월 9일 페르미 실험 연구진은 6년의 데이터수집을 마치고 뮤온 빔을 껐다. 최종적으로 브룩헤이븐 실험보다 21배 많은 데이터를 확보했다. 앞으로는 3년간 확보한 데이터까지 추가로 분석할 계획이다. 추가 분석을 거치면 정밀도가 지금보다 2배 더 향상된다. 연구진은 2025년이면 가장 정밀한 g 측정값을 발표할 수 있을 것으로 예상하고 있다.

실험에 참여한 그라치아노 베난조니 리버풀대 교수는 “새로운 입자 혹은 상호작용의 존재를 과학적 ‘발견’ 수준으로 확정할 수 있게 될 것”이라며 “우리가 알지 못하는 ‘제5의 힘’이 있을 것으로 추정하며, 이 힘은 우주에 대한 새로운 것을 말해줄 것이다”라고 말했다.

한편, 페르미 실험에는 우리나라 기초과학연구원(IBS) 액시온 및 극한상호작용 연구단 연구진도 참여했다. 야니스 세메르치디스 IBS 액시온 및 극한상호작용 연구단장은 2001년 브룩헤이븐 실험에서 뮤온 저장 고리의 정전기적 포커싱 시스템을 총괄한 연구자다. IBS 단장으로 선임된 후에도 페르미 실험에 참여하며 뮤온 저장 고리 내 자기장을 균일하게 하기 위한 장치와 뮤온이 고리를 따라 회전하는 동안 궤도가 옆으로 흔들리는 현상인 CBO 효과를 줄이는 데 핵심적인 역할을 수행했다.