뉴트리노는 자기 자신의 반입자일까

물질에는 반물질이 있다. 전자에는 양전자라는 반입자가 있다. 질량은 같지만 전하는 반대다. 양성자에는 반양성자가 있다. 하지만 반입자가 반드시 반대 전하를 가져야 하는 것은 아니다. 전하가 없는 중성자에도 별개의 반입자인 반중성자가 있다. 둘 다 전하는 0이지만 같은 입자는 아니다.

그렇다면 역시 전하가 없는 뉴트리노는 어떨까. 두 가능성이 있다. 뉴트리노와 반뉴트리노가 중성자와 반중성자처럼 서로 다른 입자일 수 있다. 이런 경우를 디랙(Dirac) 뉴트리노라고 한다. 반대로 뉴트리노가 자기 자신의 반입자라면 둘은 근본적으로 별개의 입자가 아니다. 이런 경우가 마요라나(Majorana) 뉴트리노다. 어느 쪽인지는 아직 모른다.

이를 알아낼 방법 가운데 하나가 이중베타붕괴를 이용하는 것이다. 일부 원자핵에서는 중성자 두 개가 양성자 두 개로 바뀌면서 전자 두 개와 전자 반뉴트리노 두 개가 나온다. 그런데 전자 두 개는 나오는데 반뉴트리노는 하나도 나오지 않는다면 이야기가 달라진다. 연구자들이 찾고 있는 뉴트리노가 나오지 않는 이중베타붕괴(neutrinoless double-beta decay, 0νββ)다.

여기서 반뉴트리노 두 개가 밖으로 나온 뒤 서로 만나 쌍소멸한다고 생각하면 안 된다. 가장 널리 연구되는 설명에서는 두 중성자의 변환이 원자핵 안에서 가상의 마요라나 뉴트리노 교환으로 연결된다. 뉴트리노에 마요라나 질량 성분이 있으면 이런 연결이 가능해지고, 그 결과 뉴트리노가 최종입자로 밖으로 나오지 않은 채 전자 두 개만 남을 수 있다.¹

이 붕괴가 발견되면 뉴트리노에 마요라나 질량 성분이 있다는 사실을 알 수 있다. 아직 그런 붕괴는 발견되지 않았다. 문제는 있다 하더라도 좀처럼 일어나지 않는다는 것이다.

10²⁶년짜리 붕괴를 기다리는 법

이중베타붕괴가 가능한 원자핵 가운데 하나가 제논-136(¹³⁶Xe)이다. 연구자들은 이 원자핵에서 뉴트리노가 나오지 않는 이중베타붕괴를 찾고 있다. 아직 신호는 발견되지 않았고, 현재 실험 결과를 보면 이런 붕괴가 일어난다고 해도 반감기는 10²⁶년을 훨씬 넘어야 한다.²

우주의 나이와는 비교가 되지 않을 만큼 긴 시간이다. 그렇다고 원자핵 하나를 그만큼 오래 지켜보겠다는 뜻은 아니다. 수백 킬로그램의 제논-136에는 10²⁷개 안팎의 원자핵이 들어 있다. 하나하나가 몇 년 안에 붕괴할 가능성은 거의 없지만, 그렇게 많은 원자핵을 한꺼번에 오래 지켜보면 극히 드문 붕괴를 찾을 수 있다.

많이 모으는 것만으로는 부족하다. 뉴트리노가 나오지 않는 이중베타붕괴에서는 뉴트리노가 에너지를 가지고 밖으로 빠져나가지 않으므로 두 전자가 가져가는 에너지를 합하면 정해진 값에 모인다. 실험은 바로 이 좁은 에너지 신호를 찾는다. 문제는 자연 방사능이나 우주선도 비슷한 신호를 만들 수 있다는 것이다. 그래서 이런 실험들은 대개 지하 깊은 곳에 검출기를 짓고, 방사성 불순물이 적은 재료를 골라 사용한다. 에너지를 정밀하게 재고 가짜 신호를 걸러내는 능력도 필요하다.

많이 모으고, 정확하게 재고, 가짜 신호를 없애야 한다.

문제는 이 세 가지를 한 기계에서 모두 최고로 만들기 어렵다는 것이다. 원자핵을 많이 넣기 좋은 방법이 에너지를 가장 정확하게 재는 방법과 같지 않을 수 있고, 사건의 모양까지 자세히 보는 장치는 대형화하기 어려울 수도 있다. 같은 붕괴를 찾는데도 연구진마다 다른 검출기를 만드는 이유다.

같은 제논으로 세 가지 기계를 만들다

그 차이는 제논-136 하나만 놓고 봐도 잘 드러난다. KamLAND-Zen 공동연구진은 제논-136을 액체 섬광체에 넣는다. 액체 섬광체는 입자가 에너지를 내놓으면 빛을 내는 액체다. 큰 용기에 많은 양을 담을 수 있으니 제논도 대량으로 넣을 수 있다. 최근 분석에는 745kg의 농축 제논이 사용됐지만 아직 원하는 붕괴는 발견되지 않았다.²

NEXT 공동연구진은 같은 제논을 고압 기체로 사용한다. 기체는 액체보다 밀도가 낮아 같은 양을 담으려면 더 큰 공간이 필요하지만, 대신 전자들이 지나간 자취를 볼 수 있다. 뉴트리노가 나오지 않는 이중베타붕괴라면 한곳에서 전자 두 개가 나온다. NEXT는 에너지만 재는 것이 아니라 전자들이 남긴 자취까지 보고 가짜 사건을 골라낸다. 2026년 발표된 실제 NEXT-100 검출기의 교정 결과를 이 붕괴의 에너지까지 외삽하면 1%보다 좋은 에너지 분해능이 예상됐다.³

nEXO 공동연구진은 또 다른 길을 택했다. 제논-136의 비율을 높인 제논을 액체로 만들어 수 톤 규모까지 늘리면서 사건이 검출기 안의 어디에서 일어났는지도 알아내려 한다.³ 같은 제논-136을 놓고도 KamLAND-Zen은 많은 양을 액체 섬광체에 넣고, NEXT는 기체에서 전자의 자취까지 보며, nEXO는 액체 제논 자체를 수 톤 규모로 키우려는 것이다.

같은 원자핵을 쓰면서도 얼마나 많이 모으고, 에너지를 얼마나 정밀하게 재고, 사건에 대해 얼마나 많은 정보를 얻을지에 따라 기계가 달라진다. 그런데 선택은 제논 안에서만 갈리는 것이 아니다.

원자핵을 바꾸면 답도 달라진다

LEGEND 공동연구진은 게르마늄-76(⁷⁶Ge)을 사용한다. 여기서는 게르마늄 결정 자체가 붕괴할 원자핵이면서 동시에 반도체 검출기다. 붕괴가 결정 안에서 일어나고 그 결정이 에너지를 직접 재기 때문에 에너지를 매우 정확하게 측정할 수 있다. LEGEND-200은 이미 데이터를 모으고 있으며, 2026년에 발표된 첫 결과에서도 신호는 발견되지 않았다.⁴

CUORE 공동연구진은 텔루륨-130(¹³⁰Te)이 든 결정을 극저온으로 식힌 뒤 붕괴가 남긴 미세한 열을 잰다. CUPID 공동연구진과 AMoRE 공동연구진은 몰리브데넘-100(¹⁰⁰Mo)을 포함한 극저온 결정에서 열과 빛을 함께 측정하는 검출기를 준비하고 있다. 한국 예미랩에서 준비 중인 AMoRE-II도 그중 하나다.⁵

이렇게 여러 원자핵을 쓰는 이유는 어느 하나가 모든 면에서 가장 좋지 않기 때문이다. 동위원소마다 얼마나 많이 확보할 수 있는지, 어떤 물질로 만들 수 있는지, 어떤 검출기술을 적용하기 좋은지가 다르다. 어떤 방식은 에너지를 정확하게 재는 데 강하고, 어떤 방식은 가짜 신호를 가려낼 정보를 더 많이 얻는다. 원자핵을 바꾸면 실험이 풀어야 할 공학적 문제도 달라진다.

하지만 여러 원자핵이 필요한 이유는 검출기를 만드는 문제만으로 끝나지 않는다.

가장 긴 반감기가 가장 앞섰다는 뜻은 아니다

KamLAND-Zen은 제논-136에서 찾는 붕괴의 반감기가 3.8×10²⁶년보다 길다는 결과를 얻었다. LEGEND-200과 앞선 두 실험의 자료를 결합한 게르마늄-76 결과는 1.9×10²⁶년이다.²⁴ 숫자만 보면 제논 쪽이 두 배 앞선 것처럼 보이지만 그렇게 비교할 수 없다.

원자핵마다 붕괴에서 쓸 수 있는 에너지가 다르고, 내부의 양성자와 중성자가 이루는 구조도 다르다. 따라서 같은 뉴트리노 성질이 있어도 어떤 원자핵에서는 이 붕괴가 상대적으로 잘 일어나고 다른 원자핵에서는 덜 일어날 수 있다. 이 가운데 복잡한 핵구조가 붕괴에 미치는 영향을 계산한 값이 핵행렬(nuclear matrix element)이다.⁶

핵행렬은 실험에서 직접 재는 값이 아니라 원자핵 구조를 이론으로 계산해 얻는다. 계산 방법에 따라 값에도 차이가 난다. 그래서 가벼운 마요라나 뉴트리노 교환을 가정하고 하나의 반감기 결과를 질량의 제한으로 바꾸면 딱 떨어지는 숫자가 아니라 범위가 나온다. KamLAND-Zen의 같은 데이터도 어떤 핵행렬 계산을 쓰느냐에 따라 허용되는 질량 범위가 달라진다.²

따라서 반감기를 일렬로 세워 실험의 순위를 정할 수 없다. 오히려 서로 다른 원자핵을 사용하는 일이 중요해진다.

아직 아무 신호도 발견하지 못한 지금은 서로 다른 원자핵과 검출기가 서로 다른 약점을 보완한다. 제논을 많이 모으는 실험과 게르마늄에서 에너지를 정밀하게 재는 실험은 가짜 신호가 생기는 원인도 다르고, 결과를 뉴트리노 질량으로 바꿀 때 필요한 핵계산도 다르다. 한 방식에서 아무것도 보이지 않았다는 결과를 다른 방식의 결과와 함께 보면, 어느 한 검출기나 원자핵의 특성에만 기대지 않고 같은 물리현상을 더 넓게 확인할 수 있다.⁶

언젠가 한 실험에서 신호가 발견되면 여러 원자핵을 쓰는 이유는 더 커진다. 가령 제논-136에서 뉴트리노가 나오지 않는 이중베타붕괴로 보이는 신호가 발견됐다고 하자. 그러면 게르마늄-76이나 텔루륨-130에서도 그 물리현상이 예측하는 범위의 붕괴가 나타나는지 확인할 수 있다. 서로 다른 검출기에서, 서로 다른 원자핵을 이용해 같은 결론에 도달한다면 처음 발견한 신호가 특정 장치의 배경이나 예상하지 못한 잡음일 가능성을 줄일 수 있다.

여기서 한 걸음 더 나아갈 수도 있다. 뉴트리노가 나오지 않는 이중베타붕괴를 일으킬 수 있는 물리적 과정은 하나만 제안돼 있는 것이 아니다. 어떤 과정이 작동하느냐에 따라 제논·게르마늄·텔루륨 같은 서로 다른 원자핵에서 예상되는 붕괴 속도의 관계도 달라질 수 있다. 여러 원자핵에서 실제 반감기를 측정할 수 있다면, 붕괴가 존재한다는 사실을 확인하는 데서 그치지 않고 무엇이 그 붕괴를 일으켰는지 좁혀가는 단서도 얻을 수 있다. 다만 얼마나 구별할 수 있는지는 핵행렬 계산과 가정한 물리모형에 달려 있다. 여러 원자핵에서 신호를 얻는다고 메커니즘이 자동으로 결정되는 것은 아니다.⁶

여러 실험은 같은 일을 반복하는 것이 아니다. 발견 전에는 서로 다른 약점으로 같은 현상을 포위하고, 발견 뒤에는 서로의 결과로 그 신호의 정체를 확인한다.

JUNO도 이 경쟁에 들어올 수 있다

현재 JUNO 공동연구진이 찾는 것은 뉴트리노가 나오지 않는 이중베타붕괴가 아니다. 지금은 원자로에서 날아온 전자 반뉴트리노의 진동을 정밀하게 측정하고 있으며, 질량순서를 알아내는 것이 핵심 연구목표 가운데 하나다.

다만 JUNO는 장기적으로 이 거대한 장치를 다른 실험에 활용하는 방안도 연구해왔다. 구체적인 구상 가운데 하나는 JUNO 중심부에 별도의 용기를 넣고 제논-136을 녹인 액체 섬광체를 채우는 것이다. 그렇게 되면 원자로에서 날아오는 반뉴트리노가 아니라 용기 안의 원자핵에서 극히 드물게 일어나는 붕괴를 찾게 된다.⁷

JUNO 안에 현재 들어 있는 약 2만 톤의 액체 섬광체가 그대로 2만 톤짜리 이중베타붕괴 표적이 되는 것은 아니다. 어떤 동위원소를 얼마나 사용할지, 검출기를 실제로 어떻게 바꿀지, 언제 이런 전환이 이루어질지도 아직 확정되지 않았다. JUNO가 이 질문을 처음 던지는 것도 아니다. KamLAND-Zen과 LEGEND는 이미 축적한 데이터로 이 붕괴를 탐색해왔고, NEXT는 다른 방식으로 제논을 보고 있으며, nEXO를 비롯한 차세대 실험도 준비되고 있다.

JUNO가 훗날 이 연구에 합류한다면 질량순서를 측정하기 위해 만든 이 거대한 장치가 이번에는 세계 여러 연구진이 서로 다른 원자핵으로 추적해온 문제를 향하게 된다. 지금 묻고 있는 것은 뉴트리노의 세 질량상태가 어떤 순서로 놓여 있는가다. 그 뒤에는 더 오래된 질문이 기다리고 있다.

뉴트리노와 반뉴트리노는 정말 서로 다른 입자인가.

각주

1. 0νββ에서 뉴트리노는 어디로 가는가 — 전자와 양전자가 실제 입자로 만나 광자 등으로 바뀌는 쌍소멸과는 다르다. 대표적인 light-Majorana exchange(가벼운 마요라나 뉴트리노 교환)에서는 원자핵 내부의 두 약한 상호작용을 가상의 뉴트리노 교환이 잇는다. 이 뉴트리노는 밖으로 날아가는 최종입자가 아니라 진폭의 내부선이며, 진폭에는 유효 마요라나 질량이 들어간다. 다른 메커니즘도 0νββ를 만들 수 있다. 어떤 메커니즘으로든 이 붕괴가 존재하면 마요라나 질량 성분이 유도된다는 것이 Schechter–Valle의 블랙박스 정리다. 발견만으로 가벼운 뉴트리노 교환이 지배적이라고 결정할 수는 없다. J. Schechter & J. W. F. Valle, Physical Review D 25, 2951 (1982). 원 논문. M. Agostini et al., Reviews of Modern Physics 95, 025002 (2023). 종합리뷰.

2. KamLAND-Zen — 전체 KamLAND-Zen 800 분석에는 농축 제논 745kg, ¹³⁶Xe 기준 노출량 2.1톤·년이 사용됐다. 이전 단계와 결합한 결과 신호를 찾지 못했으며, 반감기 하한은 90% 신뢰수준에서 3.8×10²⁶년이다. 가벼운 마요라나 뉴트리노 교환과 축벡터 결합상수 gA≈1.27을 가정할 때 유효 마요라나 질량 상한은 현상론적 핵행렬 계산에 따라 28–122 meV다. 이는 개별 질량 고유상태 하나의 질량을 직접 측정한 값이 아니다. S. Abe et al. (KamLAND-Zen Collaboration), “Search for Majorana Neutrinos with the Complete KamLAND-Zen Dataset,” Physical Review Letters 135, 262501 (2025). 출판사 · 공개 원고.

3. NEXT와 nEXO — NEXT-100 고에너지 교정의 단일 클러스터 사건 선택에서 ²⁰⁸Tl의 2615keV 광전피크 분해능은 (0.90±0.02)% FWHM이었다. 이를 1/√E 스케일링으로 ¹³⁶Xe의 Qββ=2458keV까지 외삽한 값이 (0.93±0.02)% FWHM이다. Qββ에서 붕괴 신호를 직접 측정했다는 뜻이 아니다. FWHM은 피크가 최대 높이의 절반이 되는 두 지점 사이의 폭이다. nEXO의 설계 규모는 약 5,000kg의 액체제논 전체이며, 이를 약 90%까지 ¹³⁶Xe로 농축한다. 순수 ¹³⁶Xe만 5톤이라는 뜻은 아니다. NEXT Collaboration, “Demonstration of sub-percent energy resolution in the NEXT-100 detector,” European Physical Journal C 86, 1057 (2026). 논문. nEXO Collaboration, “nEXO Pre-Conceptual Design Report” (2018). 설계보고서 · 공식 프로젝트.

4. LEGEND-200 — 농축 ⁷⁶Ge 고순도 반도체 검출기를 저배경 액체아르곤 안에서 운용한다. 첫 탐색에 쓰인 LEGEND-200 자료는 61.0kg·년이다. GERDA·MAJORANA DEMONSTRATOR와 결합한 분석에서 신호는 없었고, 반감기에 90% 신뢰수준 하한 1.9×10²⁶년을 얻었다. 이 수치를 LEGEND-200 단독 결과로 표기하지 않는다. H. Acharya et al. (LEGEND Collaboration), “First Results on the Search for Lepton Number Violating Neutrinoless Double-β Decay with the LEGEND-200 Experiment,” Physical Review Letters 136, 022701 (2026). 출판 논문 공개본.

5. 텔루륨과 몰리브데넘 실험 — CUORE는 ¹³⁰Te를 포함한 TeO₂ 결정을 극저온 열량계로 사용한다. CUPID는 CUORE의 극저온 설비를 이어받을 차세대 실험으로, 2025년 기준설계는 ¹⁰⁰Mo 농축 Li₂MoO₄ 섬광결정 1,596개에서 열과 빛을 함께 읽는다. AMoRE-II도 몰리브데이트 섬광결정의 열·광 신호를 이용하도록 예미랩에서 준비되고 있다. 설계·건설 단계와 이미 수행된 탐색을 구별하며, 향후 예정일을 실제 가동 사실로 쓰지 않는다. CUORE Collaboration, “Constraints on lepton number violation with the 2 tonne · year CUORE dataset,” Science 390, 1029–1032 (2025). 논문. CUPID Collaboration, European Physical Journal C 85, 737 (2025). 설계 논문. AMoRE Collaboration, “Projected background and sensitivity of AMoRE-II.” 설계·감도 논문 · 공동연구진의 유럽전략 제출 자료.

6. 여러 동위원소: 상호보완, 독립검증, 메커니즘 판별 — 가벼운 마요라나 뉴트리노 교환이 지배적이라는 가정 아래 반감기의 역수는 동위원소별 위상공간 인자, 핵행렬의 제곱, 유효 마요라나 질량의 제곱에 비례한다. 핵행렬과 결합상수의 취급에는 이론적 불확실성이 있다. 그러므로 동위원소가 다른 실험의 반감기 하한을 그대로 순위표로 만들 수 없고, 여러 결과를 결합한다고 핵계산의 오차가 사라지는 것도 아니다. 계산 간 상관관계도 고려해야 한다. 발견 전에는 검출기별 배경과 핵종별 특성이 서로 보완된다. T. Shickele et al.은 실험의 우도와 ab initio 핵계산을 결합해 질량 제한을 구하고, ⁷⁶Ge·¹⁰⁰Mo·¹³⁰Te·¹³⁶Xe를 이용할 차세대 실험의 결합 전망도 분석했다. 전망은 특정 계산과 예상 감도에 따른 결과이며 발견 사실이 아니다. Physical Review D 114, 013007 (2026). 발견 뒤에는 다른 원자핵·검출기에서의 신호가 독립적인 검증이 된다. 충분한 감도와 노출량이 전제되므로 다른 실험의 비검출이 즉시 첫 신호의 반증이 되는 것은 아니다. 더 나아가 동위원소별 반감기의 관계로 가능한 메커니즘을 좁힐 수 있지만, 판별력은 핵행렬의 불확실성·상관관계와 가정한 연산자 또는 메커니즘에 의존한다. M. Agostini, F. F. Deppisch & G. Van Goffrier, “Probing the mechanism of neutrinoless double-beta decay in multiple isotopes,” JHEP 02, 172 (2023). 논문. K. Ishidoshiro, “Beyond half-life limits: Robust operator-level interpretation of multi-isotope neutrinoless double-beta decay,” Physical Review D 114, 035047 (2026). 논문. 후자의 발견 후 비교는 단일 연산자 시나리오에 대한 이론 분석이다.

7. JUNO의 장기 업그레이드 — J. Zhao·L.-J. Wen·Y.-F. Wang·J. Cao의 2017년 연구는 JUNO 중심부 별도 용기에 ¹³⁶Xe 농축 제논을 녹인 액체 섬광체를 넣는 방안을 계산했다. 예시인 5톤·50톤은 유효 부피 안의 ¹³⁶Xe 질량이며 현재 설치량이 아니다. 공식 자료는 2025년 8월 26일 2만 톤 액체 섬광체 검출기의 데이터 수집 시작과 장기 0νββ 업그레이드 가능성을 설명한다. 현재의 진동 측정과 향후 동위원소를 넣는 탐색 구상을 구별해야 한다. J. Zhao et al., “Physics potential of searching for 0νββ decays in JUNO,” Chinese Physics C 41, 053001 (2017). 출판 논문 · 공개 원고. JUNO 공식 운영 발표.