천문·천체물리
손실 압축의 두 비트: 우주론 데이터 압축의 한계를 묻다
하늘 전역 탐사와 대규모 시뮬레이션 데이터는 저장·공유 비용이 크지만, 수치 잡음과 천체물리학적 불확실성 때문에 픽셀 단위로 1% 이상의 정확도는 불필요하다는 점에 착안한 연구다. 연구진은 과학용 압축 패키지 SZ3와, 양자화를 고정한 뒤 자기회귀 트랜스포머로 각 양자화 구간의 확률을 학습하는 신경망 압축기를 비교했는데, 신경망 방식은 모든 필드에서 SZ3와 같거나 더 나은 성능을 보였고 동일 왜곡 조건에서 가우시안 최적 부호화기보다 9~27% 적은 비트를 사용했다. 오차는 신경망이 아니라 양자화기가 결정하므로 학습이 부실한 모델은 비트를 낭비할 뿐 정확도를 떨어뜨리지 않으며, 약한 중력렌즈 수렴 지도만으로 학습한 모델이 재학습 없이 N체 밀도장에도 적용됐다. 오일러 격자는 1% 수준 정확도에서 픽셀당 1~4비트, 입자 변위와 속도는 5~6비트가 필요했고, 루빈 천문대(Rubin Observatory) Data Preview 1 합성영상에서는 양자화 간격을 배경 잡음의 4분의 1로 설정할 때 미세조정된 트랜스포머가 가우시안 부호화기보다 27% 적은 픽셀당 4.0비트를 요구했다.
arXiv astro-ph.IM (관측기기)