모든 잠재 공간이 평평하지 않다: 쌍곡선 개념 제어

Not All Latent Spaces Are Flat: Hyperbolic Concept Control

최신 텍스트-이미지(T2I) 모델이 더욱 사실적인 콘텐츠를 생성하는 데 가까워짐에 따라, 안전하지 않은 콘텐츠 생성의 위험이 커지고, 이를 제어하는 것이 중요해지고 있습니다. 기존 접근 방식은 텍스트 임베딩에 유클리드 조정을 적용하여, 모델의 생성이 위험한 개념에서 벗어나도록 유도합니다. 본 연구에서는 쌍곡선 제어(HyCon)를 소개합니다. HyCon은 병렬 변환을 기반으로 하는 새로운 제어 메커니즘으로, 의미적으로 정렬된 쌍곡선 표현 공간을 활용하여 개념을 더욱 표현력 있고 안정적으로 조작할 수 있도록 합니다. HyCon은 기존의 생성 모델과 최첨단 쌍곡선 텍스트 인코더를 경량 어댑터를 통해 연결하여 사용합니다. HyCon은 네 가지 안전성 벤치마크와 네 가지 T2I 백본에서 최첨단 결과를 달성했으며, 이는 쌍곡선 제어가 더욱 안정적인 T2I 생성을 위한 실용적이고 유연한 접근 방식임을 보여줍니다.

As modern text-to-image (T2I) models draw closer to synthesizing highly realistic content, the threat of unsafe content generation grows, and it becomes paramount to exercise control. Existing approaches steer these models by applying Euclidean adjustments to text embeddings, redirecting the generation away from unsafe concepts. In this work, we introduce hyperbolic control (HyCon): a novel control mechanism based on parallel transport that leverages semantically aligned hyperbolic representation space to yield more expressive and stable manipulation of concepts. HyCon reuses off-the-shelf generative models and a state-of-the-art hyperbolic text encoder, linked via a lightweight adapter. HyCon achieves state-of-the-art results across four safety benchmarks and four T2I backbones, showing that hyperbolic steering is a practical and flexible approach for more reliable T2I generation.