기계 대상의 미세한 유도 전략

Mecha-nudges for Machines

넛지는 인간 의사 결정자가 선택지를 제시하는 방식에 대한 미묘한 변화로서, 옵션을 제한하거나 인센티브를 변경하지 않고도 행동을 변화시키는 것을 의미합니다 (예: 기본적으로 '선택 가입' 방식 vs. '자동 가입' 방식). 인공지능 에이전트가 인간과 동일한 환경에서 의사 결정을 내리는 빈도가 증가함에 따라, 선택지의 제시 방식은 인간뿐만 아니라 기계에게도 최적화될 수 있습니다. 본 연구에서는 기계 대상의 미세한 유도 전략, 즉 '메카-넛지(mecha-nudges)'를 소개합니다. 이는 기계 에이전트에 체계적으로 영향을 미치는 선택지의 제시 방식의 변화이지만, 인간의 의사 결정 환경을 저해하지는 않습니다. 메카-넛지를 형식화하기 위해, 우리는 베이지안 설득 프레임워크와 'V-사용 정보(V-usable information)'를 결합합니다. V-사용 정보는 섀넌 정보의 일반화된 형태로, 관찰자에 따라 달라집니다. 이를 통해 다양한 개입, 맥락 및 모델을 비교할 수 있는 공통 척도(사용 가능한 정보의 비트)를 제공합니다. 본 연구에서는 Etsy(독립 판매자를 위한 글로벌 온라인 마켓플레이스)의 상품 목록에 적용하여, ChatGPT 출시 이후 상품 목록에 기계가 활용할 수 있는 정보가 크게 증가했으며, 이는 체계적인 메카-넛지와 일관성이 있음을 확인했습니다.

Nudges are subtle changes to the way choices are presented to human decision-makers (e.g., opt-in vs. opt-out by default) that shift behavior without restricting options or changing incentives. As AI agents increasingly make decisions in the same environments as humans, the presentation of choices may be optimized for machines as well as people. We introduce mecha-nudges: changes to how choices are presented that systematically influence AI agents without degrading the decision environment for humans. To formalize mecha-nudges, we combine the Bayesian persuasion framework with V-usable information, a generalization of Shannon information that is observer-relative. This yields a common scale (bits of usable information) for comparing a wide range of interventions, contexts, and models. Applying our framework to product listings on Etsy -- a global marketplace for independent sellers -- we find that following ChatGPT's release, listings have significantly more machine-usable information about product selection, consistent with systematic mecha-nudging.