컴퓨터 화면을 보고 마우스로 쇼핑하는 AI는 ‘저렴하고 따뜻한 옷을 골라줘’처럼 모호한 부탁을 어떻게 처리해야 할까?
가격·소재·사이즈를 판단할 때, 스스로 선택할 조건과 사용자에게 되물어야 할 조건을 어떤 기준으로 정할 수 있을까?
가격·소재·사이즈를 판단할 때, 스스로 선택할 조건과 사용자에게 되물어야 할 조건을 어떤 기준으로 정할 수 있을까?
AI는 틀렸을 때의 손실과 선택의 가역성을 기준으로, 낮은 위험은 잠정 판단하고 중요한 불확실성은 되물어야 한다.
“저렴하고 따뜻한 옷”은 정답이 정해진 지시가 아니라 사용자의 선호를 구체화해야 하는 요청이다. AI는 이를 예산, 보온성, 착용감, 사이즈 등의 조건으로 나누되, 자신의 추정을 사용자 의도로 단정하지 않아야 한다.
판단 기준은 오해할 가능성 × 오해했을 때의 손실, 그리고 되돌리기 쉬운 정도다. 이는 엄밀한 계산식이라기보다 판단 틀이다.
가격: 가격대별 후보를 먼저 탐색할 수는 있지만, 시장 최저가를 사용자에게 ‘저렴한 가격’이라고 단정하면 안 된다. 구매 전에는 배송비를 포함한 총예산을 확인한다.
소재: 소재명만으로 보온성을 확정하지 않는다. 두께·충전재·방풍성 등을 함께 보고, 확인되지 않는 성능은 불확실하다고 표시한다. 알레르기나 동물성 소재 회피 여부가 선택에 중요하면 묻는다.
사이즈: 평소 입는 호칭만 믿지 않고 해당 상품의 실측표와 비교한다. 정보가 부족하면 신체 치수나 잘 맞는 옷의 치수, 원하는 핏을 요청한다.
질문을 너무 많이 하는 것도 비용이다. 따라서 후보를 크게 바꾸는 질문부터 최소한으로 묻고, 탐색은 자율적으로 하되 결제처럼 되돌리기 어려운 행동은 명시적으로 승인받는 방식이 적절하다.
되돌리기 쉽고 추론 가능한 조건은 AI가 가정하고 진행하며, 개인 정보가 필요하거나 오류 비용이 큰 조건만 되묻는 것이 합리적이다.
모호한 요청은 "묻느냐, 추측하느냐"의 이분법보다 되묻는 비용(사용자의 번거로움) 대 틀렸을 때의 비용으로 판단하는 편이 낫습니다. 대화형 검색의 명료화 질문 연구(예: Rao & Daumé III, 2018)는 질문의 기대 효용으로 이를 다루고, 로봇 분야의 KnowNo(Ren et al., 2023)는 불확실할 때만 도움을 요청하도록 보정합니다. 쇼핑 에이전트에 그대로 검증된 표준이 있는 것은 아니므로, 아래는 이 아이디어를 응용한 설계 기준입니다.
| 기준 | 스스로 결정 | 되묻기 | |---|---|---| | 되돌림 | 장바구니 담기, 정렬·필터 | 결제, 환불 불가 상품 | | 추론 가능성 | 상식·맥락으로 범위 추정 가능 | 개인 취향·신체 정보 | | 선호 편차 | 대부분 비슷하게 원함 | 사람마다 크게 다름 | | 오류 비용 | 낮음 | 높음(건강, 큰 금액) |
이 기준은 AI가 화면에서 읽은 정보가 정확하다는 전제에 의존하므로, 가격이나 옵션을 잘못 읽을 가능성이 있다면 해당 항목도 확인 대상으로 올려야 합니다.
모호한 조건은 상식과 데이터 분포를 통해 정량적 지표로 변환하고, '오류 복구 비용'과 '정보의 개인성'을 기준으로 자율 판단과 사용자 질의를 분기해야 합니다.
화면을 인식하고 마우스와 키보드를 제어하는 GUI 에이전트(GUI Agent)가 "저렴하고 따뜻한 옷" 같은 모호한 요청을 처리하려면, 자연어 처리의 **접지(Grounding: 추상적 언어를 실행 가능한 구체적 속성에 대응시키는 과정)**와 혼합 주도권(Mixed-Initiative: 인간과 AI가 상황에 맞춰 작업 주도권을 유연하게 나누는 방식) 메커니즘이 필요합니다.
에이전트는 상식 지식베이스와 쇼핑몰의 통계 데이터를 활용해 모호한 단어를 필터 조건으로 변환합니다.
판단의 핵심 기준은 **'오류 복구 비용(Cost of Error)'**과 **'정보의 개인성(Private Information)'**입니다.
되물어야 하는 조건 (High Cost & Personal)
스스로 선택해도 되는 조건 (Low Cost & Inferable)
모든 것을 되물으면 사용자 경험이 저해됩니다. 따라서 AI는 불확실한 요소에 대해 **"합리적인 기본값을 적용하고, 그 가정을 사용자에게 투명하게 설명하며 검증을 요청하는 방식(Human-in-the-loop)"**을 취하는 것이 효과적입니다. 예컨대 "평균 가격대 기준 5만 원 이하의 기모 안감 상의를 찾았습니다. 사이즈를 알려주시면 바로 장바구니에 담겠습니다"와 같이 제안하는 구조입니다.