<aside> ✍️ 핵심 요약
이번 챕터에서는 다음 내용을 다룸
사용자 신뢰 대상 명확화 : 신뢰는 이익에 대한 기대를 바탕으로 위험을 감수할 용의가 있는 것을 의미함사용자가 신뢰 수준을 설정하도록 지원 : 시스템의 목표는 사용자가 어떤 상황에서는 시스템을 신뢰하지만 필요할 때 다시 확인하는 것으로, 신뢰에 영향을 미치는 요인은 다음과 같음
명확한 데이터 소스 : AI의 예측에 사용되는 데이터를 사용자에게 알려주면, 상황에 따른 당혹스러움을 느끼는 경우나 개인 정보 보호에 대한 의심을 방지하고 사용자의 판단을 적용해야 할 때를 알 수 있음사용자의 동작에 대한 설명 제공 : 사용자의 동작과 시스템 출력 간의 명확한 인과 관계를 설명과 함께 표시하면 시간이 지남에 따라 사용자가 올바른 수준의 신뢰를 구축하는 데 도움이 됨상황에 따른 이해관계 고려 : 자세한 설명을 제공하고 신뢰도가 낮거나 높은 이해관계가 있는 상황에서 사용자가 결과를 확인하도록 유도하고 신뢰도가 높은 예측의 근거를 밝혀 사용자 신뢰를 강화할 수 있음Product 경험 전반에 걸친 신뢰도 구축 계획 : 사용자와 적절한 수준의 신뢰를 구축하는 과정은 충분한 시간과 신중함이 필요하며 사용자와 Product의 상호 작용 전, 그리고 전체에서 발생함. 각 단계에서 신뢰도를 조정하기 위해 Product 내부 및 주변에서 사용할 수 있는 다양한 접근 방식 (교육, 온보딩)이 있음사용자의 이해를 위한 최적화 : 경우에 따라 명시적이고 포괄적인 설명을 제공할 방법이 없을 수 있음. 출력 이면의 계산은 해당 시스템의 개발자에게도 불가사의할 수 있으며, 다른 경우에는 예측 뒤에 있는 추론을 표면화하는 것이 가능할 수 있지만 사용자가 이해할 수 있는 용어로 설명하기가 쉽지 않을 수 있기 때문에, 이 경우 부분적인 설명을 사용하는 것이 좋음사용자 결정에 미치는 영향력 관리 : 사용자가 모델 출력을 기반으로 결정을 내려야 하는 경우 모델 신뢰도를 표시하는 시기와 방법이 사용자가 취하는 조치에 중요한 역할을 할 수 있음. 모델 신뢰도를 전달하는 방법에는 여러 가지가 있으며 각각 고유한 장단점과 고려 사항이 존재함
</aside>AI는 확률과 불확실성을 기반으로 하기 때문에 올바른 수준의 설명은 사용자가 시스템 작동 방식을 이해하는 데 중요합니다. 사용자가 시스템의 기능과 한계에 대한 명확한 Mental model을 갖게 되면 목표 달성을 위해 시스템을 신뢰하는 방법과 적절한 시점에 대해 이해할 수 있습니다. 요컨대, 설명 가능성과 신뢰는 본질적으로 연결되어 있습니다.
Chapter 4에서는 AI가 어떤 역할을 수행하고 어떤 데이터를 활용해 의사결정을 하는지, 모델 결과에 대한 신뢰도 수준에 대해 설명하는 방법과 적절한 시점에 대해 설명합니다.
사용자 신뢰 대상 명확화 : 신뢰는 이익에 대한 기대를 바탕으로 위험을 감수할 용의가 있는 것을 의미사용자가 신뢰 수준을 설정하도록 지원 : AI는 통계와 확률을 기반으로 하기 때문에 사용자가 시스템을 완전히 신뢰하도록 해서는 안 되며, 설명을 통해 예측을 신뢰할 시점과 자신의 판단을 적용할 시점을 알 수 있도록 해야 함Product 경험 전반에 걸친 신뢰도 구축 계획 : 올바른 수준의 신뢰를 구축하기 위한 충분한 시간이 필요하며, AI가 시간이 지남에 따라 변화하고 적응할 수 있는 것과 같이 사용자와 Product의 관계도 마찬가지로 볼 수 있음사용자의 이해를 위한 최적화 : 경우에 따라 복잡한 알고리즘의 결과에 대한 명시적이고 포괄적인 설명이 필요 없을 수 있으며, AI 개발자 조차도 그것이 어떻게 작동하는지 정확히 알지 못 할 수 있고, 다른 경우 예측 이면의 추론을 알 수 있지만 사용자가 이해할 수 있는 용어로 설명하기 어려울 수 있음사용자 결정에 미치는 영향력 관리 : AI 시스템은 종종 사용자가 조치를 취해야 하는 결과를 생성함. 시스템이 신뢰 수준을 계산하고 표시하기 위한 적절한 시점 및 방법은 사용자의 의사 결정을 알리고 신뢰를 조정하는 데 중요함신뢰는 이익에 대한 기대를 바탕으로 위험을 감수할 용의가 있는 것을 의미하며, 다음 요소는 사용자 신뢰에 기여합니다.
**능력 (Abilitay)**은 작업을 완료하기 위한 Product의 역량으로, 이것이 사용자의 니즈를 충족하고 UX를 개선했나요? 쉽게 인식할 수 있는 의미 있는 가치를 제공하는 Product를 위해 노력해야 합니다.
**신뢰 (Trust)**는 Product가 기능을 얼마나 일관되게 제공하는지 나타내는 것으로, 품질 기준이 사용자가 설정한 기대치에 충족하나요? 사용자에게 투명하게 설명하고 설정한 기준을 충족할 수 있는 경우에만 실행해야 합니다.
**자비 (Benevolence)**는 신뢰할 수 있는 당사자가 사용자에게 좋은 일을 해주기를 원한다는 믿음입니다. 사용자는 Product와의 관계에서 무엇을 얻고 우리는 그것으로부터 무엇을 얻을까요? 이것에 대해 정직하고 솔직해야 합니다.
예를 들어, 식물을 식별하는 앱에서 등산 중에 찍은 사진을 통해 앱이 안전한 식물과 안전하지 않은 식물을 얼마나 잘 인식할 수 있는지, 계절과 조명 조건에 따라 얼마나 일관되게 작동하는지를 통해 사용자는 앱에 대한 신뢰 수준을 설정합니다.
사용자 신뢰를 얻는 과정은 충분한 시간이 필요하고 사용자의 기대 수준을 적절하게 조정해 Product가 무엇을 할 수 있는지에 대한 이해가 필요합니다. 이 챕터에서는 사용자가 AI 기반 Product에 대한 신뢰 수준 설정의 적절한 시기와 방법에 대한 가이드라인을 안내합니다.