<aside> ✍️ 핵심 요약

3.1 AI 서비스 에러와 해결

• 오류에는 1. 유저 에러(user error), 2. 시스템 에러(system error), 3. 맥락 에러(context error) 등이 있음
• 이것을 기반으로 1. 에러 내용 2. 에러 유형 3. 사용자가 겪게 될 리스크를 생각해보면 좋음
• 오류 출처에는 1. 훈련 데이터 오류 2. 유저가 데이터를 잘못 입력한 경우 3. 시스템 자체의 오류 등이 있음
• 이것을 기반으로 1. 에러 출처 2. 해결 방식(a. 시스템에서 유저가 할 행동, b. 모델 개선의 가능성)을 생각해보면 좋음
• 오류 해결을 위해, 유저에게 1. 피드백 할 기회를 주고 2. 시스템 제어권을 주되, 유저가 시스템을 망치는 ‘파괴적인 행동’을 할 가능성이 있다는 것을 언제나 염두해둬야 함 </aside>

3**.1 AI 서비스 에러와 해결**

3.1.1 오류 유형

• Challenge 2.6: 발생 오류 예측과 솔루션을 예상해보자
• 유저 에러(user error)
  • 유저가 시스템을 잘못 사용하는 경우
• 시스템 에러(system error)
  • 시스템이 유저 행동에 적합하게 반응하지 않는 경우
• 맥락 에러(context error)
  • 유저의 시공간적 환경에 대한 잘못된 추측으로 틀린 것은 아니지만, 맥락에 맞지 않는 행동을 하는 경우

3.1.2 오류의 원인 파악하기

• Challenge 2.6: 발생 오류 예측 개선안을 계획해보자

• 예측&훈련 데이터의 오류

  • 라벨링이 잘못되거나, 분류가 잘못된 경우

    이 같은 경우 사용자가 직접 데이터 또는 레이블을 수정할 수 있도록 허용합니다. 이같은 경우 모델 피드백을 통해 데이터세트가 개선될 수 있으며, 추가적인 학습 데이터가 필요하다는 정보를 쉽게 확인할 수 있습니다.

  • 예측이 잘못되거나, 모델이 잘못된 경우

    학습 데이터가 충분함에도 불구하고 머신러닝 모델의 정확도가 높지 않은 경우 발생하는 오류를 의미합니다. 이 같은 경우에도 사용자가 데이터 또는 레이블을 수정할 수 있도록 허용하면 AI 모델이 피드백을 통해 조절되는 데에 도움이 됩니다.

  • 데이터가 누락되거나, 불완전한 경우

    예를 들어 식물 분류 서비스 사용자가 동물 사진을 분류하고자 하는 경우를 들 수 있습니다. 이 같은 경우 시스템이 본래 하는 일과 작동 방식을 명확히 전달합니다. 그런 다음 누락된 부분이나 시스템의 한계에 대해 자세히 설명하는 것이 좋습니다.

• 입력 데이터의 오류

  • 유저가 예상치 못한 데이터를 입력한 경우

    예를 들어 사용자가 오타를 입력해도 시스템이 자동으로 본래 어휘 및 의미를 이해하고 이를 고칠 수 있을 것이라 기대하는 경우를 들 수 있습니다. 이 같은 경우 사용자의 입력의 "예상" 답변의 선택지를 다양하게 제공하여 해당 목록 중 어떤 것을 의도한 것인지 정확히 확인하는 것이 좋습니다.

  • 유저의 습관과 다른 결과가 나온 경우

    사용자가 기존 습관대로 시스템 UI를 클릭했지만, 인공지능 기능이 접목된 후 변경된 시스템으로 인해 사용자의 행동이 원치 않는 다른 결과로 이어질 때를 이야기합니다. 최대한 사용자의 습관을 깨지 않는 방식으로 AI를 구현하는 것이 좋습니다. 또한, 사용자가 직접적인 설정 기능을 통해 특정 기존의 상호작용 패턴으로 되돌리거나, 특정 패턴을 선택하거나, 다시 훈련할 수 있도록 권한을 주는 것이 좋습니다.

  • 입력 정보를 잘못 측정한 경우

    시스템 가중치가 잘못 설정되어 있거나 정도에 대한 잘못된 선택을 한 경우입니다. 예를 들어 음악 추천 서비스에서 아티스트 A를 한번 검색했다고 지속적으로 아티스트 A에 대한 추천만 지속적으로 제안하는 경우를 들 수 있습니다. 이 같은 경우 시스템이 입력, 출력을 어떻게 인식하고 있는지 설명하고, 피드백을 통해 이를 수정할 수 있도록 합니다.

• 맥락 오류

  • 자신 있게 추천하기 힘든 경우

    불확실성에 따른 한계로 인해 모델이 주어진 작업을 수행할 수 없는 경우, 특정 결과를 제공할 수 없는 이유에 대한 설명과 함께 대안을 함께 제공하는 것이 좋습니다.

  • 관련성이 낮은 경우

    자신 있게 추천할 수는 있지만 사용자의 요구 사항과 완벽히 일치하지 않는 경우를 의미합니다. 예를 들어 한 사용자가 가족 장례식을 위해 휴스턴으로 가는 여행을 예약하였는데, 여행 앱에서 "신나는 휴가 액티비티"를 추천하는 경우를 들 수 있습니다. 이 같은 경우 사용자가 시스템의 기능을 향상시키기 위한 피드백을 제공할 수 있도록 하는 것이 좋습니다.

• 모호한 시스템 계층 오류

  • 시스템 중복 오류

    사용자가 제품을 다른 시스템에 연결하지만, 연결하고자 하는 시스템이 정확히 어떤 것인지 명확하지 않은 경우를 의미합니다. 예를 들어, 사용자가 '스마트 온도 조절기'를 '스마트 에너지 측정기'에 연결하지만, 두 시스템은 에너지 효율을 최적화하는 방법이 달라 시스템이 서로 충돌하는 신호를 보내는 경우를 들 수 있습니다. 이 같은 경우 연결된 여러 시스템을 설명하고 사용자가 우선순위를 결정할 수 있도록 합니다.

  • 신호 충돌 오류

    여러 시스템이 단일 (또는 유사한) 출력을 모니터링하고 이로 인해 동시에 경고를 보내는 경우를 의미합니다. 예를 들어, 사용자의 음성 입력이 여러 음성 인식 스피커에 동시에 인식되어 여러 개가 반응하는 경우를 들 수 있습니다. 이 같은 경우 사용자는 인지적 부하를 느끼고, 이 다음에 무엇을 해야 할지 갈피를 잃을 수 있습니다. 따라서 사용자가 다른 신호와 겹치지 않도록 제어 가능한 통제권을 주는 것이 좋습니다.

3.1.3 오류 해결하기

• 피드백 기회 주기
  • 앞선 파트에서 강조한 것처럼 사용자가 경험하는 많은 오류에는 시스템을 개선하기 위한 피드백이 필요합니다. 특히 레이블이 잘못된 데이터와 같이 시스템 자체에서 쉽게 인식되지 않는 오류 유형은 외부 피드백에 의존하여 수정되기도 합니다. 사용자에게 오류 메시지가 표시될 때 시스템 출력을 수정하기 위해서는 어떤 방식의 피드백을 제공할 수 있을지 고민해 보고, 피드백 기회를 제공해야 합니다.
• 사용자에게 제어권을 주자
  • AI 시스템이 실패한 경우 이를 수정하기 위한 가장 쉬운 방법은 사용자가 이어받을 수 있도록 설계하는 것입니다. 사용자에게 어느 정도의 제어 권한을 줄 것인가 여부나 통제권을 어떤 방식으로 부여할 것인가는 시스템마다 다릅니다.
  • AI를 완전히 사용자 제어로 전환하는 경우, 사용자가 시스템이 중단된 지점을 쉽고, 직관적으로 빠르게 선택할 수 있도록 디자인해야 합니다. 즉, 오류 상황에서 사용자가 상황을 인식하여 그 다음 작업의 수행 방식에 대한 주도권을 즉각적으로 잡기 위해 필요한 정보가 충분히 제공되어야 합니다.
• 파괴적인 사용 상황을 가정하자
  • 일부 사용자가 의도적으로 오류 메시지를 남용할 수 있다는 것을 알고 제품을 디자인해야 합니다. 시스템의 취약성을 너무 자세하게 설명하지 않도록 하는 것이 좋습니다. 예를 들어, 사용자가 받은 편지함에 있는 이메일을 스팸으로 표시할 때마다 매번 메일을 스팸으로 분류한 이유를 설명한다면, 이는 되려 스팸메일 발송자에게 필터에 걸리지 않도록 하는 팁을 제공하는 셈이 됩니다. 즉, 사용자가 이 같은 오류를 재현하도록 장려하는 역할을 할 수 있습니다.