<aside> ✍️ 핵심 요약

MS의 Human-AI interaction guidelines가 주된 내용

4.1 AI 서비스 인터렉션 가이드라인이 필요한 이유

• 기존 서비스는 일관되게 작동하지 않으면 잘못된 것이지만, AI 서비스는 특유의 불확실성이 있고 → 그 불확실성은 유저의 피드백을 학습하면서 나아짐 → 다만 이 과정에서 유저는 불만족스럽고, 혼란스럽고 심지어 때로는 위협을 느낄 수 있기 때문에 AI 서비스 인터렉션 가이드라인을 통해 유저의 경험을 보다 나은 방향으로 이끌고 가는 것이 필요함.

4.2 AI 서비스 인터렉션: Initially

• AI 서비스가 초기 유저에게 높은 기대감을 주면, 유저가 실망할 수 있으므로 제품의 기능과 한계를 솔직하게 전달하는 것이 중요함. 따라서 초기 단계의 핵심은 적절한 기대치 설정.

4.3 AI 서비스 인터렉션: During Interaction

• AI 서비스는 사용 유저의 컨텍스트에 적합한 컨텐츠를 제공해야 함. 따라서 사용 단계의 핵심은 유저의 컨텍스트 또는 사회적 컨텍스트에 맞는 서비스 제공.

4.4 AI 서비스 인터렉션: When Wrong

• AI 서비스는 특유의 불확실성 때문에 필연적으로 잘못되기 마련임. 따라서 AI 서비스가 실수했을 때의 핵심은 최대한 그 실수를 고상한 실수로 만드는 것.

4.5 AI 서비스 인터렉션: Over Time

• AI 서비스는 시간이 지남에 따라 학습하고 개선됨. 따라서 피드백 단계의 핵심은 세분화된 피드백 방법을 유저에게 제공하고, 그 피드백과 서비스 고도화를 연결시키는 것. </aside>

4**.0 AI 서비스 인터렉션 가이드라인이 필요한 이유**

• Human-AI interaction guidelines

• 기존 서비스는 일관되게 작동하지 않으면 잘못된 것이지만, AI 서비스는 특유의 불확실성이 있고 → 그 불확실성은 유저의 피드백을 학습하면서 나아짐 → 다만 이 과정에서 유저는 불만족스럽고, 혼란스럽고 심지어 때로는 위협을 느낄 수 있기 때문에 AI 서비스 인터렉션 가이드라인을 통해 유저의 경험을 보다 나은 방향으로 이끌고 가는 것이 필요함.

• AI 서비스 인터렉션 가이드라인은 유저 언터렉션 단계에 따라 18개의 디자인 지침이 4가지 범주로 그룹화됨

  

• AI 서비스 인터렉션: Initially

  AI 서비스가 초기 유저에게 높은 기대감을 주면, 유저가 실망할 수 있으므로 제품의 기능과 한계를 솔직하게 전달하는 것이 중요함. 따라서 초기 단계의 핵심은 적절한 기대치 설정.

  1. AI 서비스는 유저에게 자신이 할 수 있는 작업을 명확하게 제시해야 한다(Make clear what the system can do.)
  2. AI 서비스는 유저에게 자신이 얼마나 잘할 수 있는지, 어떤 실수를 할 수도 있는지 명확하게 제시해야 한다(Make clear how well the system can do what it can do)

• AI 서비스 인터렉션: During Interaction

  AI 서비스는 사용 유저의 컨텍스트에 적합한 컨텐츠를 제공해야 함. 따라서 사용 단계의 핵심은 유저의 컨텍스트 또는 사회적 컨텍스트에 맞는 서비스 제공.

  1. AI 서비스는 유저에게 적재적소의 서비스를 제공해야 한다(Time services based on context)
  2. AI 서비스는 유저의 컨텍스트에 맞는 서비스를 제공해야 한다.(Show contextually relevant information)
  3. AI 서비스는 유저에게 사회적 규범에 맞는 서비스를 제공해야 한다.(Match relevant social norms)
  4. AI 서비스는 유저에게 사회적 편견이 없는 서비스를 제공해야 한다.(Mitigate social biases)

• AI 서비스 인터렉션: When Wrong

  AI 서비스는 특유의 불확실성 때문에 필연적으로 잘못되기 마련임. 따라서 AI 서비스가 실수했을 때의 핵심은 최대한 그 실수를 고상한 실수로 만드는 것.

  1. AI 서비스는 쉽게 호출하거나 요청할 수 있어야 한다.(Support efficient invocation)
  2. AI 서비스는 쉽게 종료하거나 무시할 수 있어야 한다.(Support efficient dismissal)
  3. AI 서비스는 쉽게 수정할 수 있어야 한다.(Support efficient correction)
  4. AI 서비스는 유저의 의도를 명확하게 짚고 넘어가야 한다.(Scope services when in doubt)
  5. AI 서비스는 왜 시스템이 그렇게 작동했는지, 유저에게 명확히 설명해야 한다.(Make clear why the system did what it did)

• AI 서비스 인터렉션: Over Time

  AI 서비스는 시간이 지남에 따라 학습하고 개선됨. 따라서 피드백 단계의 핵심은 세분화된 피드백 방법을 유저에게 제공하고, 그 피드백과 서비스 고도화를 연결시키는 것.

  1. AI 서비스는 이전 인터렉션과 자연스럽게 연결되는 서비스를 제공해야 한다.(Remember recent interactions)
  2. AI 서비스는 유저의 행동을 학습해서, 사용자 경험을 개인화해야 한다.(Learn from user behavior)
  3. AI 서비스는 조금씩, 조심스럽게 업데이트&조정 해야 한다.(Update and adapt cautiously)
  4. AI 서비스는 유저에게 세분화된 피드백을 받아야 한다.(Encourage granular feedback)
  5. AI 서비스는 유저가 한 행동의 결과를 보여줘야 한다.(Convey the consequences of user actions)
  6. AI 서비스는 유저에게 맞춤화 기능을 제공해야 한다.(Provide global controls)
  7. AI 서비스는 신중하게 업데이트&조정한 내용을 유저에게 알려야 한다.(Notify users about changes)

4**.1 AI 서비스 인터렉션: Initially**

AI 서비스가 초기 유저에게 높은 기대감을 주면, 유저가 실망할 수 있으므로 제품의 기능과 한계를 솔직하게 전달하는 것이 중요함. 따라서 초기 단계의 핵심은 적절한 기대치 설정.

1. AI 서비스는 유저에게 자신이 할 수 있는 작업을 명확하게 제시해야 한다(Make clear what the system can do.)
   • Guideline 1: Make clear what the system can do
   • 유저가 AI 서비스의 전체 기능을 알고있는지 확인하도록 한다.
   • 유저가 현재 수집, 저장, 모니터링 되는 데이터에 관해서 접근할 수 있도록 한다.
     • 센서를 통해 감지되는 방식으로 데이터가 수집되는지, 사용자가 직접 입력하여 수집된 데이터인지 혹은 기타 다른 방식이 활용되는지 사용자에게 알린다.
   • 해석할 수 없는 서비스를 제공하지 않도록 한다.
     • 사용자가 출처를 인지할 수 없는 내용을 SNS의 뉴스피드에서 사용자가 제시하는 경우
   • 유저에게 알리지 않고, 임의로 정보를 묶지 않도록 한다.
   • 가이드라인 없이 개방형 입력 인터페이스를 제공하지 않도록 한다.
     • 첫 발화가 “무엇을 하고 싶습니까?”인 챗봇이 이에 해당함
2. AI 서비스는 유저에게 자신이 얼마나 잘할 수 있는지, 어떤 실수를 할 수도 있는지 명확하게 제시해야 한다(Make clear how well the system can do what it can do)
   • Guideline 2: Make clear how well the system can do what it can do
   • 피드백과 서비스 고도화를 연결시킨다.
     • 인공지능 시스템이 시간이 흐름에 따라 점진적으로 학습을 진행하고, 실수를 하더라도 점차 빈도가 적어지는 방향으로 개선된다는 사실을 알린다.
   • 인공지능이 틀릴 수 있다는 점을 염두에 둔 어휘를 사용한다.
     • "이 이메일은 스팸메일일 가능성이 있습니다.", "당신은 이 영화를 좋아할 것 같습니다." 같은 설명을 제공한다.
   • AI 서비스에 대한 적절한 기대치를 설정한다.
   • 상황이 변경됐을 경우, 유저에게 변경된 상황을 꼭 언급한다.

4.2 AI 서비스 인터렉션: During Interaction

AI 서비스는 사용 유저의 컨텍스트에 적합한 컨텐츠를 제공해야 함. 따라서 사용 단계의 핵심은 유저의 컨텍스트 또는 사회적 컨텍스트에 맞는 서비스 제공.

1. AI 서비스는 유저에게 적재적소의 서비스를 제공해야 한다(Time services based on context)
   • Guideline 3: Time services based on context
   • 유저에게 추천 기능을 제안한다.
   • 유저에게 새로운 기능을 알린다.
   • 정보 과부화를 최소화한다.
   • 컨텍스트에 맞는 알림만 발송한다.
2. AI 서비스는 유저의 컨텍스트에 맞는 서비스를 제공해야 한다.(Show contextually relevant information)
   • Guideline 4: Show contextually relevant information
   • 유저 컨텍스트와 관련된 정보를 표시한다
     • 영화 예매 서비스에서 현재 사용자의 위치 정보나 시간대 정보를 고려하여 영화 스케줄을 필터링해서 보여준다.
   • 권장사항은 눈에 띄게 표시한다
   • 유저 컨텍스트가 변경되면, 인터페이스 또한 변경한다.
     • 활동 트래킹 서비스에서 사용자가 가만히 있는 경우와 움직이는 경우, 다른 화면을 보여준다.
3. AI 서비스는 유저에게 사회적 규범에 맞는 서비스를 제공해야 한다.(Match relevant social norms)
   • Guideline 5: Match relevant social norms
   • 유저에게 중요한 요소를 인식하도록 한다.
   • 부적절한 추천을 하지 않도록 한다.
4. AI 서비스는 유저에게 사회적 편견이 없는 서비스를 제공해야 한다.(Mitigate social biases)

ETC. 인공지능 서비스 인터랙션 개선해보기

challenge

• 하나의 인공지능 기반 서비스를 선택하고, 해당 서비스에서 아쉬움이 느껴지는 부분을 개선해보기
• 혹은 인공지능이 사용되지 않은 서비스를 선택하고, 만약 인공지능을 활용한 기능이 지원된다면 어떻게 인터페이스, 인터랙션이 필요할지 생각해 보는 것도 좋음.
• 가이드라인의 각 단계에서 최소한 하나 이상의 지침을 활용해서, 아이디에이션 진행하기
• 아이디에이션 결과를 바탕으로 프로토타이핑 결과 및 이에 대한 설명을 작성하기

challenge example

1. AI 서비스 인터렉션: Initially

1. AI 서비스 인터렉션: During Interaction