<aside> ✍️ 핵심 요약

이번 챕터에서는 다음 내용을 다룸

  1. 양질의 데이터를 위한 초기 단계 계획 : 데이터를 수집하고 준비할 때 미리 철저한 계획을 세워두면 전체 사이클에서 잘못된 데이터 선택의 영향을 방지할 수 있음
  2. 사용자의 니즈와 데이터 요구사항 연결 : 데이터의 Feature, Label 및 Example을 신중하게 고려해야 하며, 사용자의 니즈, 사용자 작업 및 예측을 필요한 Dataset을 체계적으로 분석해야 함. 잠재적인 Dataset을 식별하거나 데이터 수집 계획을 수립할 때 데이터를 검사하고 잠재적인 편향을 식별하며 데이터 수집 방법을 설계해야 함
  3. 데이터 소싱 및 평가 : 기존 Dataset을 사용하거나, 새 Training dataset을 구축하는 경우 모두 관련성, 공정성, 개인 정보 보호 및 보안을 고려해야 함
  4. Dataset 구축 및 문서화 : Dataset의 준비 및 수집, 처리 과정에서 내린 결정과 내용을 문서화해야 함
  5. 라벨러 및 라벨링을 위한 설계 : Label이 올바르게 지정된 데이터는 효과적인 지도 학습 (Supervised learning)의 중요한 요소로, 라벨러가 사용하는 툴을 신중하게 검토하면 라벨의 정확성을 향상하는 데 도움됨
  6. 모델의 Tuning : 모델의 파라미터를 조정할 뿐만 아니라 데이터를 검사하는 작업이 포함하여 모델을 엄격하게 테스트하고 Tuuning해야 함. 대부분의 경우 데이터의 문제로 추적될 수 있음 </aside>

0. AI 서비스와 데이터

예측을 위한 AI 기반 Product는 데이터의 패턴과 상관 관계를 인식하도록 모델을 학습시켜야 함. 여기에서 활용되는 데이터를 Training data라고 하며, 이는 이미지, 비디오, 텍스트, 오디오 등이 될 수도 있고 기존 데이터 소스를 사용하거나 명시적으로 새 데이터를 수집하여 모델을 학습시킬 수도 있음. 이처럼 소싱하거나 수집하는 Training dataset과 해당 데이터의 Labeling 방법은 모델의 결과와 UX의 품질을 결정하는데 큰 영향을 끼치므로, 다음과 같이 AI를 Product에 적용하기 전 6가지를 고려해야 함.

  1. 양질의 데이터를 위한 초기 단계 계획 : 데이터 품질보다 모델 개발에 더 많은 시간과 리소스가 투자되는 경우가 대부분으로, AI 모델링 중 잘못된 데이터의 영향을 피하려면 초반 데이터 수집 단계부터 철저히 계획해야 함
  2. 사용자의 니즈와 데이터 요구사항 연결 : 사용자의 니즈와 연결하여 모델 학습에 필요한 데이터 유형을 결정하고 예측력, 관련성, 공정성, 개인 정보 보호 및 보안을 고려해야 함
  3. 데이터 소싱 및 평가 : Label이 지정된 데이터를 사용하거나 직접 데이터를 수집하는 등 프로젝트에 적합한지 확인하기 위해 데이터와 수집 방법을 평가하는 것이 중요함
  4. Dataset 구축 및 문서화 : Dataset의 준비 및 수집, 처리 과정에서 내린 결정과 내용을 문서화해야 함
  5. 라벨러 및 라벨링을 위한 설계 : 지도 학습 (Supervised learning)의 경우 모델에서 유용한 결과를 얻으려면 정확한 데이터 Label을 갖는 것이 중요하므로 초반의 Label 지정 지침 및 UI 흐름을 신중하게 설계해야 함
  6. 모델의 Tuning : 모델의 결과와 Product의 목표 및 사용자 니즈와 일치하는지 확인하고, 그렇지 않은 경우 데이터의 잠재적인 문제를 분석하여 해결해야 함

1. 양질의 데이터를 위한 초기 단계 계획

데이터는 AI에 매우 중요하지만 데이터 품질보다 모델 개발에 더 많은 시간과 리소스가 투자되는 경우가 대부분으로 개발 파이프라인 전체에 걸쳐 상당한 다운스트림 효과를 발생시킬 수 있는데, 이를 ’Data cascades’라고 함.

[예시]

  1. 서비스 기획 : 식물의 사진을 업로드하면 식물 유형에 대해 예측하고 먹어도 안전한지 판단하는 앱 개발
  2. 개발 과정 : 이미지 분류 모델을 훈련하기 위한 Dataset 준비 → 이미 Label이 있고 모델을 학습하는 데 사용하기 쉬운 Dataset으로 이는 대부분 북미 원산의 식물 이미지로 이루어져 있음
  3. 개발 결과 : Plant Pal 앱을 출시 후 많은 사용자가 남미에서 식물 검출 오류를 보고하고 있음을 알게 됨

이는 Training data와 실제 사용자 데이터 간의 불일치 효과가 지연된 Data cascades의 예로써, 만약 AI 모델을 개발할 때 남미 원산의 식물 이미지를 포함하거나 북미에서만 앱을 출시함으로써 문제를 피할 수 있었을 것임. 이처럼 일부 Data cascades는 진단이 어려울 수 있으며, 사용자가 말하기 전까지 그 영향을 알 수 없음. 따라서, 처음부터 데이터를 철저히 분석하여 완전히 이해하면 문제를 조기에 발견하는 데 도움이 될 수 있음. 고품질 데이터는 다음과 같이 정의할 수 있음.