요구사항 14. 인공지능 시스템의 설명에 대한 사용자의 이해도 제고
1. 인증 기준
인공지능 시스템 설명의 사용자 이해도를 제고하고, 사용자 특성에 맞는 명확한 설명을 제공해야 합니다. 이를 통해 제공 서비스의 투명성을 높이고, 사용자의 신뢰를 구축하는 데 기여할 수 있습니다.
2. 평가 개요
| 구분 | 내용 |
|---|---|
평가대상 | 인공지능 시스템 |
평가 방법 | 문서‧절차 검사 및 측정‧기능 시험 |
주요 확인사항 | • 사용자 특성에 맞는 설명 방식이 적용되었는지 확인합니다. • 설명 내용이 명확하고 간결하며, 전문 용어 사용을 최소화했는지 확인합니다. • 시각 자료, 다양한 설명 방식 등을 활용하여 이해도를 높였는지 확인합니다. |
측정‧기능시험 평가 절차 | 시험 합의된 환경에서 제품‧서비스의 시연을 통해 제공되는 설명을 확인합니다. |
3. 평가 세부 설명
3.1 신뢰 속성
설명가능성 및 예측가능성: 사용자에게 인공지능 시스템 작동 방식, 데이터 활용 방식, 의사 결정 과정 등을 설명하는 자료를 제공해야 합니다.
3.2 관련 프로세스 및 양식
고객 만족도 점수 (Customer Satisfaction Score) 조사: 측정하기 쉽지만, 세부적인 경험 등을 파악하기는 어렵습니다.
4. 평가 증빙
| 증빙 문서 | 포함 내용 |
|---|---|
사용자 피드백 기록 | • 설명력 평가 문항 위주 (설문조사 결과 등) |
용어 정의 문서 | - |
UX/UI 사용 시나리오 | - |
사용자 매뉴얼 | - |
시스템 시연 | • 사용자 안내 위주 |
5. 관련 문서
W3C 웹 콘텐츠 접근성 가이드 (WCAG)
한국형 웹 콘텐츠 접근성 지침
모바일 애플리케이션 콘텐츠 접근성 지침
6. 추가 고려사항
인공지능 시스템의 특성 (예: 복잡성, 민감성 등)에 따라 설명 방식을 조정할 필요가 있습니다.
특정 문화권에서 특별한 의미를 가진 상징이나 표현을 사용하지 않도록 주의합니다.
장애인 사용자를 위한 접근성을 확보해야 합니다 (예: 영상 설명이 있는 경우 자막 및 음성 설명을 제공하고, 스크린 리더를 사용하는 시각 장애인 사용자를 위해 설명 내용을 텍스트로 제공합니다).
7. 사례
[1] 고객사 및 사용자로부터 사용성에 대한 설문조사를 실시하고 피드백을 반영한 기록을 보관
[2] 설명 해석을 위한 가이드 문서를 별도로 제공하여 전문 용어에 대한 설명 안내
Last updated