요구사항 15. 서비스 제공 범위 및 상호작용 대상에 대한 설명 제공

1. 인증 기준

서비스를 오･남용하지 않도록 서비스의 목적, 범위, 제한사항, 면책조항(disclamer), 상호작용 대상을 포함한 내용을 설명해야 합니다. 이는 인공지능 시스템의 투명성, 책임성을 향상시키는데 기여합니다.

2. 평가 개요

구분내용

평가대상

인공지능 시스템

평가 방법

문서‧절차 검사 및 측정‧기능 시험

주요 확인사항

• 사용자 매뉴얼 및 제품 설명서가 명확하고 이해하기 쉬운지 확인합니다. • 인공지능 활용동의서가 제시되었는지 확인합니다. • 사용자 안내 위주의 시스템 시연이 적절한지 확인합니다.

측정‧기능시험 평가 절차

시험 합의된 환경에서 제품‧서비스의 시연을 통해 제공되는 설명을 확인합니다.

3. 평가 세부 설명

3.1 신뢰 속성

  • 안전성: 서비스 제공범위 및 상호작용 대상을 명확히 하여 인공지능 시스템의 오용 위험을 감소시켜야 합니다.

3.2 관련 프로세스 및 양식

  • 고객 만족도 점수 (Customer Satisfaction Score) 조사: 측정하기 쉽지만, 세부적인 경험 등을 파악하기는 어렵습니다.

  • 경고문구 및 FAQ 안내

    • 예1) Google Gemini

    • 예2) Naver CLOVA X

4. 평가 증빙

증빙 문서포함 내용

사용자 매뉴얼/제품 설명서

• 사용자 매뉴얼/제품 설명서 문서 또는 파일

인공지능 활용 동의서

• 의료 등 분야 별로 해당할 경우

5. 관련 문서

6. 추가 고려사항

  • 사용자의 연령, 문화적 배경, 기술 수준 등은 인공지능 시스템을 설계할 때 고려해야 할 중요한 요소입니다. 예를 들어, 어린이나 노인, 장애인 등 특정 그룹의 사용자를 위한 접근성을 고려해야 합니다.

  • 인공지능과 상호작용하는 목적에 따라 다양한 설계 고려사항이 있을 수 있습니다. 예를 들어, 정보 제공, 서비스 제공, 감정 지원 등 다양한 목적에 따라 상호작용 방식과 사용자 경험을 다르게 설계해야 합니다.

  • 생성형 인공지능 서비스 제공 시, 서비스 제공자는 고객에게 개인정보 노출 가능성, 부적절한 대답 가능성, 편향성, 정보의 신뢰성 등에 대한 안내를 제공해야 합니다.

7. 사례

[1] 인공지능 활용 동의서 내에 발생 가능한 서비스 한계 및 오용 가능성을 작성하였고, 인공지능 활용에 동의한 내용을 보관

Previous요구사항 14. 인공지능 시스템의 설명에 대한 사용자의 이해도 제고Next프라이버시 준수 요건 확인

Last updated