일러두기
이 안내서는 ｢인공지능 신뢰성 인증 (Certification of AI Trustworthiness, CAT)｣에 대해 더 구체적으로 설명함을 목적으로 합니다. 이 안내서는 지속적인 보완 작업을 통하여 변경될 수 있으므로, 시험·인증 시점에서 항상 최신 버전 여부를 확인한 후 사용 바랍니다.
안내서는 단체표준 ｢인공지능 시스템 신뢰성 제고를 위한 요구사항｣(TTAK.KO-10.1497)에서 규정하는 '신뢰성 요구사항'과 '프라이버시 준수 요건 확인'에 대한 안내로 구성되어 있으며, 세부적으로 아래와 같이 구성되어 있습니다.
1. 인증 기준
시험·인증에서 해당 요구사항이 평가하고자 하는 기준을 나타냅니다.
2. 평가 개요
평가 대상: 평가 대상은 인공지능 모델, 인공지능 시스템의 두 가지로 구성되어 있으며, 대상에 해당할 경우만 해당 요구사항을 적용합니다.
평가 방법: 크게 ‘문서‧절차 검사’와 ‘측정‧기능 시험’으로 나누어져 있습니다. 문서·절차 검사에서는 인증 신청자가 사내에서 작성한 개발 문서 및 개발 절차의 적정성을 검사합니다. 측정·기능 시험에서는 인증 대상 제품·서비스를 직접 구동하는 시험을 수행합니다.
주요 확인사항: 대략적인 평가 관점을 안내합니다.
측정‧기능시험 평가 절차: 측정‧기능시험에만 해당하며, 관련 절차를 안내합니다.
3. 평가 세부 설명
신뢰 속성: 안전성, 보안성 및 회복탄력성, 설명가능성 및 예측가능성, 프라이버시, 편향 및 공정성, 책무성 및 투명성, 안정성 및 견고성의 7가지로 구성됩니다 (아래는 속성관련 표준).
ISO/IEC 22989:2022 - Information technology — Artificial intelligence — Artificial intelligence concepts and terminology
ISO/IEC TR 24028:2020 - Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence
관련 프로세스 및 양식: 평가를 준비하기 위해 고려해야 할 개발 프로세스 등을 나타내며, 내부 개발 시에 참조할 만한 양식이 있으면 따로 제공해 드립니다.
제공되는 양식 적용은 강제사항이 아닙니다.
4. 평가 증빙
평가 시 검사 대상이 되는 산출물의 예시입니다.
해당 양식 종류 및 이름은 강제사항이 아닙니다. 사내에서 보관 및 기록 중인 개발 산출물을 편한 방식으로 시험 시 제시하는 것이 원칙이며, 시험을 위해 hard-copy 문서로 출력할 필요 또한 없이 사용 중인 상용 개발 및 관리 도구 (예: Slack, Notion, Confluence, Jira, SVN, 기타 이메일 기록 등)의 열람을 통해 시험 진행이 가능합니다.
5. 관련 문서, 기법 및 도구
해당 요구사항과 관련있는 외부 문서, 기법, 도구 등을 안내합니다.
6. 추가 고려사항
요구사항의 심화 적용과 관련된 TIP을 안내해 드립니다. 시험·인증과 별개로 내부 개발 프로세스 향상을 위해 고려하시면 됩니다.
7. 사례
실제 시험인증 통과 사례를 간략히 안내합니다.
시험·인증 신청은 TTA 고객서비스 (cs.tta.or.kr)의 시험신청 > AI융합 시험인증 > 인공지능 신뢰성 검·인증 에서 신청할 수 있으며, 자가검증 및 본 안내서는 TTA AI 신뢰성 센터 홈페이지에 (aitrustops.or.kr) 에서 확인할 수 있습니다.
Last updated