5. 안내서 활용 방법
05 안내서 활용 방법
본 안내서는 범용성을 갖추고자 인공지능 신뢰성 관점에서 기술적 고려가 필요한 요구사항 및 검증항목을 포괄적으로 수록하였다. 따라서, 기업 내부의 기술 역량, 제품 서비스 특성 등을 고려하여 적절한 요구사항과 검증항목을 선택하여 적용하고, 기업에서 제공 중인 서비스의 분야* 및 환경에 맞게 신뢰성 확보를 위한 참고자료로 활용하길 바란다. 더불어, 인공지능 신뢰성 확보를 위해서는 기술적 측면 외에도 윤리, 개인정보보호와 같은 법･제도적 측면도 함께 요구된다. 그러므로 본 안내서를 활용하기에 앞서 인공지능 윤리적 고려사항 점검을 위한 <인공지능 윤리기준 실천을 위한 자율점검표>와 개인정보보호의 준수 여부 점검을 위한 <인공지능(AI) 개인정보보호 자율점검표>를 선행적으로 검토할 것을 권고한다. 본 권고에는 인공지능 학습용 데이터나 오픈소스와 관련된 저작권 등, 법적 측면에 대한 검토도 포함된다. 또한, 인공지능에 해당하는 속성뿐만 아니라 기존 소프트웨어 시스템에 적용되는 전통적 속성도 적용되었는지 확인이 필요하다. 따라서, 안내서에 기술된 내용 외에도 시스템 성능, 보안 등 품질 관점의 검증 절차도 반드시 병행되어야 할 것이다.
안내서는 다음과 같은 절차로 활용할 수 있다.
① 인공지능 서비스 위험 영향 분석: 위험 영향 분석을 위해 우선하여 고려할 사항은 점검 대상 인공지능 서비스의 활용 목적과 범위, 활용 대상에 따른 잠재적 영향이다. 유사한 목적의 서비스일지라도 인공지능의 추론 결과에 대한 사람의 최종 개입 여부에 따라 위험이 미치는 영향의 정도가 달라질 수 있다. 영향 분석 과정에서 비즈니스 결정권자, 기획자, 개발자 및 시스템 운영자 등이 함께 논의에 참여하여 다양한 관점에서의 분석을 수행할 것을 권장한다.
② 요구사항 선정: ‘①’의 분석 내용을 토대로 개발 안내서 요구사항과 세부 요구사항 본문을 참고하여 인공지능 서비스에서 신뢰성 확보를 위해 필요한 요구사항을 선정한다. 만약 인공지능 서비스가 공공 목적으로 활용되거나, 질병 진단 또는 주식 거래 등 사람의 신체･재산에 되돌리기 힘든 피해를 줄 가능성이 있다고 여겨진다면 가능한 모든 요구사항을 선정할 것을 권장한다. 반대로 특정 개인이나 집단에 차별이나 피해를 줄 가능성이 적은 서비스라면 모든 요구사항을 선정하지는 않더라도, 신뢰성 점검을 위한 참고자료의 성격으로 활용할 수 있을 것이다. 이 과정에서 요구사항별 활용 권장 대상(대표 행위자 및 협력 대상)이 협의하여 불필요하다고 판단된 요구사항의 경우 ‘N/A’를 표시하여 점검 대상에서 제외할 수 있다.
③ 자가 점검 수행: ‘②’에서 선정한 요구사항은 세부 요구사항 및 검증항목 본문을 참고하여 충족 여부를 점검한다. 이 과정에서 본 개발 안내서의 본문에 소개된 기술 및 기법 예시를 참고하여 요구사항을 충족하지 못할 경우 이를 해결할 만한 수단 또는 기술이 있는지 확인해 볼 것을 권고한다. 각 요구사항의 대표 행위자가 주도하여 협력 대상과 함께 검증항목의 충족 여부를 판단하는 데 필요한 절차서, 코드, 분석 자료 등의 관련 산출물을 확인하고, 테스트나 측정이 필요한 항목은 해당 활동을 수행한다. 검증항목에 따라 충족 여부를 정성적으로 평가할 수 있으나, 이는 ‘①’에서 분석한 서비스 영향 정도를 고려하여 대표 행위자와 협력 대상자가 협의하여 충족 여부를 판단할 수 있다.
* 자율주행, 의료, 공공･사회 분야는 2023년에 공개될 분야별 개발 안내서를 통해 각 분야에 특화된 내용을 확인할 수 있으며, 2024년에는 채용, 스마트 치안, 생성 AI 기반 서비스 분야에 특화된 개발 안내서를 공개할 예정이다.
Last updated