5. 안내서 활용 방법
05 안내서 활용 방법
본 안내서는 생성 AI 기반 서비스의 범용성을 갖추고자 인공지능 신뢰성 관점에서 기술적 고려가 필요한 요구사항 및 검 항목을 포괄적으로 수립하였다. 따라서 기업 내부의 기술 역량, 제품의 특성 등을 고려하여 적절한 요구사항과 검증항목을 선택하여 적용하고, 기업에서 제공 중인 서비스*의 환경에 맞게 신뢰성 확보를 위한 참고 자료로 삼길 바란다. 아울러 인공지능 신뢰성 확보를 위해서는 기술적 측면 외에도 윤리적 고려 사항, 개인정보보호, 법적 의무 준수 등 법적･제도적 요인도 함께 요구된다. 그러므로 본 안내서를 활용하기에 앞서 인공지능의 윤리적 고려 사항 점검을 위한 <WEF의 조직을 위한 9가지 핵심 AI 윤리 원칙>과 개인정보보호를 준수하기 위한 <인공지능(AI) 개인정보보호 자율규제 체크리스트[30]>를 선행적으로 검토할 것을 권고한다. 이에 더하여 개인 데이터의 활용 및 저장을 위해 법률 자문을 받거나 개인정보보호위원회의 <신뢰 기반 인공지능 데이터 규범을 향한 첫걸음[29]>을 참고할 수 있다. 또한 인공지능에 해당하는 속성뿐만 아니라 기존 소프트웨어 시스템에 적용되는 전통적 속성도 적용되었는지를 확인할 필요가 있다. 따라서 안내서에 기술된 내용 외에도 시스템 성능, 보안 등 품질 관점의 검증 절차도 반드시 병행되어야 할 것이다.
본 안내서는 다음과 같은 절차로 활용할 수 있다.
① 위험 영향 분석: 생성 AI 기반 서비스 개발 및 제공과 관련된 위험을 평가하기 위해서는 도입 목적, 범위, 윤리적 사고 위험, 잠재적인 사회적 결과를 분석해야 한다. 영향 분석 과정에서 비즈니스 결정권자, 도메인 전문가, 법률 자문가, 기획자, 개발자, 시스템 운영자 등이 함께 논의에 참여하여 다양한 관점에서 분석할 것을 권장한다.
② 요구사항 선정: ‘①’의 분석 내용을 토대로 개발 안내서 요구사항과 세부 요구사항 본문을 참고하여 인공지능 서비스에서 신뢰성 확보에 필요한 요구사항을 선정한다. 이 과정에서 전문 이해관계자, 법률 자문가, 개발자 등 요구사항별 활용 권장 대상(대표 행위자 및 협력 대상)이 협의해야 하며, 만약 불필요하다고 판단된 요구사항은 'N/A(Not Applicable)'로 표시하여 점검 대상에서 제외할 수 있다.
③ 자가 점검 수행: ‘②’에서 선정한 요구사항은 세부 요구사항 및 검증항목 본문을 참고하여 충족 여부를 점검한다. 이 과정에서 본 개발 안내서의 본문에 소개된 기술 및 기법 예시를 참고하여 요구사항을 충족하지 못할 경우, 이를 해결할 만한 수단이나 기술이 있는지 확인해 볼 것을 권고한다. 각 요구사항의 대표 행위자가 주도하여 협력 대상과 함께 검증항목의 충족 여부를 판단하는 데 필요한 관련 산출물(절차서, 코드, 분석 자료 등)을 확인하고, 테스트나 측정이 필요한 항목은 해당 활동을 수행한다. 검증항목에 따라 충족 여부를 정성적으로 평가할 수 있는데, 이에 대해서는 ‘①’에서 분석한 서비스 영향 정도를 고려하여 대표 행위자와 협력 대상자가 협의하여 충족 여부를 판단할 수 있다.
* 자율주행, 의료, 공공･사회 분야는 2023년에 공개될 분야별 개발 안내서를 통해 각 분야에 특화된 내용을 확인할 수 있으며, 2024년에는 채용, 스마트치안, 생성 AI 기반 서비스 분야에 특화된 개발 안내서를 공개할 예정이다. (향후 서비스 분야는 점차 확대해나갈 계획)
Last updated