4. 안내서 활용 대상
Last updated
Last updated
본 개발 안내서는 인공지능 제품 및 서비스의 개발 과정에 참여하는 다양한 조직과 개인이 활용할 수 있다. 특히, 기술적 관점에서 신뢰성에 중점을 두어야 하는 기획자, 아키텍트, 개발자, 품질관리자 등의 이해관계자들이 주요 대상이다. 이해관계자들은 제품・서비스의 신뢰성을 확보하기 위해 요구사항을 충족시키는 데 주력해야 하며, 이는 아래에 제시된 표를 통해 확인할 수 있다. 물론, 신뢰성과 연관된 문제가 발생했을 때 관련된 모든 책임을 이해관계자가 부담해야 한다는 의미는 아니다. 대표 이해관계자는 인공지능 생명주기 단계마다 요구사항을 만족시키기 위한 대책을 수립하며, 자가 검증 시 각 검증항목의 만족 여부를 체크하는 주요 역할을 담당한다. 이 과정에서 효과적인 협력 체계의 필요성이 강조된다. 따라서, 대표 이해관계자는 한 명 이상의 협력 대상과 긴밀하게 협력하며, 이들 간의 협력 관계는 부록 3에 기술되어 있다.
대표 이해관계자와 협력 대상은 한국SW산업협회(KOSA)가 국가직무능력표준(NCS)를 기반으로 개발한 IT분야역량체계(ITSQF)에 근거해 정립되었다. 이를 통해, 국내 기업들이 본 개발 안내서를 활용하고자 할 때 참고할 수 있도록 하였다. 또한, 각 기업의 다양한 직무 체계에 맞게 적용하기 위해, 부록 4에 제시된 각 직업・직무에 대한 정의를 참고하여 직무별 역할을 확인할 수 있다.
생명주기 단계 | 대표 이해관계자(예) | 관련 요구사항 |
---|---|---|
본 개발 안내서는 다양한 규모와 형태의 기업과 기관에 적용될 수 있으며, 이에 따라 대표 이해관계자와 협력 대상의 직무 체계나 활동 범위가 달라질 수 있다. 특히, 스타트업과 같은 소규모 기업에서는 몇 명의 인력만으로 전체 활동을 수행할 수도 있을 것이다. 만약 대표 이해관계자의 직무를 수행하는 인력이 없다면 한 명 이상의 협력 대상이 그 역할을 맡을 수도 있다.
또한, 기업에서 제공하는 인공지능 서비스 유형에 따라 적용 방안이 달라질 수도 있다. 다음 페이지에서 제시한 대표 이해관계자 및 협력 대상의 분류는 소비자 대상(B2C, Business-to-Consumer) 서비스 제공 기업에서 참고하기에 적합하다. 반면, 기업간(B2B, Business-to-Business) 서비스를 제공하는 경우에는 관련 표준(TTAK.KO-10.1497, 인공지능 시스템 신뢰성 제고를 위한 요구사항)을 참고하는 것이 더 활용도가 높을 것이다. 표준에 근거한 요구사항별 이해관계자는 부록 3을 참고하기 바란다.
이외에도 개발 안내서를 활용하는 환경에 따라 그 적용 방안은 다양해질 수 있다. 예를 들어, 개발하는 인공지능 제품・서비스의 산업 분야마다 해당 분야의 전문가 역시 적극 협업할 필요가 있다. 그리고 만약 대표 이해관계자 및 협력 대상이 모두 존재하지 않는 소규모 기업에서는 외부 전문가의 도움을 받을 수도 있다. 따라서, 다음 페이지와 부록3, 4에 제시된 대표 이해관계자, 협력 대상, 직무별 역할 등의 내용은 참고 자료로 활용하는 것이 좋다.
생명주기 관리
정보기술기획자
IT감사자
IT품질관리자
인공지능 시스템에 대한 위험관리 계획 및 수행
인공지능 거버넌스 체계 구성
인공지능 시스템의 신뢰성 테스트 계획 수립
인공지능 시스템의 추적가능성 및 변경이력 확보
데이터 수집 및 처리
데이터아키텍트
데이터분석가
데이터의 활용을 위한 상세 정보 제공
데이터 견고성 확보를 위한 이상 데이터 점검
수집 및 가공된 학습 데이터의 편향 제거
인공지능 모델 개발
인공지능SW개발자
인공지능아키텍트
오픈소스 라이브러리의 보안성 및 호환성 점검
인공지능 모델의 편향 제거
인공지능 모델 공격에 대한 방어 대책 수립
인공지능 모델 명세 및 추론 결과에 대한 설명 제공
시스템 구현
시스템SW개발자
SW아키텍트
UI/UX기획자
인공지능 시스템 구현 시 발생 가능한 편향 제거
인공지능 시스템의 안전 모드 구현 및 문제발생 알림 절차 수립
인공지능 시스템의 설명에 대한 사용자의 이해도 제고
운영 및 모니터링
데이터베이스관리자
인공지능서비스기획자
서비스 제공 범위 및 상호작용 대상에 대한 설명 제공