1. 안내서 발간 배경 및 목적
01 안내서 발간 배경 및 목적
현재 인공지능(AI, Artificial Intelligence) 기술은 다양한 분야에서 활용되고 있다. 인공지능의 활용 분야는 게임처럼 전통적으로 활용되던 분야는 물론, 스피커를 이용한 음성인식 서비스나 개인화된 비서 서비스 등 간단한 분야를 비롯해 검진 및 질병 진단, 자산관리를 비롯한 금융서비스, 자동차나 드론의 자율주행 등 복잡한 분야까지 폭넓게 아우른다. 이처럼 인공지능의 활용 분야가 넓어지고 일상에 점점 많은 영향을 미치면서 인공지능의 신뢰성(trustworthiness) 확보가 중요한 과제로 떠올랐다. 인공지능의 작동 원리나 메커니즘을 파악하기는 어렵고, 데이터 오염이나 편향 등의 문제로 인해 인공지능이 오류를 범할 가능성이 크기 때문이다. 특히 사람의 생명이나 공공안전과 직접 연관된 분야에까지 활용이 확대되면서 신뢰성의 중요성은 더욱더 커지고 있다.
이처럼 인공지능 신뢰성이 전 세계적인 관심사로 부상하면서 국제적으로 다양한 대응 방안이 마련되고 있다. 경제협력개발기구(OECD, Organization for Economic Cooperation and Development)는 인공지능 신뢰성 확보 권고안인 <Recommendation of the Council on Artificial Intelligence('19.05)>를 발표했으며, 유럽위원회(EC, European Commission)는 인공지능의 신뢰성을 실무자가 스스로 검증할 수 있도록 <The Assessment List For Trustworthy Artificial Intelligence(ALTAI) for self assessment('20.07)>를 공표했다. 국내에서도 이에 발맞춰 사람 중심의 인공지능 실현을 목표로 <인공지능(AI) 윤리기준('20.12)>을 발표했다.
그러나 지금까지 나온 인공지능 신뢰성 원칙, 표준 등은 주로 윤리적 관점에서 추상적인 항목을 제시하고 있어 실무 현장에서 활용하기는 어렵다. 특히 인력과 연구 개발 투자 여력이 제한적인 중소기업은 직접 신뢰성 요구사항을 도출하거나 검증체계를 마련하기 어렵다.
본 안내서는 이러한 현실적인 문제점을 해결하고자 작성되었다. 미국, 유럽 등 주요 선진국과 국제기구들에서 발표한 권고안 및 가이드를 참고하여, 자율적으로 점검이 가능한 15개 개발 요구사항과 69개 검증항목을 제시하고 있다.
개발자나 기획자 등 인공지능 서비스 개발 실무자들은 본 개발 안내서에 제시된 항목을 참고하여 최소한의 신뢰성을 확보하는 한편, 신뢰성을 확보하려면 무엇이 중요한지 이해하는 데 도움이 될 것이다. 나아가 개발 안내서 내용을 바탕으로 서비스에 적합한 요구사항과 검증방법을 마련함으로써 신뢰성 높은 인공지능 서비스를 개발할 수 있을 것이다. 본 개발 안내서를 통해 우리나라 인공지능 관련 기업 및 기관들이 더욱더 성숙한 인공지능 기술을 확보하고, 글로벌 경쟁력을 가질 수 있는 기초자료가 되길 희망한다.
Last updated