[디지털데일리 백지영 기자] 과학기술정보통신부와 한국정보통신기술협회(TTA)는 TTA 제104차 정보통신표준총회에서 '인공지능(AI) 시스템 신뢰성 제고를 위한 요구사항' 정보통신단체표준을 제정했다고 12일 밝혔다.

이번에 제정된 단체표준은 과기정통부의 국가 AI 윤리기준과 분야별 신뢰할 수 있는 AI 개발안내서를 기반으로 신뢰성 적용범위, 특성, 시스템 생명주기, 이해관계자 등 AI 시스템 신뢰성 구성요소와 요구사항을 제시했다.

세부특성으로는 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 제어가능성, 책임성, 투명성, 공정성, 프라이버시, 회복탄력성 등이며 초기, 설계‧개발, 검증‧확인, 배치, 운영‧모니터링, 지속적 확인, 재평가, 폐기까지 시스템 생명주기를 설정했다.

또, AI 시스템 위험관리 계획 및 수행, 수집‧가공된 학습데이터의 편향 제거, AI 모델의 편향 제거, AI 시스템의 안전모드 구현 및 문제발생 알림절차 수립 등 15가지 구성요소로 꾸려졌다.

과기정통부는 이번 단체표준 제정으로 그동안 모호한 개념으로 인식됐던 AI 신뢰성 확보를 위한 기준을 정립하고, 국내 AI 산업의 신뢰성 저변 확대를 위한 발판이 마련될 것으로 기대했다.

이와 함께 AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항과의 내용 일관성을 유지해 국제 호환성을 확보했다고 전했다.

과기정통부와 TTA는 이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준의 내용을 분야별로 확대하해 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진할 방침이다.

아울러 표준화 단체인 ISO/IEC의 AI 그룹인 JTC1/SC42에 AI 신뢰성 신규 표준 제안과 함께 미국‧영국 등 글로벌 주요국과 표준화 협력을 강화해 AI 윤리·신뢰성 관련 표준에 대한 글로벌 주도권을 확보해 나갈 계획이다.

과기정통부 박윤규 2차관은 "그간 정부가 추진해 왔던 AI 윤리‧신뢰성 제고를 위한 정책적 노력으로 AI 시스템의 신뢰성 확보를 위한 기준이 마련됐다는 점에서 의미가 크다"며 "국내 AI 산업의 신뢰성을 확보하기 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다"고 말했다.