[디지털데일리 이종현기자] “올해는 전 세계가 생성형 AI에 대한 혁신성에 놀라워하면서도 기술적 진보의 이면에 있는 위험성에 대비하기 위한 글로벌 차원의 규범 정립 및 안정성 강화 논의를 시작한 해라고 할 수 있다. 민관이 AI 신뢰성, 안정성 확보를 위한 논의를 함께하며 사회적 수용성을 재고해 나갈 필요가 있다.”(과학기술정보통신부 이종호 장관)

과학기술정보통신부(이하 과기정통부) 이종호 장관이 인공지능(AI) 분야 민‧관 최고위 관계자들과 만나 안전한 AI 확산방안을 논의했다.

25일 과기정통부는 서울 강서구 LG 사이언스파크에서 제4차 AI 최고위 전략대화를 개최했다. 지난 9월 ‘대한민국 초거대 AI 도약’ 행사에서 기업들이 AI 신뢰성 강화를 위해 필요한 안전조치를 자발적으로 마련하겠다고 약속했던 것의 연장선상으로 마련됐다.

행사에는 과기정통부 이종호 장관, 개인정보보호위원회(이하 개인정보위) 고학수 위원장, 서울대학교 임용 교수를 비롯해 네이버, SKT, KT, 카카오, LG AI연구원, 이스트소프트, JLK, 셀렉트스타, 스냅태그, 코난테크놀로지 등 AI 분야 정부‧산업계 인사 15여명이 참석했다.

과기정통부는 이날 전략대화에서 그간 진행한 간담회와 현장방문 등에서 수렴한 의견을 토대로 ‘AI 윤리·신뢰성 확보 추진계획’을 발표해 향후 민·관이 함께 나아가야 할 방향에 대해 공유했다.

AI 윤리·신뢰성 확보 추진계획은 ▲민간 자율 AI 윤리·신뢰성 확보 지원 ▲세계를 선도하는 AI 윤리·신뢰성 기술·제도적 기반 마련 ▲사회 전반 책임 있는 AI 의식 확산 등 AI 윤리·신뢰성 모범국가를 위한 내용이 담겼다.

우선 ‘국가 AI 윤리기준’의 구체적 실천수단으로 채용, 생성형 AI 기반 서비스 등 분야별 가이드라인을 마련·확대하고 민간 자율 신뢰성 검·인증을 11월부터 추진할 계획이다. 특히 AI 사업 중 고위험 영역 AI 개발·실증 사업을 수행하는 기업을 일부 선정해 올해 12월에 시범 인증을 추진할 예정이다.

또 AI 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 AI 오작동 등에 따른 잠재 위험요인에 대응하기 위해 기존 AI의 한계를 극복하고 초거대 AI의 신뢰성을 확보하기 위한 기술개발을 내년부터 신규로 추진한다. 2024년부터 2027년까지 총 220억원의 예산이 투입된다.

생성형 AI 붐을 일으킨 ‘챗GPT’와 같은 초거대 AI의 확산으로 AI가 가져다 줄 혜택에 대한 기대와 함께 안전에 대한 위험성 우려가 확대되는 상황에서 AI가 생성한 결과물에 대한 워터마크 도입의 제도화를 검토한다는 내용도 포함됐다. 또 고위험 AI에 대한 해설서를 2024년 1분기 내에 마련하는 등 신뢰성 확보를 위한 제도 정립 과제도 추진한다.

이날 회의에서는 민간 기업들의 발표도 이뤄졌다. 김유철 LG AI연구원 부문장이 ‘AI 윤리원칙 실행을 위한 기업의 노력’을 발표하고 의료 AI 기업인 JLK 김동민 대표가 ‘고위험 AI 분야에 대한 신뢰성 검‧인증 필요성’에 대해 발표했다.

발표 이후에는 ▲AI 산업 발전과 신뢰성 확보의 균형을 위한 민간자율 검·인증 추진방향 ▲초거대·생성형 AI의 신뢰성 향상을 위한 자발적 노력 ▲AI 윤리의식 확산 및 글로벌 규범 선도를 위한 제언 등 3개 주제에 대해 토론이 진행됐다.

이종호 장관은 “AI는 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”며 “민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립해가는 데 힘쓰고, 관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다”고 말했다.

한편 이종호 장관과 함께 행사에 참석한 고학수 개인정보위원장은 AI 윤리 및 프라이버시를 주제로 발언했다. 그는 “AI에 대한 기대감만큼이나 위험성에 대한 우려도 커지고 있다. 여러 부작용을 어떻게 통제할지에 대한 고민도 깊어지고 있다"며 “AI 영역은 변화의 속도가 매우 빠른만큼 원칙에 기반한 규율체계를 정립하고, 법적인 불확실성을 해소하고자 한다"고 말했다.