[디지털데일리 오병훈기자] 안전하고 지속가능한 인공지능(AI) 연구를 책임질 ‘AI안전연구소’가 출범했다. AI안전연구소는 국제 AI 안전 의제에 따라 AI 주요국마다 설치되는 연구기관으로, 각국은 AI안전연구소를 중심으로 AI 발전 과정에서 필요한 안전 연구 및 평가 등 업무를 수행하고 있다.

27일 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 성남 판교 ‘글로벌 R&D센터’에서 AI안전연구소 개소식을 열었다. 이날 행사에서 김명주 AI안전연구소장은 “AI 안전연구소는 히말라야 등반을 돕는 세르파와 같은 역할을 하게 될 것”이라며 ”AI G3로의 등반 과정에서 발생가능한 위험성을 인지하고 방지하는데 집중하겠다”고 강조했다.

AI안전연구소는 AI가 단순히 기술을 넘어 국가 안보 및 핵심 산업으로 급부상하면서, AI에서 파생될 수 있는 각종 부작용 및 혁신 안정성을 제고하기 위해 설립됐다. 정부가 AI 정책 핵심기조로 안전·혁신·포용을 강조하고 나선 만큼, AI안전연구소를 중심으로 국가 단위 AI안전 정책 및 기술 연구가 진행될 예정이다.

정부는 AI안전연구소를 통해 ‘아태지역을 대표하는 글로벌 AI안전 거점연구소’를 구현하겠다는 입장이다. AI안전 연구소는 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원 등 3대 핵심 과제를 추진한다.

이어 연구소는 ▲AI위험 정의 ▲AI안전 평가 ▲국가차원 관리 주요 AI위험 정의하고 ▲AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 기능을 수행한다. 또, AI안전 평가데이터셋 구축 및 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업 활용을 지원할 계획이다.

AI안전 정책도 연구한다. 주요국·국제기구 AI 규범·거버넌스를 연구하고, 국내·외 주요 AI위험 정보를 수집·분석해 AI안전 정책을 고도화한다. 추가로 AI 기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응한다.

김명주 AI안전연구소 초대 소장은 서울여대 정보보학부 교수로, 컴퓨터공학을 전공한 AI윤리‧신뢰성 전문가다. 바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등을 맡으며 안전하고 책임있는 AI개발·활용 확산에 앞장 선 바있다.

김 소장은 개소식 인사말을 통해 ”국제적으로 AI 안전 연구 중요성이 높아지면서 AI 안전을 위한 글로벌 연대 중요성이 높아졌다”며 “과학 기반으로 안전과 관련된 정책 제도 정착을 위한 AI 안전 및 지속가능성을 확보할 수 있도록 노력하겠다”고 말했다.

이날 정부 관계자로 참석한 류광준 과기정통부 과기혁신본부장은 “전세계가 안전한 AI 운용에 공감하고 나선 가운데 정부는 AI 연구소 설립으로, 안전 혁신 균형 세 가지 핵심 연구를 수행하는 전담 조직으로 활동할 것”이리마녀 “산학연 연구 협력 플랫폼으로 활동할 수 있도록 정부는 적극 지원하겠다”고 강조했다.