[디지털데일리 오병훈기자] 정부 주도 아래 인공지능(AI) 안전을 책임질 ‘AI안전연구소’가 초대 소장 선임 작업을 마치고 출범 막바지 작업에 돌입했다. 현재 정부·국회에서 AI 기본법 등을 통해 안전한 AI에 대한 제도 마련 논의가 한창인 만큼, AI안전연구소가 AI 통제 및 윤리를 위한 학계 중심축 역할을 해줄 수 있을지에 대한 관심이 쏠리고 있고 있다.

8일 한국전자통신연구원(ETRI) 및 학계 관계자에 따르면, ETRI는 내부적으로 AI안전연구소 초대 소장 선임 작업을 마무리 짓고 마지막 교섭 단계에 접어들었다. 현재 최종적으로 선임된 후보에게는 합격 사실을 안내했다. 선임 예정 후보자와 함께 임용일 등 구체적인 업무 사안을 논의한 뒤 결과를 발표할 예정이다.

ETRI가 마지막까지 고심했던 후보는 총 3명으로 알려졌다. 이 중에는 국내 정보보안 관련 대학 교수, AI 전문가 등이 포함됐다. AI안전연구소장은 공개채용 형태로 진행됐으며, 총 3년 동안 AI 안전연구소 지휘를 맡게 된다. 선임된 초대 소장은 AI안전연구소에서 안전정책 및 대외협력·안전평가·안전연구 등 업무를 수행하게 된다.

앞서 AI안전연구소 출범 소식이 전해지면서 초대 소장 후보로는 하정우 네이버 센터장 등이 언급된 바 있다. 지난 6월 박승찬 ETRI 원장은 기자간담회를 통해 “하정우 네이버클라우드 AI혁신센터장도 AI안전연구소장 후보”라고 언급했다. 이 외에도 세간에는 강성원 ETRI 부원장 등이 거론되기도 했으나, 거절 의사를 밝힌 것으로 알려졌다.

한편, AI 서비스에 대한 관심이 높아지면서 사회적으로 AI 통제 및 안전·윤리 등에 대한 관심도 덩달아 높아졌다. 여전히 정확한 AI 작동 원리를 알 수 없다는 ‘블랙박스 문제’부터 시작해 AI를 활용한 딥페이크 범죄 등 풀어야 할 과제가 산적한 상황이다. 이에 따라 AI 산업에서 강조된 키워드가 ‘설명 가능한 AI’와 ‘안전한 AI’다.

이에 정부에서는 AI 통제 및 안전에 초점을 맞춘 AI 안전연구소를 이달 중 출범하기로 했다. AI안전연구소는 미국과 일본, 영국 등 주요 국가 내 설립된 AI안전연구소와 공조를 통해 국제적인 AI 안전 연구 중심기관으로 역할을 수행할 예정이다.

구체적으로는 3대 핵심 과제 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원을 추진한다. 이를 완수하기 위해 AI안전연구소는 ▲AI위험 정의 ▲AI안전 평가 ▲국가차원 관리 주요 AI위험 정의하고 ▲AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 기능을 수행한다.