[디지털데일리 오병훈기자] AI 기본법이 지난달 국회 본회의를 통과한 뒤 정부는 하위법령 정비단을 출범하는 등 구체화 행보에 속도를 내고 있다. AI 기본법에는 ‘고영향AI’ 등 규제 기반이 될 수 있는 여러 정의 및 조항이 담겨있어 관련 업계는 구체화 과정에 촉각을 기울이고 있다. 이같은 상황 속, AI 규제와 가장 밀접한 AI 안전연구소는 AI 혁신을 저해하지 않고, 안정적인 혁신을 돕는 정책 도출에 집중하겠다는 입장을 밝혔다.

21일 김명주 AI안전연구소 소장은 서울 양재동 엘타워 골든홀에서 개최된 한국인공지능산업협회(AIIA) 조찬포럼에서 “AI 안전연구소 목적은 AI 기업이 꼭대기에 올라가도록 도와주는 것”이라며 “기업들이 자신이 개발한 AI 위험성을 모르는 상태에서 성장하다가 나중에 발목잡히는 것보다는 처음부터 리스크에 대한 전문적 그룹 도움을 받으면서 성장하는 것이 더 바람직하다는 생각”이라고 말했다.

AI안전연구소는 지난해 11월 한국전자통신연구원(이하 ETRI) 산하로 출범한 국가 연구 기관이다. 정부가 주도하는 AI 정책 도출 기관 중 AI의 안전과 지속가능성 등을 집중적으로 살피는 곳으로, 글로벌 10여개 국가와 공조를 통한 글로벌 AI 안전 기준을 연구하겠다는 것이 핵심 목표다.

김 소장은 AI 기본법 하위법령 구체화 과정 상 AI 안전연구소의 역할에 대해서도 설명했다. AI 업계는 현재 AI 기본법 내 포함된 ‘고영향AI’ ‘AI 누적 연산량 기준’ 등 규제 목적 조항이 어떤 식으로 구체화될지 예의주시하고 있는 상황이다. 해당 조항의 범위와 기준에 따라 기업 연구개발(R&D) 방향 은 물론, 현재 진행 중인 사업까지 영향을 받을 수 있다는 우려에서다.

AI 기본법에 따르면, 고영향AI란 법률 2조에 명시된 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 말한다. 누적 연산량 기준은 AI 사업자가 AI 모델 운영 과정에서 지켜야 하는 연산량을 의미한다. 지나치게 거대한 AI 모델은 예측 불가능하다는 특성을 지니고 있어, 이를 사전에 통제할 필요가 있다는 취지다.

김 소장은 “현재 25개 기업이 AI안전연구소 설립 때 업무협약(MOU)을 맺었고, 기업들과 긴밀히 소통하면서 (리스크 관리 측면에서) 기업들을 지원하고, 가이드라인을 제시하기 위한 준비를 하고 있다”며 “기업들과는 향후 위험 평가를 위한 관리체계(매니지먼트시스템) 프레임워크를 구축하고 함께 논의를 진행할 것”이라고 말했다.

이어 누적연산량 기준 구체화와 관련해서는 “유럽의 AI법 ‘유럽연합 AI 엑트’에서는 플로팅 포인트 연산량을 10에 25승으로 잡고 있다”며 “이는 우리 국내 기업들의 AI 모델과는 부합하지 않기 때문에 추가 논의가 필요한 사항”이라고 설명했다.

발표 이후 진행된 질의응답 시간에는 한 기업 관계자가 AI 기본법 내 인증 관련 조항에 대한 김 소장 의견을 물었다. AI 기본법 30조(과학기술정보통신부장관은 단체 등이 AI 안전성·신뢰성 확보를 위해 자율적으로 추진하는 검증·인증 활동을 지원하기 위한 사업을 추진할 수 있다)와 관련해 업계 일각에서는 해당 인증의 기준 등이 지나치게 높을 경우 국내 AI 산업 활성화를 저해할 수 있다는 우려도 나오고 있다.

김 소장은 “업계에서 인증에 대한 것은 민감하다는 사실은 잘 알고 있다”며 “외국에서도 이미 다양한 인증체계가 있으며, 인증을 못 받으면 서비스 못한다는 식의 접근보다는 인센티브 개념으로 도입되는 것으로 본다”고 말했다.

발표를 마치며 김 소장은 “규제부터 하는 것은 AI 산업 진흥을 저해할 수 있다는 우려에 공감하고, 그렇게 돼서는 안된다고 생각한다”며 “AI안전연구소는 히말라야 등반가를 돕는 셰르파와 같은 존재가 될 것”이라고 강조했다.