[디지털데일리 이나연기자] 정부가 다음 달 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI기본법)’ 시행령 초안을 내놓는 가운데, 업계 쟁점이 되는 ‘고영향 AI’ 기준을 두고 고심이 깊어지는 분위기다.

17일 정보기술(IT)업계에 따르면 지난달 과학기술정보통신부에서 출범한 AI기본법 하위법령정비단은 다음 달 중 AI 기본법 시행령 초안을 발표할 예정이다.

구체적으로 ▲AI기본법 시행령 및 시행규칙 ▲고영향 AI 기준과 예시에 관한 가이드라인(제33조) ▲고영향 AI 사업자 책무 가이드라인(제34조) ▲AI 안전성 확보 의무 고시(제32조) ▲AI 영향평가 가이드라인(제35조) ▲AI 투명성 확보 의무 가이드라인(제31조)을 정하게 된다.

AI 개발 및 육성에 대한 지원을 확대하는 한편, AI 신뢰성 확보와 위험 예방을 위한 규제를 병행하는 내용의 AI기본법은 지난 2020년 국회에서 법안이 처음 발의된 이후 4년 넘게 논의됐다. 제22대 국회에서 여야 합의를 거쳐 19개 법안을 병합하고, 작년 말 본회의를 통과했다. 지난달 국무회의 의결을 거쳐 공포된 AI기본법은 내년인 오는 2026년 1월부터 시행된다.

AI기본법 내 핵심 조항은 기업 규제 여부를 가름 짓는 ‘고영향 AI’다. 기존에 쓰이던 ‘고위험 AI’ 용어 대신 채택된 고영향 AI는 신체·생명·재산 등에 직간접적인 영향을 미칠 것으로 예상되는 AI를 뜻한다. 중립적인 표현을 통해 AI 관련 영향력을 포괄적으로 인지하고 대응책을 마련하자는 취지에 나왔다.

하지만 ‘영향’이라는 개념은 위험보다 상위 개념으로서 국민 기본권에 중대한 영향을 미친다면 그 내용이 긍정적일지라도 규제 대상이 될 수 있다. 업계가 본격적인 법안 시행을 앞두고 확정될 고영향 AI 판단 세부 기준을 예의주시하는 것도 이 때문이다.

현재 AI기본법에서 고영향 AI 사업자 경우, 사전에 안전성·신뢰성 검·인증을 받도록 해야 한다. 고영향 AI를 활용한 제품이나 서비스에 대해서도 이용자에 사전 고지해야 한다. 또 필요하다면 과학기술정보통신부 장관에게 고영향 AI 해당 여부 확인을 요청할 수 있게 규정했다.

이 외에도 사업자는 위험관리방안 수립·운영, AI가 도출한 최종 결과에 대한 설명 방안 수립·이행 등 안전성·신뢰성 확보를 위한 조치 의무를 이행해야 한다.

문제는 이런 AI 기본법상 고영향 AI 기준이 사업 불확실성을 키울 수 있다는 데 있다. 법무법인 태평양은 지난달 보고서를 통해 “고영향 AI 정의가 추상적이고 광범위해 구체적인 위험 관리나 금지 조치 관련 규범 설정이 어렵다는 점이 지적된다”며 “이는 유럽연합 ‘고위험 AI’와 비교해 중립적인 표현이기는 하나, 동시에 그 중립성으로 인해 규제 대상이 확대될 수 있다는 우려도 제기된다”고 밝혔다.

보다 구체적인 AI기본법 내용은 향후 마련될 시행령으로 보완되는 만큼, 정부가 업계 비판을 수용해 규제 범위와 요건을 어떻게 구체화할지가 관건이 될 전망이다.

법무법인 태평양은 “AI 관련 사업자들은 법 적용 여부와 관련 의무 사항을 사전에 검토해 대비하는 동시에, 추후 정부가 제정할 시행령과 고시, 가이드라인 제정 과정에서 적극적인 의견을 개진해 규제 합리성을 기할 필요가 있다”고 제언했다.

※ 알림 ※

2025년 창간 20주년을 맞은 디지털데일리는 <AX발전포럼>을 출범하고, 각 분야 전문가들과 AI 산업 발전을 위한 심도 깊은 논의를 진행합니다. 최형두·조인철·이해민 의원실과 과학기술정보통신부, 산업통상자원부, 행정안전부, 공정거래위원회, 방송통신위원회, 개인정보보호위원회, 정보통신산업진흥원 등 유관부처와 산업계, 학계 전문가들이 참여해 현 상황을 진단하고 대응방안을 모색합니다. AX발전포럼 출범식 및 정책토론회는 2월19일 오후 2시 국회 의원회관 제3세미나실에서 ‘딥시크 쇼크: 2025 한국 골든타임 확보 위한 정책 제언’을 주제로 진행됩니다. 많은 분들의 관심과 성원을 바랍니다.