[디지털데일리 김보민 기자] 개인정보보호위원회(이하 개인정보위)가 인공지능(AI) 스타트업을 만나 국내 생태계 구축에 필요한 프라이버시 규율체계를 모색했다.

생성형 AI 시대에 돌입하면서 과거에 비해 데이터가 복잡하고 예측하기 어려운 방식으로 처리되는 경우가 많아졌기 때문이다. 업계에서는 안전하고 신뢰할 수 있는 AI 생태계를 구축하기 위해 개인정보 관리 체계를 만들 필요가 있다면서, 업계 혼란을 줄이기 위해 현존하는 가이드라인을 세부적으로 구체화할 필요가 있다고 입을 모았다.

21일 개인정보위는 마포구 디캠프 프론트원에서 AI 스타트업 간담회를 개최했다. 현장에는 고학수 개인정보위 위원장을 비롯해 셀렉트스타, 포티투마루, 딥브레인AI, 제네시스랩, 로앤굿, 에이젠글로벌, 큐빅, 플리토 등 AI 스타트업 관계자들이 참석했다.

고학수 개인정보위 위원장은 "지난 1년간 사회 전반에 영향을 끼친 중요한 키워드는 당연히 AI"라며 "지난해 생성형 AI가 본격적으로 등장한 이후 전 세계에서 기술 경쟁 또한 치열해지고 있다"라고 말했다.

이어 "그만큼 AI를 둘러싼 규범 경쟁도 본격화되고 있는 상황"이라며 "개인정보와 관련된 맥락에서 AI, 그리고 AI 데이터를 어떻게 바라볼 것이냐가 중요해질 것"이라고 강조했다. 현재 유럽연합(EU)은 AI에 대한 사회적, 윤리적 보호장치를 담은 AI 법을 추진 중이다. 미국은 AI 규제에 대한 초당적 법안을 다루는 초기 단계에 있다.

국내에서도 안전한 AI 생태계를 구축하기 위한 작업에 돌입했다. 개인정보위는 지난 8월 '인공지능 시대 안전한 개인정보 활용 정책방향', 11월 '데이터 경제 활성화 추진과제' 등 AI 개인정보와 관련해 주요 정책을 마련했다. 아울러 지난 10월 AI 프라이버시 민·관 정책협의회를 구성해 민간 전문가들과 공동으로 AI 개인정보 규범 체계를 마련하고 있다.

이날 간담회에 참석한 관계자들은 AI로 인한 개인정보 위험에 대응하고, 투명성과 신뢰성을 확보하기 위한 각 기업의 성과를 공유했다.

먼저 이영복 제네시스랩은 자사 AI 채용 솔루션과 AI 채용 솔루션 윤리점검표의 주요 내용을 발표했다. 제네시스랩은 AI 휴먼 면접관 기능이 탑재된 면접 솔루션 '뷰인터HR 2.0' 등을 운영하는 기업이다. 이 대표는 "AI로 인한 결정이 사회적으로 어떤 영향을 미치는지, 책임 있는 데이터 관리를 어떻게 강화할지 등에 노력을 기울이는 중"이라고 말했다.

김동환 포티투마루 대표는 자연어 처리를 기반으로 딥러닝 AI 기술을 접목한 사례와, 개인정보 처리 가이드라인을 어떻게 준수하고 있는지를 소개했다. 김 대표는 "개인정보는 이제 각 기업들이 알아서 해야 하는 부분이라고 말할 수 없다"라고 말했다. 이어 "개인정보 관련 가이드라인의 경우 조금 조심스럽게 접근하는 부분이 있다"라며 "기업들이 작업을 하면서 고려해야 하는 사항을 단계 별로 나누는 등 가이드를 줄 필요가 있다고 생각한다"라고 말했다. 일종의 범정부 차원의 통합 가이드라인이 필요하다는 점도 언급했다.

이어 배호 큐빅 대표는 딥페이크에 대응할 기술 전략과, 거대언어모델(LLM)에서 내부정보 유출을 예방할 수 있는 자사 솔루션을 소개했다. 배 대표는 "일반적인 합성 데이터의 경우 원본을 유출할 수 있는 문제가 존재한다"라며 "관련해 정부에 가이드라인을 많이 요청했음에도 불구하고 답변을 들을 수 없었다"라고 말했다. 그러면서 "서비스를 준비하고 출시하는 부분에 있어 법적으로 자문을 받을 수 있는 통로가 있으면 좋겠다"라고 요청했다.

이외에도 데이터 저작권, 개정권을 넘어 데이터 학습권에 대한 정의가 필요하다는 의견과 개인정보 3자 제공 포괄 동의 금지 조항 등에 대한 법률 개정에 힘써달라는 요청도 나왔다.

한편 개인정보위는 법적 불확실성을 지적한 기업들에게 원칙 기반의 규율체계를 정립하고 있다고 답했다. 특히 AI와 같은 신기술 사업을 추진하는 과정에서 프라이버시 문제가 발생할 때 사전적정성 검토제를 활용해 달라고 당부했다.

사전적정성 검토제는 AI와 같은 새 서비스를 개발하는 사업자가 개인정보위와 '개인정보보호법' 준수방안을 마련하고, 이를 사업자가 적정히 적용하면 추후 환경 변화가 없는 한 행정처분 대상에서 제외하는 제도다.

고 위원장은 "사전적정성 검토와 규제 샌드박스 신청 사례 등 AI 서비스 및 기술의 용례를 바탕으로 세밀하게 접근할 예정"이라며 "국내 AI 생태계를 발전시키고 글로벌 AI 규범 논의 과정에서도 역할을 하겠다"라고 말했다.