[디지털데일리 김보민기자] 인공지능(AI) 및 정보보안 전문기업 컴트루테크놀로지가 프롬프트에서 민감 정보를 가려내는 보안 솔루션 '스핑크스 AI'를 출시했다. AI 가이드라인을 준수해야 한다는 경각심이 높아진 가운데, 기업과 조직이 관련 사고를 예방할 수 있도록 돕는다는 구상이다.

컴트루테크놀로지는 19일 서울 강남구 한국과학기술회관에서 '제6회 드림스 컴 트루(Dreams Come True)' 행사를 개최했다. 컴트루테크놀로지가 주최하고 한국정보보호산업협회(KISIA), 한국인공지능협회(KORAIA)가 후원한 이번 행사는 컴트루테크놀로지의 생성형 AI 데이터 보안과 비대면 본인확인 사업을 소개하기 위해 열렸다.

컴트루테크놀로지는 올해 1월 출시한 생성형 AI 보안 솔루션 '스핑크스 AI'를 소개했다. 정진수 컴트루테크놀로지 개발팀 팀장은 "누구나 챗GPT와 같은 생성형 AI 서비스를 사용하기 시작하면서, 무의식적으로 정보를 유출할 가능성이 커졌다"며 "프롬프트에 이름과 주민등록은 물론, 기업명과 제품 등을 노출하는 경우도 잦다"고 진단했다.

스핑크스 AI는 이러한 '무의식'에서 발생할 수 있는 위협을 예방하자는 취지로 개발됐다. 사용자가 프롬프트에서 민감 정보가 포함된 질문을 넣을 시, 질문 내 단어 간 연계성 등을 확인해 답변을 하지 않는 방식으로 작동할 수 있다. 일례로 이름과 주민등록번호가 담긴 내용을 프롬프트에 입력하면, '부적절한 내용을 확인해 프롬프트를 차단했습니다'는 알림을 주는 방식이다. 개인정보가 포함된 텍스트 파일을 첨부할 경우에도, 해당 프롬프트를 전달하지 않고 차단할 수 있다.

스핑크스 AI는 챗GPT, 클로드, 제미나이 등 생성형 AI 모델과 더불어 기업에서 자체 개발한 프라이빗 거대언어모델(LLM)과도 연동 중계가 가능하다. 로컬 환경에서도 프롬프트 위협 없이 생성형 AI를 활용할 수 있다는 의미다. 민감 정보 외에도 고유식별정보, 기업 내부 정보도 검출 및 보호할 수 있다. 입력 차단과 마스킹 정책을 기반으로 첨부파일 내 개인정보 분석과 토큰 추적도 가능하다.

컴트루테크놀로지는 AI 플랫폼형, 프록시형, API형 등 세 가지 유형을 중심으로 스핑크스를 개발했다. 상반기에는 검색증강생성(RAG) 기술을 탑재한 소규모 로컬 대규모 언어모델(로컬 sLLM)을 추가할 예정이다. 기업 내부 문서를 인덱싱해 질의응답을 가능하게 하는 것이 핵심이다. 윈도 기반 서비스와 드라이버를 포함한 설치형 애플리케이션과, 생성형 AI에 대한 접근통제 및 프록시 기능도 준비 중이다.

정 팀장은 "생성형 AI를 사용할 때 겪을 보안 위험에 대해 적재적소에 보안을 제공하도록 할 것"이라고 강조했다.