AI 영역 확장…MS, 소형언어모델 ‘파이 3.5’ 시리즈 공개
[디지털데일리 이안나기자] 마이크로소프트(MS)가 인공지능(AI) 주도권을 쥐기 위해 거대언어모델(LLM)을 넘어 소형언어모델(SLM)까지 시장 진출을 확장한다.
MS는 지난 4월 출시된 SLM 모델 파이3(Phi-3) 최신 모델인 파이3.5(Phi-3.5)시리즈를 27일 공개했다. 이번에 새롭게 공개된 제품은 파이3.5 미니(Phi-3.5-mini), 파이3.5 비전(Phi-3.5-vision), 파이3.5(Phi-3.5-MoE) 모델로 이뤄져 있다.
파이3.5 미니는 38억개 파라미터로 구성된 모델이다. 긴 문서 요약과 대화 및 정보 검색 작업에 탁월한 성능을 발휘한다. 12만8000개 컨텍스트 길이를 지원하며, 영어를 포함한 다양한 언어에서 고성능을 유지한다. 특히 아랍어와 네덜란드어, 핀란드어 등 언어에서 성능이 크게 개선됐다.
파이3.5 비전은 멀티 프레임 이미지 이해와 추론 능력을 강화한 모델이다. 이미지와 비디오 데이터 처리에서 뛰어난 성능을 발휘한다. 다양한 멀티미디어 벤치마크에서 우수 성적을 거뒀다. 이 모델은 슬라이드 요약, 비디오 요약, 이미지 스토리텔링 등 작업에서 높은 정확도와 효율성을 보여준다는 게 MS 측 설명이다.
파이3.5 MoE는 전문가 혼합 모델이다. 총 420억개 파라미터 중 66억개 활성 파라미터를 사용한다. 이 모델은 긴 컨텍스트 처리와 20개 이상 다국어 지원에서 강력한 성능을 제공하며, 비슷한 크기 모델들보다 효율적 성과를 보인다. 강력한 안전 조치와 합성 명령어를 결합해 사용ㅇ자가 안전하고 신뢰할 수 있는 AI를 구축할 수 있도록 돕는다.
MS는 “파이3 모델 도입으로 애저(Azure) 고객들은 고품질 모델에 대한 선택의 폭이 넓어져, 생성형 AI 애플리케이션을 설계하고 구축할 때 더욱 실용적인 옵션을 갖게 됐다”고 전했다.
MBK, '국가핵심기술 기업' 해외매각 우려 여전히 쟁점… 고려아연 M&A, 정부 역할 필요↑
2024-12-22 19:52:35스트레스 완충자본 규제 유예… 한시름 놓은 은행권, 기업금융 고삐죌까
2024-12-22 14:06:20심각한 노인빈곤율…"면세자에 대한 환급형 세액공제 도입해야"
2024-12-22 12:38:24올해 정보보호 투자액 2조원 돌파…공시 의무화 효과 '톡톡'
2024-12-22 12:00:00