IT IT일반

마이크로소프트, 최신 소형언어모델(SLM) 파이 3.5 시리즈 공개

조윤주 기자

파이낸셜뉴스

입력 2024.08.27 18:36

수정 2024.08.27 18:36

마이크로소프트, 최신 소형언어모델(SLM) 파이 3.5 시리즈 공개

[파이낸셜뉴스] 마이크로소프트가 지난 4월 출시된 소형언어모델 파이3(Phi-3)) 모델의 최신 버전인 파이 3.5 시리즈를 공개했다고 27일 밝혔다.

파이3은 언어, 추론, 코딩, 수학 등 다양한 부분에서 우수한 성능과 비용 효율을 제공하도록 설계됐다.

새롭게 공개된 파이 3.5 미니, 파이3.5 비전, 파이3.5-MoE 모델은 더욱 다양한 기능과 최적화된 고성능 옵션을 갖췄다.

MS에 따르면, 파이3.5 미니는 38억 개의 파라미터로 긴 문서 요약, 정보 검색 등에서 탁월한 기능을 발휘한다. 12만 8000개의 컨텍스트 길이를 지원해 긴 문서나 회의록 처리에 강한 성능을 보여준다.

MS 측은 "파이 3.5 미니는 영어 및 다양한 언어에서 고성능을 유지하며 특히 아랍어, 네덜란드어, 핀란드어 등의 언어에서 성능이 크게 개선됐다"고 전했다.

파이 3.5 비전은 멀티 프레임 이미지 이해와 추론 능력을 강화한 모델이다.
이미지 및 비디오 데이터 처리에서 뛰어난 성능을 발휘하며 슬라이드와 비디오 요약, 이미지 스토리텔링 등의 작업에서 높은 정확도와 효율성을 보여준다.


파이 3.5-MoE는 전문가 혼합(Mixture of Experts) 모델로, 총 420억 개의 파라미터 중 66억 개의 활성 파라미터를 사용한다.
보안이 강화됐고 다국어 지원을 통해 대형 모델을 능가하는 성능을 제공한다.

yjjoe@fnnews.com 조윤주 기자

fnSurvey