SKT, LLM으로 초거대 AI 모델 도전

SKT는 24일 오픈소스 커뮤니티 허깅페이스(Hugging Face)에 독자 구축 LLM인 ‘A.X(에이닷 엑스) 3.1’을 공개했다.

340억 개(34B) 매개변수를 기반으로 하는 ‘A.X 3.1’은 SKT가 프롬 스크래치(From Scratch) 방식으로 모델 구축과 데이터 학습 등 전 단계를 진행했다. 프롬 스크래치(From Scratch)는 모델의 맨 처음 단계부터 모두 직접 구축하는 것을 말한다.

이번에 공개한 A.X 3.1은 A.X 3.0의 개선 버전이다. A.X 3.1에선 추론모델로의 확장 가능성을 고려해 코드와 수학성능을 대폭 향상 시켰다.

SKT는 프롬 스크래치 방식의 A.X 3.1 모델 2종(표준, 경량)과 대규모 학습(CPT, Continual Pre-Training)에 기반한 A.X 4.0 모델 2종(표준, 경량)까지 총 4개의 모델을 오픈소스로 공개했다. 해당 모델들은 학술 연구나 상업 이용 등에 자유롭게 활용 가능하다.

A.X 3.1(34B)은 자사 A.X 4.0(72B)와 비교할 때 절반 이하 매개변수로 구성됐지만, 같은 한국어 서비스에 적용될 경우 약 90% 수준 성능을 발휘한다. 사용자들은 A.X 3.1과 4.0 중에서 사용 환경에 더 적합한 성능과 효율을 고려해 선택할 수 있다.

A.X 3.1(34B) 모델은 대표적인 한국어 능력 평가 벤치마크인 KMMLU²⁾에서 ‘A.X 3.1’(69.20)는 ‘A.X 4.0’(78.3) 대비 88% 수준을 확인했고, 한국어 및 한국 문화 벤치마크인 CLIcK³⁾에서는 ‘A.X 3.1’(77.1)가 ‘A.X 4.0’(85.7) 대비 90% 수준의 성능을 기록했다.

SK텔레콤 컨소시엄에 AI밸류체인 대표기업 집결

SKT는 과학기술정보통신부가 주관하는 ‘독자 AI 파운데이션 모델 사업’에 지원했다.

SKT 컨소시엄은 반도체, 모델, 데이터, 서비스로 이어지는 독자 기술 기반의 풀스택 AI를 구현하고, 개발하는 모델을 국내 기업들에 오픈소스로 개방하는 것을 목표로 하고 있다.

컨소시엄엔 국내 게임 상장사 크래프톤을 비롯, 모빌리티 데이터 부분의 포티투닷, 국내 추론형 AI반도체(NPU) 제작사인 리벨리온, 전문 지식·정보 검색에 특화된 AI 에이전트인 라이너, AI 모델의 데이터 안정성 확보 기술을 갖춘 셀렉트스타 등 회사, 서울대학교 연구실, KAIST 연구진 등이 참여한다.

SKT 컨소시엄이 만들어낼 AI모델 사용 의향서를 낸 업체 중에는 SK하이닉스와 SK이노베이션, SK AX, SKB 등 SK그룹사, SKT 주도의 K-AI 얼라이언스에 참여 중인 몰로코(AI광고), 씨메스(제조AI), 가우스랩스(제조AI), 스캐터랩(감성AI) 등이 포함됐다. 참여 의향서 제출 기업은 추후 더 늘어날 전망이다.

SKT 컨소시엄은 자체 개발 LLM인 A.X와 각 참여사가 보유한 자체 LLM 및 데이터 등을 기반으로 해 대한민국 대표 독자 파운데이션 신규 모델을 만들어갈 계획이다.

특히 기존 규모를 뛰어넘는 초거대 AI 모델 개발에 도전한다. 텍스트 뿐만 아니라 이미지, 음성, 비디오 등 다양한 형태 데이터를 통합 처리할 수 있는 ‘옴니모달(Omni-Modal)’ 기술을 적용할 예정이다.

현재 AI 업계 표준으로 자리잡은 트랜스포머 구조를 넘어 신규 구조 연구도 추진, 이를 통해 글로벌 AI 경쟁서 독자 기술 경쟁력을 확보할 계획이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "각 분야 선도기업들과의 컨소시엄 구성으로 향후 소버린 AI 분야서 새로운 성과를 만들어낼 것"이라며, "국내 AI 생태계를 종합적으로 고려해 혁신적인 인공지능 모델을 선보일 계획"이라고 밝혔다.

Related Materials

• 대형 언어 모델 (LLM) 시장 규모, 업계 점유율, 통찰력 및 예측 - Verified Market Reports, 2024년
• 세계의 대규모 언어 모델(LLM) 시장 : 세계 및 지역별 분석 - 용도별, 아키텍처별, 모델 사이즈별, 지역별 - 분석과 예측(2024-2034년) - BIS Research, 2024년
• 글로벌 생성형 AI 특허 현황 - KIAT 정책브리프, 2024년
• 생성형 AI에 대한 전세계 시장 조사 결과: 생성형 AI의 이용은 중국이 선도, 구현과 활용 성숙도는 미국이 견인 - SAS, 2024년

SKT, LLM 에이닷 엑스 3.1 선보여

💡Editor Pick - 11일, 오픈소스 커뮤니티 허깅페이스 통해 ‘A.X 3.1 라이트’ 모델 공개 - 다양한 사양 모바일 기기서 최적 서비스 품질 구현 가능한 경량 모델 SKT는 11일 오픈소스 커뮤니티 허깅페이스(Hugging Face)에 독자 구축 LLM인 ‘A.X(에이닷 엑스) 3.1 라이트’를 공개했다고 밝혔다. 이번에 공개한

The Tech EdgeCheifEditor

SKT, 강의 요약 정리하는 ‘에이닷’ AI 신규 서비스 베타 버전 출시

💡Editor Pick - AI 서비스 ‘에이닷’에 ‘노트’와 ‘브리핑’ 등 신규 서비스 베타 버전 출시 - ‘노트’, 음성 AI 기록 서비스로 실시간 받아쓰고 요약, 정리 - ‘브리핑’, 사용자 일상 종합 분석해 정보 제공 ‘앰비언트 에이전트’ SKT(대표 유영상)가 AI 서비스 ‘에이닷(A.)’에 ‘노트’와 ‘브리핑’ 등 신규

The Tech EdgeCheifEditor

SKT 에이닷 ‘노트’, 30만명 돌파

💡Editor Pick - 실시간 받아쓰기요약, 템플릿별 핵심내용 정리 등 차별화 기능 호평 - 전체 이용자 중 30~40대 절반 이상, 직장 회의 등 활용 많아 - 이용자 의견 반영해 편의성 향상한 정식 버전 올해 하반기 중 출시 예정 SKT(대표이사 CEO 유영상)는 지난달 30일 인공지능(AI) 서비스 ’에이닷(A.

The Tech EdgeCheifEditor