SKT, LLM 에이닷 엑스 3.1 선보여

SKT, LLM 에이닷 엑스 3.1 선보여
[이미지: SKT]
💡
Editor Pick
- 11일, 오픈소스 커뮤니티 허깅페이스 통해 ‘A.X 3.1 라이트’ 모델 공개
- 다양한 사양 모바일 기기서 최적 서비스 품질 구현 가능한 경량 모델

SKT는 11일 오픈소스 커뮤니티 허깅페이스(Hugging Face)에 독자 구축 LLM인 ‘A.X(에이닷 엑스) 3.1 라이트’를 공개했다고 밝혔다.

이번에 공개한 ‘A.X 3.1 라이트’는 SKT가 프롬 스크래치(From Scratch)1) 방식으로 모델 구축과 데이터 학습 등 전 단계를 직접 진행했으며, 70억 개(7B)의 매개변수를 기반으로 하는 경량 모델이다.

‘A.X 3.1 라이트’는 기존 에이닷 전화 통화요약에 적용했던 A.X 3.0 라이트 모델의 업그레이드 버전으로, 전작의 강점인 경량화된 성능과 높은 효율성을 이어받았다.

이러한 장점은 정보 처리 용량, 소비 전력 등 다양한 사양의 모바일 기기에서 최적의 품질을 구현할 수 있도록 해 기업들의 원활한 서비스 제공에 기여할 수 있을 것으로 기대된다.

또한 ‘A.X 3.1 라이트’는 같은 규모의 매개변수를 바탕으로 하는 자매 LLM인 ‘A.X 4.0 라이트’와 동등한 수준의 우수한 한국어 처리능력을 갖췄다.

대표적인 한국어 능력 평가 벤치마크인 KMMLU2)에서 ‘A.X 3.1 라이트’(61.70)는 ‘A.X 4.0 라이트’(64.15)대비 96% 수준의 성능을 나타냈고, 한국어 및 한국 문화 벤치마크인 CLIcK3)에서는 ‘A.X 3.1 라이트’(71.22)가 ‘A.X 4.0 라이트’(69.97) 대비 102% 수준의 성능을 기록했다.

SKT는 향후 보유 LLM을 꾸준히 오픈소스로 공개할 예정으로, ‘A.X 3.1 라이트’ 후속인 매개변수 340억 개(34B)의 프롬 스크래치 모델인 A.X 3.1역시 이달 중 발표할 예정이다.

순수 자체개발 A.X 3 모델과 대규모 학습 기반 A.X 4 모델 ‘투 트랙 전략’

SKT는 프롬 스크래치 방식 개발 등 LLM 관련 기술 역량을 지속 고도화할 예정이다.  SKT는 2018년부터 AI 언어 모델을 개발해 2019년 KoBERT를 고객센터 챗봇 등에 활용하기 시작했고, 2020년 국내 최초로 GPT2를 한국어로 개발해 오픈소스로 공개한 바 있다.

2022년 선보인 A.(에이닷) 서비스에는 자체 개발한 A.X 모델을 적용해 자유 주제로 대화가 가능하게 했으며, 2024년 A.X 3.0 모델을 에이닷 전화 통화요약 기능에 적용하기도 했다.

앞으로도 SKT는 A.X 3 계열의 소버린 AI 모델로 자생력 있는 기술을 갖추는 동시에, 최적화된 성능·효율이 필요한 영역에는 대규모 학습(CPT, Continual Pre-Training)에 기반한 A.X 4 계열 모델을 활용할 예정이다.

이러한 투 트랙(Two Track) 전략을 통해 국내 기업들이 각자의 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 다양한 선택지를 제공한다는 방침이다. 또한 기존 모델의 성능을 대폭 혁신할 수 있도록 GPU(그래픽처리장치) 자원을 확충하고 개발 역량을 높여 나갈 계획이다.

SKT는 그 동안 확보한 우수한 LLM 기술 역량을 바탕으로 향후 정부가 추진하는 ‘독자 AI 파운데이션 모델 개발사업’에 지원할 예정이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "꾸준히 쌓아 온 한국형 LLM 개발 역량을 바탕으로 AI 생태계 자립성을 높이고, 국가 AI 경쟁력 제고에 기여하도록 노력할 것”이라고 밝혔다.


SKT 에이닷 ‘노트’, 30만명 돌파
💡Editor Pick - 실시간 받아쓰기요약, 템플릿별 핵심내용 정리 등 차별화 기능 호평 - 전체 이용자 중 30~40대 절반 이상, 직장 회의 등 활용 많아 - 이용자 의견 반영해 편의성 향상한 정식 버전 올해 하반기 중 출시 예정 SKT(대표이사 CEO 유영상)는 지난달 30일 인공지능(AI) 서비스 ’에이닷(A.
SKT, 강의 요약 정리하는 ‘에이닷’ AI 신규 서비스 베타 버전 출시
💡Editor Pick - AI 서비스 ‘에이닷’에 ‘노트’와 ‘브리핑’ 등 신규 서비스 베타 버전 출시 - ‘노트’, 음성 AI 기록 서비스로 실시간 받아쓰고 요약, 정리 - ‘브리핑’, 사용자 일상 종합 분석해 정보 제공 ‘앰비언트 에이전트’ SKT(대표 유영상)가 AI 서비스 ‘에이닷(A.)’에 ‘노트’와 ‘브리핑’ 등 신규
SKT, 해외체류∙군 복무자 위약금 면제
💡Editor Pick - 군 복무, 해외 체류, 장기 입원, 도서산간 등 불가피한 경우 위약금 면제 SKT(대표이사 CEO 유영상)가 위약금 면제와 관련, 정해진 기간 내 해지 못한 고객은 추후에 별도 증빙을 제출하면 위약금을 면제받을 수 있다고 9일 밝혔다. SKT는 침해사고 발생 전(4월 18일 24시 기준) 약정 고객 중

Read more

악성 NPM 패키지 활용, 새로운 피싱 공격 등장!

악성 NPM 패키지 활용, 새로운 피싱 공격 등장!

💡Editor Pick - 정상 CDN서비스에 악성 NPM 패키지로 피싱 페이지 연결해 공격 - 피싱 페이지, MS 원드라이브 위장...다운로드 하면 계정로그인 유도 탈취 최근 발견된 피싱 이메일에서 정상 CDN서비스에 호스팅 된 악성 NPM 패키지를 통해 피싱 페이지를 로딩하는 새로운 방식의 피싱 공격이 확인됐다. 새로운 피싱 공격에 피해를 입지 않도록 이용자들의

By CheifEditor
"인공지능 경쟁력 핵심, 데이터 양과 질"

"인공지능 경쟁력 핵심, 데이터 양과 질"

💡Editor Pick - 인공지능 경쟁력 핵심, 데이터 양과 질 의견 대두 - 데이터 확보 어려움과 제약이 혁실 활동 가로막아 인공지능 경쟁력 핵심은 활용할 수 있는 데이터의 양과 질에 달려 있다는 주장이 제기됐다. 25일 서울 SW 마에스트로 연수센터서 개최된 ‘데이터 규제 혁신 간담회’에선 이 같은 내용을 골자로 인공 지능 혁신

By CheifEditor
인디게임 사용자 노리는 크리덴셜 탈취 캠페인, “영리한 진화”

인디게임 사용자 노리는 크리덴셜 탈취 캠페인, “영리한 진화”

💡Editor's Pick - 있지도 않은 인디게임을 유튜브와 디스코드로 광고 - 사실은 크리덴셜 수집하는 정보 탈취 멀웨어 - 미끼가 되는 게임은 전혀 개발하지 않아...오로지 마케팅만 인디게임 사용자들을 노리는 크리덴셜 탈취 캠페인이 발견됐다. 이 캠페인에 유튜브와 디스코드까지 악용됐다. 보안 업체 아크로니스(Acronis)의 분석가들이 공개한 것으로, 공격자들이 원하는 건

By JustAnotherEditor