SKT “한국어 특화 LLM ‘A.X 4.0’ 오픈소스 공개…이달 추론형 모델도 발표”

SKT “한국어 특화 LLM ‘A.X 4.0’ 오픈소스 공개…이달 추론형 모델도 발표”

기사승인 2025-07-03 10:18:21

A.X 4.0의 대규모 학습(Continual Pre-Training, CPT)을 진행한 SK텔레콤 자체 구축 슈퍼컴퓨터 ‘타이탄’. SK텔레콤 제공

SK텔레콤은 세계 최고 수준의 한국어 처리 능력을 가진 한국어 특화 대형언어모델(LLM)인 에이닷 엑스(A.X) 4.0을 오픈소스로 공개했다고 3일 밝혔다.

SK텔레콤은 이날 오전 세계적인 오픈소스 커뮤니티 허깅페이스를 통해 A.X 4.0의 표준 모델과 경량 모델 2종을 선보였다. 이번에 공개한 A.X 4.0은 현존 LLM 중에서도 최상급의 한국어 처리 효율성과 데이터 보안을 고려한 설계, 로컬 환경에서의 운영 가능성 등을 갖췄다. 오픈소스 모델인 ‘Qwen2.5’은 대량의 한국어 데이터를 추가로 학습시켰다.

또 A.X 4.0의 토크나이저를 자체 설계, 적용해 높은 수준의 한국어 처리 역량을 구현했다. 자체 테스트 결과 같은 한국어 문장을 입력했을 때 GPT-4o보다 A.X 4.0이 약 33%가량 높은 토큰 효율을 기록하며 다른 LLM 대비 높은 정보 처리용량에 비용 절감까지 가능한 경제성을 갖췄다고 SK텔레콤은 설명했다.

토크나이저는 문장의 구조를 분석해 토큰으로 분할하는 작업 도구다.

A.X 4.0은 한국어 능력 평가 벤치마크인 ‘KMMLU’에서 78.3점을 기록하여, GPT-4o(72.5점)보다 우수한 성능을 보였다. 한국어 및 한국 문화 벤치마크인 ‘CLIcK’에서도 83.5점을 획득해 GPT-4o(80.2점)보다 더 높은 한국 문화 이해도를 입증했다.

SK텔레콤은 A.X 4.0를 기업 내부 서버에 직접 설치해 사용할 수 있는 온프레미스 방식으로 제공해 기업들이 데이터 보안에 대한 걱정을 덜 수 있도록 서비스할 계획이다. 특히 A.X 4.0 개발 과정에서도 대규모 학습(CPT)의 전 과정을 외부와 연동없이 자체 데이터로 학습해 데이터의 주권도 확보했다. 온프레미스의 경우 클라우드가 아닌 자체 전산 서버에 직접 설치하고 운영하는 방식이다.

이번 표준 모델은 720억 개(72B), 경량 모델은 70억 개(7B)의 매개변수를 갖추고 있어 이용자들이 목적에 맞춰 선택적으로 이용할 수 있다. 앞서 5월 SK텔레콤은 A.X4.0을 에이닷 통화 요약에 적용해 활용하고 있다. 추후 자사는 물론 SK그룹 내 다양한 서비스에 적용할 계획이다.

SK텔레콤은 추론형 모델의 발표도 앞두고 있다. 이달 중으로 수학 문제 해결과 코드 개발 능력이 강화된 추론형 모델을 공개하고 이미지와 텍스트를 동시에 이해하고 처리할 수 있는 수준까지 모델을 업데이트할 계획이다.

이어 소버린 AI 관점에서 A.X 3.0에 적용한 프롬 스크래치 방식도 병행해 개발을 진행하고 있으며 후속 모델도 순차적으로 공개할 예정이다.

김지원 SK텔레콤 AI 모델 랩장은 “SK텔레콤의 다양한 서비스를 고도화하고, 기업 시장에서 한국어 특화 LLM으로 국내 비즈니스 환경에 최적화된 모델이 될 수 있도록 지속적인 기술 개발을 추진할 계획”이라고 밝혔다.
정우진 기자
jwj3937@kukinews.com
정우진 기자
이 기사 어떻게 생각하세요
  • 추천해요
    추천해요
    0
  • 슬퍼요
    슬퍼요
    0
  • 화나요
    화나요
    0
추천기사
많이 본 기사
오피니언
실시간