KT, 토큰팩토리 띄운다..."AI비용 아끼고 데이터주권 확보"

RSS 제공 소개문

[지디넷코리아]KT가 통신 역량을 결합해 AI 사용량과 비용을 효율적으로 관리할 수 있는 토큰팩토리를 오는 30일 선보인다. 자체 라우팅 기술을 통해 토큰 사용량을 최대 25% 절감하고 데이터 주권까지 보장한다. KT는 통신 사업을 통해 축적한 연결, 과금, 보호 역량을 AI 서비스에 적용한 AX 플랫폼 토큰팩토리를 선보였다고 27일 밝혔다. 토큰은 생성형 AI가 텍스트와 데이터를 처리하는 기본 단위로, AI 이용량과 비용을 산정하는 기준이 된다. 고성능 AI 모델이 다양해지면서 업무 특성에 맞춰 모델을 선택하고 비용을 최적화하는 것이 중요해지고 있다. KT는 토큰팩토리에서 AI 모델 선택, 비용 관리, AI 신뢰, 안전 기능을 하나의 플랫폼에서 제공한다. 국내외 500개 이상 AI 모델을 연동해 가입부터 결제까지 일괄 관리하며, 통신 과금 노하우를 바탕으로 정밀한 사용량 과금 체계를 구현했다. 질문의 난도와 유형을 분석해 적합한 모델을 자동 선택하는 자체 AI 라우팅 기술 '오토 모델 라… 더보기 (원문 기사, 새 탭)