AI NEWS.ccAI가 움직이고 미래가 업데이트됩니다.
한국어
中文English日本語한국어
EXPLORE · DISCOVER · CONNECT

AI 뉴스

새로운 연구에 따르면 AI 모델의 사용 비용은 언어에 따라 크게 달라지며, 토큰 소비량은 최대 17배까지 차이가 난다고 합니다.

IT之家 10월 30일 보도에 따르면, 사용자 수가 적은 언어를 사용하는 경우 AI 서비스 이용 시 영어 및 기타 주요 언어 사용자보다 더 높은 비용을 부담할 수 있다고 합니다. 현지 시간으로 28일, 외신 Rest of World의 보도에 따르면, 인공지능 언어 공정성 연구 연합이 지난달 발표한 연구에서 AI 모델이 서로 다른 언어를 처리할 때 소모되는 토큰(단어 단위) 수가 매우 큰 차이를 보일 수 있다는 사실이 밝혀졌습니다. 토큰은 AI 모델이 텍스트와 같은 데이터를 처리하는 데 사용되는 기본 단위입니다...

이질성이 언제 가치를 발휘하는가? GPU와 WSE 시스템의 상호보완성 이해

arXiv:2610.39222v1 발표 유형: 신규 초록: AI 가속기 아키텍처가 점점 더 다양해짐에 따라, 서로 다른 아키텍처를 통합한 단일 시스템 구현이 새로운 이종 컴퓨팅 패러다임으로 부상하고 있다. GPU와 WSE는 연산, 메모리, 통신 구조에서 상당히 차이를 보이며, 이로 인해 아키텍처 간 상호보완성과 추가적인 오버헤드가 동시에 발생하지만, 이러한 이질성을 실제 성능 향상으로 전환하는 방법은 아직 명확히 밝혀지지 않았다. 이 문제를 해결하기 위해 우리는 GPU–WSE 이종 실행 환경과 상호보완성을 활용할 수 있는 조건을 규명하는 계층적 벤치마킹 방법론을 제안하며, 또한 이질성이 시스템 차원의 성능 향상을 가져오는 경우와 병목 현상으로 작용하는 경우를 식별하는 분석적 성능 모델을 함께 제시한다.

저역 통과 동역학을 넘어서: 공명 뉴런을 갖춘 주파수 선택적 스파이킹 저수지

arXiv:2610.37906v1 발표 유형: 신규 초록: 스파이킹 저수지 컴퓨팅은 고정된 재귀형 저수지의 학습 효율성과, 매 테이프스텝마다 밀집하여 연산을 수행하는 대신 희소한 스파이크에 의해 연산이 촉발되는 이벤트 기반 추론의 에너지 효율성을 결합한다. 그러나 기존의 스파이킹 저수지는 거의 대부분 누설 통합-화재(LIF) 뉴런에 의존하며, 이 뉴런들의 저역 통과 동역학은 서로 다른 시간 주파수로 부호화된 정보를 구분하는 능력을 제한한다. 우리는 HRF-Res를 제안하는데, 이는 LIF 뉴런을 조화 공명-화재(HRF) 뉴런의 이질적인 집단으로 대체한 액체 상태 머신이다. 이러한 뉴런들은 내재된 진동 동역학을 보이며 입력 주파수에 선택적으로 반응하여, 저수지가 주파수

XHEART의 대규모 모델용 칩 X7 Ultra가 뛰어난 성과를 보여주며, 누적 출하량이 20만 개를 넘어섰습니다.

10월 29일 소식에 따르면, 차세대 대규모 모델 기반 자율주행용 칩을 개발하는 기업인 XHEART(신심항도)가 플래그십 제품인 X7 Ultra 칩을 발표했습니다. 이 칩은 엔드투엔드 자율주행 대규모 모델을 위해 특별히 맞춤 설계된 핵심 연산 플랫폼입니다. 공식 발표에 따르면, X7 시리즈는 양산 시작 후 8개월 만에 누적 출하량이 20만 개를 돌파하며 강력한 시장 성과를 거두고 있으며, 현재까지 총 10종의 차량 모델에 탑재되어 기업 고객들과의 협력 및 시장 확대가 지속적으로 진행되고 있습니다.

엔드투엔드 대형 모델 전용 설계: 신심항도 X7 Ultra 지능형 주행 칩을 발표하며, 중국 최초로 Armv9 차량 규격 CPU를 양산 출시

10월 29일, XHEART 신심항도는 차세대 지능형 주행 대형 모델 칩인 X7 Ultra를 공식 발표했다. 지능형 주행이 여러 개의 소형 모델에서 ‘엔드투엔드 대형 모델’로 진화하는 추세에 맞춰, 이 제품은 ‘대형 모델이 칩을 정의한다’는 철학을 바탕으로 실제 양산 모델의 근본적인 요구사항에서 출발해 계산 아키텍처, 저장 솔루션 및 데이터 흐름 방식을 역으로 재설계했으며, 향후 모델 발전을 위한 확장성도 미리 마련했다. 본 기사에는 핵심 연산 성능과 아키텍처 설계에 관한 내용도 포함되어 있다.

OpenAI가 구글로부터 TPU 칩을 구매할 계획인 것으로 드러나며, 컴퓨팅 파워 공급망의 구도가 다시 변화하고 있다.

10월 28일 소식에 따르면, OpenAI는 인공지능 칩을 구글로부터 구매할 예정이다. OpenAI는 오랫동안 엔비디아 GPU의 주요 구매자로, 대규모 모델 학습과 추론을 수행하는 데 이를 의존해 왔다. 컴퓨팅 파워 수요가 급증함에 따라 기업들은 AI 모델 실행에 적합하면서도 비용 효율성이 높은 대체方案을 모색하고 있다. 구글이 자체 개발한 TPU는 최근 몇 년간 점차 두각을 나타내며 잠재적 선택지로 부상했다. 이러한 움직임은 AI 칩 조달의 다변화 추세를 반영하는 것으로 보인다.

아날로그 중첩이 효과적인 PCM 저장 밀도를 높인다(IBM 리서치 유럽)

IBM 리서치 유럽의 연구진은 “신경망에서 벡터 저장을 위한 중첩 아날로그 메모리”를 발표했다. 요약: 연구진은 여러 개의 AI 벡터를 중첩 상태로 저장하는 아날로그 상변화 메모리 아키텍처를 구현했으며, 조정 가능한 정확도와의 균형을 통해 실제 저장 밀도를 증가시켰다. 프로토타입 PCM 하드웨어를 대상으로 한 실험에서는 완전 정밀도 소프트웨어에 가까운 추론 정확도를 확인했다. 기술 논문은 여기에서 확인할 수 있다.... » 더 읽기 이 글은 ‘아날로그 중첩이 효과적인 PCM 저장 밀도를 높인다(IBM 리서치 유럽)’라는 제목으로 반도체 엔지니어링에 처음 게재되었다.

개발자는 AI 시대의 기반 혜택을 어떻게 포착할 수 있을까요? CEIC×1024 선전 특별 행사에서 AI와 홍멍 개발의 신인프라를 해부합니다.

2026년 창사·1024 프로그래머의 날 행사 기간 동안, CEIC 소비자 전자 혁신 컨퍼런스와 CSDN은 선전에서 개발자들을 위한 강력한 기술 축제를 공동으로 개최했습니다. CEIC 조직위원회 상임 부주임 양타오가 인터뷰에서 밝힌 바와 같이: “소비자 전자 분야의 모든 경험 혁신은 결국 우리 프로그래머들이 작성한 코드에서 비롯됩니다.” 현재 기술의 전환점에 있어, 단순한 수기 코드 작성에서부터 지능형 에이전트(Agent)와 풍부한 엣지 측 AP를 활용하는 방식으로...

데이터센터 확장이 미국 전역의 지역 반대를 촉발하며 2026년 중간선거의 핵심 이슈로 부상했다.

The Verge의 2026년 10월 27일 보도에 따르면, 미국 전역의 지역사회에서 데이터센터 대규모 건설과 이를 뒷받침하는 인프라 비용 급증으로 인해 광범위한 반대가 촉발되었으며, 이 문제는 이미 여러 의회 및 주지사 선거에 깊이 개입하고 있다. 기술 자본의 진입이 가속화되면서, 마크 앤더슨과 그레그 브록먼이 후원하는 슈퍼 정치행동위원회 ‘Leading the Future’는 1년 만에 4,500만 달러를 투입했고, 앤트로픽이 지원하는 ‘Public First Action’ 또한 이에 참여하고 있다.

vLLM 시맨틱 라우터, d3-ultra 출시: 27B 규모의 오픈형 멀티모달 의사결정 모델

vLLM 시맨틱 라우터가 27B 규모의 오픈 웨이트 멀티모달 의사결정 모델인 d3-ultra를 출시했습니다. 이 모델은 텍스트, 이미지 및 비디오를 한 번에 처리한 뒤 모든 답변에 대한 확률을 반환하며, 팀의 SR-Text 테스트에서 87.2점을 기록했습니다. 해당 게시물 “vLLM 시맨틱 라우터, 27B 규모의 오픈 멀티모달 의사결정 모델 d3-ultra 출시”는 MarkTechPost에 처음 게재되었습니다.

클라우드의 LLM: 아키텍처, 오케스트레이션 및 추론에 관한 논의

arXiv:2610.33475v1 발표 유형: 신규 초록: 클라우드 데이터센터 전반에 걸쳐 기반 대규모 언어 모델(LLM)이 광범위하게 배치됨에 따라, 무상태 딥러닝에서 분산형 메모리 집약적 생성 워크로드로의 근본적인 패러다임 전환이 이루어지고 있다. 그러나 엄격한 서비스 수준 목표(SLO) 하에서 대규모 기반 모델을 서비스하는 과정에서는 중요한 물리적 및 시스템 병목 현상이 드러난다. 이러한 과제에는 지속적인 고대역폭 메모리(HBM) 장벽, 연산 중심의 프리필링과 메모리 대역폭 중심의 디코딩 간의 운영 비대칭성, 폭발적으로 증가하는 키-값(KV) 캐시, 부담스러운 서버리스 콜드 스타트, 그리고 하드웨어 신뢰성 취약점 등이 포함된다. 기존 문헌 리뷰들은 여전히 계층별로 분리되어 있어, 저수준 가속기 가상화와 클러스터를 서로 분리하고 있다.