최신 뉴스부터 나에게 맞는 도구까지.
Claude범용 AI 도우미 및 검색Claude는 Anthropic이 출시한 AI 비서로, 대화를 통해 글쓰기, 자료 읽기, 데이터 분석 및 프로그래밍을 지원하며, 일부 작업을 계속 편집할 수 있는 문서, 표 또는 프레젠테이션 파일로 정리해 줍니다. 아이디어, 자료 및 초안을 원활하게 연결하고자 하는 개인과 팀에게 적합합니다.
G
Gemini범용 AI 도우미 및 검색Gemini는 Google의 AI 비서로, 대화를 통해 글쓰기, 계획 수립, 자료 정리 및 업로드된 파일 분석을 지원하며, Deep Research 기능을 사용해 특정 주제에 관한 자료를 검색하고 연구 보고서를 생성할 수도 있습니다.
M
Midjourney이미지 생성 및 편집Midjourney는 텍스트와 참고 이미지를 바탕으로 시각적 작품을 생성하는 AI 창작 도구입니다. 웹사이트의 Create 페이지에서 프롬프트를 입력하고, 생성된 버전을 비교한 뒤, 변형, 편집, 확대 또는 이미지에서 영상으로 전환 등의 기능을 활용해 계속해서 창작할 수 있습니다.
K
Krea이미지 생성 및 편집Krea는 AI 비전 창작 워크스페이스로, 텍스트나 참고 이미지로부터 이미지를 생성하고, 다양한 모델과 변형을 비교한 뒤 편집, 디테일 강화 및 확대를 수행할 수 있으며, 동영상 및 기타 크리에이티브 도구에 대한 접근도 제공합니다.
R
Runway영상 및 애니메이션Runway는 영상 생성, 시각 편집 및 크리에이티브 워크플로를 하나로 통합한 AI 플랫폼입니다. 텍스트, 이미지 또는 기존 클립을 기반으로 씬을 생성하거나 수정한 뒤, 길이 연장, 확대 및 내보내기를 통해 컨셉트 필름, 광고 및 기타 시각적 제작 작업을 지원합니다.
S
Suno음악 및 오디오Suno는 텍스트 설명, 가사 및 참고 자료를 바탕으로 곡을 생성하는 AI 음악 플랫폼입니다. 사용자는 보컬이 포함된 곡이나 음악을 생성한 뒤, 편집, 리믹스, 트랙 분리 등의 기능을 활용해 추가로 제작하고 공유할 수 있습니다.
E
ElevenLabs음성 및 전사ElevenLabs는 AI 음성 생성, 오디오 제작 및 음성 인공지능 에이전트를 제공하는 플랫폼입니다. 크리에이터는 더빙, 오디오북, 팟캐스트 및 현지화 콘텐츠를 제작할 수 있으며, 개발자는 API를 통해 음성 생성, 음성 텍스트 변환 및 대화 기능을 활용할 수 있습니다.
N
Notion AI업무 및 생산성Notion AI는 Notion 작업 공간에 통합된 AI 비서로, 팀의 지식을 검색하고 페이지를 생성·편집하며 데이터베이스를 처리하고 회의 내용을 정리하는 데 사용됩니다. 이는 작업 공간과 연결된 앱의 컨텍스트를 결합하여 자료 조회, 콘텐츠 정리 및 후속 작업을 하나의 작업 환경에서 완료할 수 있도록 지원합니다.
G
Gamma업무 및 생산성Gamma는 AI를 활용해 프레젠테이션, 문서, 웹페이지 및 시각 콘텐츠를 제작하는 제품으로, 목표, 개요 또는 기존 자료를 바탕으로 콘텐츠를 생성한 뒤 대화형 인터페이스, 레이아웃 조정 및 자유 편집을 통해 최종 결과물을 맞춤화할 수 있습니다.
C
Cursor코딩 및 개발Cursor는 소프트웨어 개발 작업을 중심으로 설계된 AI 프로그래밍 제품으로, 코드 컨텍스트 내에서 코드의 계획 수립, 수정, 테스트 및 검토를 지원하며, 데스크톱, 명령줄 및 클라우드 기반 에이전트 등 다양한 사용 방식을 제공합니다.
이 글은 Hugging Face와 Amazon이 공동으로 발표한 기술 블로그 시리즈의 첫 번째 편으로, AWS Trainium AI 가속 칩에서 TorchNeuron을 활용한 PyTorch 모델 추론 성능 분석 방법을 체계적으로 소개합니다. 여기에는 Neuron 백엔드 통합 원리, torch.profiler 구성 방법, NeuronConfig 및 NeuronProfiler 도구의 사용법, Neuron Explorer를 이용한 시각적 추적 등이 포함되며, RMSNorm을 사례로 삼아 세 가지 구현 방식(순수 PyTorch, torch.rms_norm 내장형 병합, torch.compile 자동 병합) 간의 장치별 처리 시간 차이를 비교합니다.
i14는 30.28억 개의 파라미터를 갖는 Laplace 3B 모델을 출시했으며, Softmax 주의 메커니즘을 대체해 게이트 제어 선형 주의(GLA)를 채택했습니다. 이 모델은 추론 시 각 시퀀스의 재귀 상태 크기가 항상 29.5 MB로, 컨텍스트 길이와 무관합니다. 해당 모델은 AWS trn2.48xlarge 인스턴스 한 대(Trainium2 칩 16개 탑재)에서 훈련 및 서비스 검증을 완료했으며, 훈련 처리량은 초당 12만 토큰에 달하고, 서비스 처리량은 초당 11,544 출력 토큰(동시 실행 시퀀스 수 1,280)입니다. 모든 성능 데이터는 i14와 AWS GenAIIC 팀의 내부 실측 결과입니다.
SF Compute는 에반 콘래드가 설립한 기업으로, 중립적이고 프로그래밍 가능하며 물리적 인도를 지원하는 GPU 연산력 거래 인프라 구축을 목표로 합니다. 이 회사의 모델은 FLOPS 상품의 추상화를 지양하고 하드웨어의 이기종성, 실제 인도 및 실시간 제약(예: 중단 허용성, InfiniBand 토폴로지, 펌웨어 버전 등)을 강조합니다. 현재까지 수백억 달러 규모의 거래량을 달성했으며, 동적 InfiniBand 서브넷 분할과 같은 기반 기능도 선보였습니다.
SF Compute는 에반 콘래드가 설립한 기업으로, GPU 연산력에 대한 프로그래밍 가능하고 물리적으로 교환 가능한 거래를 실현하는 데 중점을 두고 있습니다. 이 회사는 자체 데이터센터를 보유하지 않고, 풀스택 기술을 통해 제3자 시설과 협력해 ‘주권형 연산력 클라우드’를 공동 구축하며, 시장 중립성과 인프라의 통제 가능성에 큰 비중을 두고 있습니다. 현재까지 수억 달러 규모의 거래액을 달성했으며, InfiniBand 동적 분할 등 핵심 기능도 실제로 구현했습니다.
생성형 AI의 급부상으로 인한 고대역폭 메모리 칩 수요 급증에 대응하기 위해, 삼성은 한국 평택에 뉴욕 센트럴파크 규모의 반도체 제조 클러스터를 건설하고 있다. 현재까지 세 곳의 웨이퍼 공장이 가동 중이며, 네 번째 공장은 곧 상업 생산을 시작할 예정이고, 다섯 번째 공장은 2024년 수요 약세로 일시 중단됐다가 다시 건설을 재개했다. 현장에서는 높은 강도와 높은 안전 기준을 갖춘 건설 속도와 노동력 생태계가 구현되고 있다.
Hugging Face는 TorchTPU를 발표하여 PyTorch에 원래의 TPU 백엔드 지원을 제공함으로써, Transformers, Diffusers 등과 같은 라이브러리들이 torch_xla에 의존하거나 JAX로 이전할 필요 없이 바로 TPU에서 실행될 수 있도록 했습니다.
Hugging Face는 AnyLanguageModel 1.0을 정식으로 출시했으며, Apple Foundation Models API와 완전히 호환되는 오픈소스 Swift 프레임워크를 제공합니다. 이 프레임워크는 로컬 모델(MLX, llama.cpp, Core ML)과 호스팅 모델(OpenAI, Anthropic, Gemini, Hugging Face Inference Providers 등) 간의 원활한 전환을 지원하며, 이미지 입력, 도구 호출, 가이드형 생성, 추론 블록 자동 적응 등의 기능도 추가되었습니다.
Hugging Face와 AWS가 공동으로 TorchNeuron을 출시했습니다—PyTorch용 원생형 Trainium 백엔드로, 2026년 10월 20일부터 공개 베타 테스트를 시작합니다. 이 기술을 통해 Transformers, Diffusers 등 주요 라이브러리들이 수정 없이 바로 Trainium 칩에서 실행될 수 있게 되어, 텍스트 생성 및 이미지 생성 모델의 사용 편의성과 호환성을 크게 향상시킵니다.
Quantization-Aware Healing : 압축 된 4 비트 모델은 전체 정밀도 원본을 설명합니다
Differential acceleration of cyber, math, and AI
번역 대기 중 · 원문 표시 · enFigure 1: CUDA-to-MLX optimization translation map. CUDA optimization knowledge can be translated into architecture-native MLX strategies rather than copied instruction-for-instruction. We face a new epoch in computing. Hardware is changing rapidly — not just faster GPUs, but a growing range of chips from different vendors, each with its own architecture and often tailored to specific AI workloads. Software is changing just as fast, and AI coding tools now generate in minutes what took months of effort a few years ago. With so much of computing now centered on AI, GPU kernels are a crucial component of its success. These are the low-level programs that run inside the GPU, and writing efficient ones is far from obvious — it takes years of expertise to get right. Transferring a kernel from o
번역 대기 중 · 원문 표시 · en... government of the people, by the people, for the people ... — Abraham Lincoln, Gettysburg Address (1863) The cost of AI is dropping rapidly. GPT-4-class capabilities cost roughly $30 per million tokens in early 2023; today the same runs under $1, and some providers are pushing costs below $0.10. Across benchmarks, inference prices have fallen between 9x and 900x per year, with a median decline near 50x. Even frontier models are getting dramatically cheaper each generation, with open-source models following closely behind. And crucially, even if “Nobel-Prize-winning genius-level” intelligence isn’t here yet, the intelligence that suffices for the vast majority of knowledge work is here today, and getting cheaper by the month. At this rate, we are soon entering the era of virtually free
번역 대기 중 · 원문 표시 · enIs this the beginning of a new world?
번역 대기 중 · 원문 표시 · enWhat eras bookend our interregnum?
번역 대기 중 · 원문 표시 · enHeaps do lie: debugging a memory leak in vLLM.
번역 대기 중 · 원문 표시 · en호기심에 방향을 더하고 매일의 읽기에 가치를 더하세요.
