본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

VocabX: 비용 가중 어휘 전문화를 통해 도메인 특화 소형 언어 모델의 추론 비용을 77% 절감

Dharma-AI는 VocabX 방법을 제안하여, 포르투갈어 작문 자동 채점과 같은 특정 작업에 맞춰 언어 모델의 어휘표를 재구성함으로써 단어 빈도가 아닌 단어 비용을 최적화 목표로 삼습니다. 모델 구조, 파라미터 또는 학습 프로세스를 수정하지 않은 상태에서, 실험 결과 추론 비용이 77% 감소하는 동시에 평가 점수(bench score)가 0.703에서 0.810으로 향상되었습니다.

진행 상황 및 관련 보도

메타는 법원으로부터 AI 학습에 사용된 해적판 다운로드를 승인한 임원 명단을 공개하라는 명령을 받았다.

Meta를 상대로 제기된 여러 건의 AI 학습 관련 저작권 소송에서 법원은 Meta가 Anna’s Archive, LibGen 등과 같은 그림자 도서관에서 불법 복제 도서를 다운로드한 책임을 인정한 임원들을 명확히 지목해야 한다고 판결했다. 앞서 Meta는 책임을 일선 직원들에게 전가하며, 초기 AI 데이터 수집 과정이 ‘비공식적 절차’에 해당하고 다운로드 행위에 대해 ‘공식적인 의사결정’이 내려지지 않았다고 주장해 왔다.

진행 상황 및 관련 보도

Octave는 Amazon Bedrock를 기반으로 안전한 멀티테넌트 AI 인프라를 구축하여 20억 건의 규제 문서에 대한 의미 검색을 지원합니다.

Octave Reliance는 Amazon Bedrock을 기반으로 엄격한 테넌트 격리형 AI 인프라를 구축했으며, Cohere Embed v4와 AgentCore 마이크로 가상머신 런타임을 통합해 의료기기, 제약 및 식품 제조 산업 전반에 걸친 컴플레인 트라이애지 어시스턴트를 구현했습니다. 이를 통해 20억 건이 넘는 규제 대상 문서(불만 사항, CAPA, 감사 발견 등)에 대한 의미 기반 검색을 지원하며, 전체 과정에서 테넌트 간 데이터 유출을 완전히 차단합니다.

진행 상황 및 관련 보도

AWS Bedrock이 캐나다 리전에서 지역 간 추론 기능을 출시하여, 명목상 GPT-5.6/GPT-6/GPT-6.1 모델 호출을 지원합니다.

아마존 웹 서비스는 캐나다 고객들이 Amazon Bedrock을 통해 ca-central-1(캐나다 중부) 및 ca-west-1(캐나다 서부/캘거리) 리전에서 OpenAI GPT-5.6, GPT-6 및 GPT-6.1 모델을 크로스리전 추론(CRIS) 방식으로 호출할 수 있다고 발표했습니다. 실제 추론은 북미 또는 전 세계 AWS 상용 리전에서 이루어지며, 데이터는 캐나다 원본 리전에 정적 상태로 저장됩니다.

진행 상황 및 관련 보도

세 명의 자바 챔피언이 GitHub Copilot로 개발 효율을 높이는 방법: 인간-기계 협업과 책임 공유에 주목

블라드 미할체아, 패트릭 바움가르트너, 프랑크 델포르트 세 명의 베테랑 자바 챔피언이 프로덕션 환경과 오픈소스 프로젝트에서 GitHub Copilot을 활용한 실무 경험을 공유했습니다. 이들은 AI가 자동으로 코드를 생성하는 데 의존하기보다는, 인간이 주도하는 문제 정의, 컨텍스트 기반 고정, 반복적 검증 및 최종 책임 소재의 중요성을 강조했습니다.

진행 상황 및 관련 보도