1) 뉴스 트렌드 (최근 2주간)
| 주간 핵심 변화 (동적 시그널) | 구조적 불변 요소 (핵심 해자) |
|---|---|
| • ZHA 희소 어텐션의 dense급 추론 성능 부각 ▲ • NVIDIA Dory 4B 루프별 연산비용 분석 확대 ▲ • Inkling 2 Small 594B·17B 활성 MoE 공개 ▲ |
• 프론티어 파운데이션 모델 개발 및 고비용 GPU 컴퓨팅 인프라 의존도 • 엔터프라이즈 AI 워크플로우 통합 및 단위 경제성(추론 비용) 최적화 과제 • 오픈소스 생태계 및 글로벌 빅테크와의 인재·기술 경쟁 |
2) 뉴스 요약
Base Model: MarkTechPost는 Zyphra AI가 동결된 대규모 언어 모델(LLM)에 40억(4B) 토큰으로 증류한 트리 인덱스 희소 어텐션 ‘Zyphra Hierarchical Attention(ZHA)’을 적용해, 추론 성능에서 dense attention에 필적하도록 설계한 내용을 다뤘다. 별도 기사에서는 NVIDIA Dory 1.0 4B 루프형 언어 모델을 실행하기 위해 고정된 llama.cpp 브랜치를 빌드하고, 루프별 연산 비용을 분석·테스트하는 절차를 제시했다. Marktechpost(2026.11.03) · Marktechpost(2026.11.07)
Active Parameter Count: MarkTechPost는 Thinking Machines Lab이 전체 5940억 개 파라미터 가운데 170억 개를 활성화하는 혼합 전문가(MoE) 모델 ‘Inkling 2 Small’을 출시했다고 전했다. 모델은 Artificial Analysis Intelligence Index에서 31점을 기록했고 Tinker에서 구동되며, 이번 보도는 대규모 모델의 총 파라미터와 실제 연산에 참여하는 활성 파라미터 수를 함께 보여줬다. Marktechpost(2026.11.06)
3) 도메인 내 전략적 위상 (테크 인텔리전스 매트릭스)
- 기업 펀딩 및 투자 유치 프로필: Crunchbase 프로필 ↗
4) MarkTechPost 기술 생태계 지식 그래프 (Knowledge Graph)
MarkTechPost (인공지능 & LLM 밸류체인)
│
├── [핵심 기술 및 사업 영역]
│ └── 인공지능과 기술 동향을 다루는 기술 미디어 스타트업
│
├── [기사 기반 주요 동시출현 엔티티 (Neo4j)]
│ ├── Large Language Model (Frontier Models & Model Architectures, 기사 연계 3건)
│ ├── llama.cpp (Technology, 기사 연계 3건)
│ ├── 256K-Token Retrieval Context (Metric, 기사 연계 1건)
│ └── Active Parameter Count (Metric, 기사 연계 1건)
│
└── [최근 기사 기반 실시간 연계 노드 (Live Graph Signals)]
├── Open-Source Software (Concept, 기사 연계 1건)
├── Mixture-of-Experts Model (Technology, 기사 연계 1건)
├── 4B Distillation Tokens (Metric, 기사 연계 1건)
└── Attention mechanism (Technology, 기사 연계 1건)
Generated by myTechs Note Corporate Intelligence Engine • Powered by Neo4j Knowledge Graph & SQLite