MoE에서 ‘라우터’는 특정한 정보, 작업을 처리할 전문가(들)를 결정하는 메커니즘인데, 가장 적합한 전문가에게 데이터를 전달해서 각 작업이 모델의 가장 적합한 부분에 의해서 처리되도록 하는 것이죠. 특히, DeepSeek만의 독자적인 MoE 아키텍처, 그리고 어텐션 메커니즘의 변형 MLA (Multi-Head Latent Attention)를 고안해서 LLM을 더 다양하게, 비용 효율적인 구조로 만들어서 좋은 성능을 보여주도록 만든 점이 아주 흥미로웠습니다. 이렇게 하는 과정에서, 모든 시점의 은닉 상태들과 그것들의 계산값을 ‘KV 캐시 (Key-Value Cache)’라는 이름으로 저장하게 되는데, 이게 아주 메모리가 많이 필요하고 느린 작업이예요. 마이크로소프트 리서치에서 개발한 것인데, 주로 수학 이론을 형식화하는데 많이 쓰인다고 합니다. 우리나라의 LLM 스타트업들도, 알게 모르게 그저 받아들이고만 있는 통념이 있다면 그에 도전하면서, 독특한 고유의 기술을 계속해서 쌓고 글로벌 AI 생태계에 크게 기여할 수 있는 기업들이 더 많이 등장하기를 기대합니다. DeepSeek r1-Coder-V2 모델은 수학과 코딩 작업에서 대부분의 모델을 능가하는 성능을 보여주는데, Qwen이나 Moonshot 같은 중국계 모델들도 크게 앞섭니다. 수학과 코딩 벤치마크에서 DeepSeek-Coder-V2의 성능. 코드 편집 성능 비교. 소스 코드 60%, Deepseek AI Online chat 수학 코퍼스 (말뭉치) 10%, 자연어 30%의 비중으로 학습했는데, 약 1조 2천억 개의 코드 토큰은 깃허브와 CommonCrawl로부터 수집했다고 합니다. 다만, DeepSeek-Coder-V2 모델이 Latency라든가 Speed 관점에서는 다른 모델 대비 열위로 나타나고 있어서, 해당하는 유즈케이스의 특성을 고려해서 그에 부합하는 모델을 골라야 합니다. 공유 전문가가 있다면, 모델이 구조 상의 중복성을 줄일 수 있고 동일한 정보를 여러 곳에 저장할 필요가 없어지게 되죠.
조금만 더 이야기해 보면, 어텐션의 기본 아이디어가 ‘디코더가 출력 단어를 예측하는 각 시점마다 인코더에서의 전체 입력을 다시 한 번 참고하는 건데, 이 때 모든 입력 단어를 동일한 비중으로 고려하지 않고 해당 시점에서 예측해야 할 단어와 관련있는 입력 단어 부분에 더 집중하겠다’는 겁니다. 트랜스포머에서는 ‘어텐션 메커니즘’을 사용해서 모델이 입력 텍스트에서 가장 ‘유의미한’ - 관련성이 높은 - 부분에 집중할 수 있게 하죠. 이렇게 하면, 모델이 데이터의 다양한 측면을 좀 더 효과적으로 처리할 수 있어서, 대규모 작업의 효율성, 확장성이 개선되죠. 이런 두 가지의 기법을 기반으로, DeepSeekMoE는 모델의 효율성을 한층 개선, 특히 대규모의 데이터셋을 처리할 때 다른 MoE 모델보다도 더 좋은 성능을 달성할 수 있습니다. DeepSeek-V2에서 도입한 MLA라는 구조는 이 어텐션 메커니즘을 변형해서 KV 캐시를 아주 작게 압축할 수 있게 한 거고, 그 결과 모델이 정확성을 유지하면서도 정보를 훨씬 빠르게, 더 적은 메모리를 가지고 처리할 수 있게 되는 거죠. 이게 무슨 모델인지 아주 간단히 이야기한다면, 우선 ‘Lean’이라는 ‘ 기능적 (Functional) 프로그래밍 언어’이자 ‘증명 보조기 (Theorem Prover)’가 있습니다.
을 조합해서 개선함으로써 수학 관련 벤치마크에서의 성능을 상당히 개선했습니다 - 고등학교 수준의 miniF2F 테스트에서 63.5%, 학부 수준의 ProofNet 테스트에서 25.3%의 합격률을 나타내고 있습니다. DeepSeek-Coder-V2 모델은 16B 파라미터의 소형 모델, 236B 파라미터의 대형 모델의 두 가지가 있습니다. DeepSeek-Coder-V2 모델의 특별한 기능 중 하나가 바로 ‘코드의 누락된 부분을 채워준다’는 건데요. 어쨌든 범용의 코딩 프로젝트에 활용하기에 최적의 모델 후보 중 하나임에는 분명해 보입니다. DeepSeek-Coder-V2 모델은 컴파일러와 테스트 케이스의 피드백을 활용하는 GRPO (Group Relative Policy Optimization), 코더를 파인튜닝하는 학습된 리워드 모델 등을 포함해서 ‘정교한 강화학습’ 기법을 활용합니다. 기존의 MoE 아키텍처는 게이팅 메커니즘 (Sparse Gating)을 사용해서 각각의 입력에 가장 관련성이 높은 전문가 모델을 선택하는 방식으로 여러 전문가 모델 간에 작업을 분할합니다. DeepSeekMoE 아키텍처는 Free DeepSeek r1의 가장 강력한 모델이라고 할 수 있는 DeepSeek V2와 DeepSeek-Coder-V2을 구현하는데 기초가 되는 아키텍처입니다. 이 Lean four 환경에서 각종 정리의 증명을 하는데 사용할 수 있는 최신 오픈소스 모델이 DeepSeek-Prover-V1.5입니다. 이전 버전인 DeepSeek-Coder의 메이저 업그레이드 버전이라고 할 수 있는 DeepSeek-Coder-V2는 이전 버전 대비 더 광범위한 트레이닝 데이터를 사용해서 훈련했고, ‘Fill-In-The-Middle’이라든가 ‘강화학습’ 같은 기법을 결합해서 사이즈는 크지만 높은 효율을 보여주고, 컨텍스트도 더 잘 다루는 모델입니다. DeepSeek-Coder-V2는 이전 버전 모델에 비교해서 6조 개의 토큰을 추가해서 트레이닝 데이터를 대폭 확충, 총 10조 2천억 개의 토큰으로 학습했습니다. "And that’s good because you don’t have to spend as much cash.
"I would say that’s a constructive that could be very much a optimistic development. There are "real-world impacts to this error," as much of our inventory market "runs on AI hype." The fervor among the many five main Big Tech companies to win the AI race is "in many ways the engine that's currently driving the U.S. financial system," said Dayen. Plus, with customers inputting info into DeepSeek’s fashions that's "more delicate, from a nationwide safety standpoint, than something that ever will appear on TikTok," it’s unclear how a lot of the global market DeepSeek will have the ability to tap into, per Chris Franzek, who leads financial agency Stout’s valuation services. So I really think - if it’s if it’s truth, and if it’s true, and no person really knows what it's - but I view that as a optimistic, because you’ll be doing that too," Trump said. "So you won’t be spending as much, and you’ll get the identical outcome hopefully. Instead of spending billions and billions, you’ll spend lower than you provide you with, hopefully, the identical resolution," Trump stated. During a riff about his efforts to finish the border chaos and crack down on illegal immigration, Trump indicated that he would like to deport more than simply illegal immigrants.
