DeepSeekMoE 아키텍처는 DeepSeek의 가장 강력한 모델이라고 할 수 있는 DeepSeek V2와 DeepSeek-Coder-V2을 구현하는데 기초가 되는 아키텍처입니다. 기존의 MoE 아키텍처는 게이팅 메커니즘 (Sparse Gating)을 사용해서 각각의 입력에 가장 관련성이 높은 전문가 모델을 선택하는 방식으로 여러 전문가 모델 간에 작업을 분할합니다. 트랜스포머에서는 ‘어텐션 메커니즘’을 사용해서 모델이 입력 텍스트에서 가장 ‘유의미한’ - 관련성이 높은 - 부분에 집중할 수 있게 하죠. 조금만 더 이야기해 보면, 어텐션의 기본 아이디어가 ‘디코더가 출력 단어를 예측하는 각 시점마다 인코더에서의 전체 입력을 다시 한 번 참고하는 건데, 이 때 모든 입력 단어를 동일한 비중으로 고려하지 않고 해당 시점에서 예측해야 할 단어와 관련있는 입력 단어 부분에 더 집중하겠다’는 겁니다. 이제 이 최신 모델들의 기반이 된 혁신적인 아키텍처를 한 번 살펴볼까요? 거의 한 달에 한 번 꼴로 새로운 모델 아니면 메이저 업그레이드를 출시한 셈이니, 정말 놀라운 속도라고 할 수 있습니다. DeepSeek-Coder-V2는 코딩과 수학 분야에서 GPT4-Turbo를 능가하는 최초의 오픈 소스 AI 모델로, 가장 좋은 평가를 받고 있는 새로운 모델 중 하나입니다. DeepSeek-Coder-V2 모델의 특별한 기능 중 하나가 바로 ‘코드의 누락된 부분을 채워준다’는 건데요. DeepSeek-Coder-V2 모델은 컴파일러와 테스트 케이스의 피드백을 활용하는 GRPO (Group Relative Policy Optimization), 코더를 파인튜닝하는 학습된 리워드 모델 등을 포함해서 ‘정교한 강화학습’ 기법을 활용합니다.
그리고 2024년 3월 말, DeepSeek는 비전 모델에 도전해서 고품질의 비전-언어 이해를 하는 모델 DeepSeek-VL을 출시했습니다. 대부분의 오픈소스 비전-언어 모델이 ‘Instruction Tuning’에 집중하는 것과 달리, 시각-언어데이터를 활용해서 Pretraining (사전 훈련)에 더 많은 자원을 투입하고, 고해상도/저해상도 이미지를 처리하는 두 개의 비전 인코더를 사용하는 하이브리드 비전 인코더 (Hybrid Vision Encoder) 구조를 도입해서 성능과 효율성의 차별화를 꾀했습니다. DeepSeek-Coder-V2는 이전 버전 모델에 비교해서 6조 개의 토큰을 추가해서 트레이닝 데이터를 대폭 확충, 총 10조 2천억 개의 토큰으로 학습했습니다. 이전의 버전 1.5와 비교해서 버전 2는 338개의 프로그래밍 언어와 128K의 컨텍스트 길이를 지원합니다. 이전 버전인 DeepSeek-Coder의 메이저 업그레이드 버전이라고 할 수 있는 DeepSeek-Coder-V2는 이전 버전 대비 더 광범위한 트레이닝 데이터를 사용해서 훈련했고, ‘Fill-In-The-Middle’이라든가 ‘강화학습’ 같은 기법을 결합해서 사이즈는 크지만 높은 효율을 보여주고, 컨텍스트도 더 잘 다루는 모델입니다. MoE에서 ‘라우터’는 특정한 정보, 작업을 처리할 전문가(들)를 결정하는 메커니즘인데, 가장 적합한 전문가에게 데이터를 전달해서 각 작업이 모델의 가장 적합한 부분에 의해서 처리되도록 하는 것이죠. 그 결과, deepseek ai china는 정해진 토큰 예산 안에서 고해상도 이미지 (1024X1024)를 효율적으로 처리하면서도 계산의 오버헤드를 낮게 유지할 수 있다는 걸 보여줬습니다 - 바로 deepseek ai가 해결하고자 했던, 계산 효율성 (Computational Efficiency) 문제를 성공적으로 극복했다는 의미죠. 하지만 각 전문가가 ‘고유한 자신만의 영역’에 효과적으로 집중할 수 있도록 하는데는 난점이 있다는 문제 역시 있습니다.
이렇게 하면, 모델이 데이터의 다양한 측면을 좀 더 효과적으로 처리할 수 있어서, 대규모 작업의 효율성, 확장성이 개선되죠. DeepSeekMoE는 LLM이 복잡한 작업을 더 잘 처리할 수 있도록 위와 같은 문제를 개선하는 방향으로 설계된 MoE의 고도화된 버전이라고 할 수 있습니다. DeepSeek-Coder-V2는 컨텍스트 길이를 16,000개에서 128,000개로 확장, 훨씬 더 크고 복잡한 프로젝트도 작업할 수 있습니다 - 즉, 더 광범위한 코드 베이스를 더 잘 이해하고 관리할 수 있습니다. DeepSeekMoE는 각 전문가를 더 작고, 더 집중된 기능을 하는 부분들로 세분화합니다. ‘공유 전문가’는 위에 설명한 라우터의 결정에 상관없이 ‘항상 활성화’되는 특정한 전문가를 말하는데요, 여러 가지의 작업에 필요할 수 있는 ‘공통 지식’을 처리합니다. DeepSeek-V2는 위에서 설명한 혁신적인 MoE 기법과 더불어 DeepSeek 연구진이 고안한 MLA (Multi-Head Latent Attention)라는 구조를 결합한 트랜스포머 아키텍처를 사용하는 최첨단 언어 모델입니다. Attracting consideration from world-class mathematicians in addition to machine learning researchers, the AIMO sets a new benchmark for excellence in the sphere. It can be utilized for text-guided and construction-guided picture generation and modifying, as well as for creating captions for pictures based on numerous prompts. If speaking about weights, weights you can publish immediately.
The goal of this put up is to deep-dive into LLM’s which can be specialised in code generation duties, and see if we can use them to write down code. We aspire to see future distributors developing hardware that offloads these communication tasks from the valuable computation unit SM, serving as a GPU co-processor or a network co-processor like NVIDIA SHARP Graham et al. Now you don’t must spend the $20 million of GPU compute to do it. Also, for example, with Claude - I don’t assume many individuals use Claude, however I use it. Now, you additionally received the perfect individuals. 특히 DeepSeek-V2는 더 적은 메모리를 사용하면서도 더 빠르게 정보를 처리하는 또 하나의 혁신적 기법, MLA (Multi-Head Latent Attention)을 도입했습니다. 2x pace improvement over a vanilla attention baseline. In a head-to-head comparability with GPT-3.5, DeepSeek LLM 67B Chat emerges because the frontrunner in Chinese language proficiency. We release the DeepSeek LLM 7B/67B, including each base and chat fashions, to the public. Our evaluation results display that DeepSeek LLM 67B surpasses LLaMA-2 70B on numerous benchmarks, significantly in the domains of code, arithmetic, and reasoning.
Should you loved this short article and you would love to receive details with regards to ديب سيك i implore you to visit our own website.
