Intern-S2-Mobius

?Repozytorium Github • ?Kolekcje modeli • ?Przestrzeń architektoniczna Przedstawiamy Intern-S2-Mobius, model bazowy 35B zbudowany na architekturze Mobius-v0 zrealizowanej przez Xtuner i LMDeploy. Zamiast wiązać przechowywanie wiedzy i obliczenia rozumowania warstwa po warstwie, jak w konwencjonalnych modelach Transformer, Mobius organizuje wiedzę w globalnie współdzielonej Pamięci i pozwala wielu Rozumującym iteracyjnie zapytywać i udoskonalać ukryte stany w odniesieniu do tego wspólnego repozytorium. Ta separacja wiedzy i rozumowania daje Intern-S2-Mobius dwie natywne zdolności: Połączenie Resztkowe Wsteczne, gdzie etapy rozumowania mogą uzyskiwać dostęp do wiedzy poza swoją lokalną hierarchią warstw, oraz Dynamiczne Rozumowanie Latentne, gdzie deliberacja, udoskonalenie i przewidywanie wielu tokenów są internalizowane w gęstych stanach ciągłych. Kontynuowane wstępne szkolenie z Qwen3.5-35B i dalsze szkolenie pośrednie z SFT i RL, Intern-S2-Mobius zachowuje silne możliwości downstream, osiągając jednocześnie znacznie wyższą efektywność wnioskowania end-to-end, z niemal 4x przyspieszeniem zgłoszonym w raporcie technicznym.

• Architektura oddzielająca wiedzę i rozumowanie. Intern-S2-Mobius oddziela wektory wiedzy od operatorów rozumowania, zastępując przechowywanie wiedzy w FFN związane z warstwami globalnie współdzieloną Pamięcią. Daje to każdemu Rozumującemu dostęp do szerszej przestrzeni wiedzy i poprawia kompresję wiedzy w porównaniu do standardowego układu Transformera.
• Połączenie Resztkowe Wsteczne. Dzięki współdzielonej Pamięci, płytkie i głębokie etapy rozumowania mogą uzyskiwać dostęp do wiedzy w całym modelu, zamiast polegać tylko na przepływie informacji w kierunku warstw. Umożliwia to bardziej elastyczną kompozycję wiedzy między warstwami i pomaga modelowi syntetyzować użyteczne informacje w mniejszej liczbie kroków rozumowania.
• Dynamiczne Rozumowanie Latentne. Mobius udoskonala ciągłe ukryte stany poprzez rekurencyjną iterację latentną przed dekodowaniem. Internalizuje to część procesu deliberacji, zmniejsza zależność od długiego widocznego łańcucha myślenia i dynamicznie przydziela obliczenia do różnych tokenów.
• Wyższa efektywność wnioskowania z zwięzłym rozumowaniem. W benchmarkach rozumowania, Intern-S2-Mobius osiąga porównywalne lub silniejsze wyniki niż baza Qwen3.5-35B, produkując wyraźnie krótsze ślady rozumowania i wyższą przepustowość żądań, co prowadzi do niemal 4x przyspieszenia wnioskowania end-to-end w zgłoszonej ocenie.
• Silna ogólna i naukowa wydajność. Intern-S2-Mobius poprawia zgłoszoną średnią ocenę w porównaniu do Qwen3.5-35B w ogólnych benchmarkach rozumowania i wykazuje duże zyski w zadaniach naukowych, takich jak Instrukcje Biologiczne, Instrukcje Mol i MolecularIQ.