Kimi نشرت تقرير تقني حصل على إعجاب ماسك، وقعه المؤسسون المشاركون يانج تشي لين وو يو شين وتشو شين يو

في 16 مارس، أصدرت شركة Kimi، التي تُعرف بـ"جانب الظلام للقمر"، تقريرًا تقنيًا يعيد تصميم الاتصال المتبقي، وهو الهيكل الأساسي الذي لم يتغير خلال عشر سنوات في النماذج الكبيرة، مما يسمح لكل طبقة بالتركيز بشكل انتقائي على مخرجات الطبقات السابقة بدلاً من الجمع الموحد، مما أدى إلى زيادة كفاءة تدريب نموذج 48B بمقدار 1.25 مرة، وقد فُسّر ذلك من قبل الصناعة على أنه تمهيد للكشف عن الوحدة الرئيسية للنموذج التالي.

قاد المؤسسون الثلاثة لشركة “جانب الظلام للقمر”، يانغ زيلين، وو يوكسين، وتشو شينيو، عشرات الباحثين لإتمام هذا البحث.

بعد إصدار الورقة البحثية، أعرب إيلون ماسك عن إعجابه بالبحث الذي أجرته Kimi، وذكر الباحث السابق في OpenAI، أندريه كارباتي، أن هذا البحث يطبق فعلاً مبدأ “الانتباه هو كل شيء”؛ بينما اعتبر جيري توييريك، نائب رئيس أبحاث OpenAI السابق، أن عصر التعلم العميق 2.0 قد بدأ.