最近微信改版，容易找不到尹哥的文章，大家记得把尹哥设为星标⭐️ 哦~

DeepSeek过年期间已经讲了7期，感觉把要想讲的要点都说完了。但还经常收到后台留言，问他为啥能成功，开源以及极致的性价比，尤其是用了蒸馏算法，将原来要上亿美金的大模型训练成本降低到了仅仅数百万美元。好了，下一个问题又来了，什么是蒸馏算法？

先看一个图，虽然不是那么恰当，但这个小猫钓鱼能够让你迅速理解为什么通过蒸馏算法可以显著降低训练成本。

网上一般对蒸馏算法的解读就两个例子。一个就是老师教学生，也就是其发明者辛顿讲过的“教师模型”“学生模型”。教师模型，也就是复杂模型，像经验丰富的老师，掌握大量知识，但运行成本高。简单模型像学生，通过学习老师的精华知识，变得高效且轻便。

第二个通常会用“浓缩咖啡”来讲。复杂模型像一杯复合口味咖啡，信息密集但复杂，像卡布奇诺、拿铁都是这类型的；蒸馏算法将其提炼为“浓缩咖啡”，类似于我就要咖啡因提神，所以简单模型保留了核心信息，去除了冗余。

《全唐诗》就类似之前的OpenAI，封闭，不开放，还是大部头，买一套还很贵。《唐诗三百首》则更像DeepSeek，不光开源，还便携，就这么一小本书，买不起自己抄一份，差不多也能实现。

讲到这，开源、便携、能流行，这个问题懂了。那新问题又来了，为什么看了《全唐诗》写出来的诗，可能还不如《唐诗三百首》的？

完全有可能。《全唐诗》体量大、信息丰富，但包含冗余和噪声，比如存在着大量的相对平庸之作，这些作品会干扰模型的学习。而《唐诗三百首》经过“蒸馏”后，保留了最精华的部分，去除了冗余和噪声，训练出的模型更容易学习到诗歌的精髓，比如说平仄的运用等等，能够更好地掌握诗歌的创作规律，生成更高质量的诗歌。

从《全唐诗》到《唐诗三百首》的类比，您应该能够理解到DeepSeek是如何从海量数据中提炼精华的逻辑。这不仅只是AI技术的突破，更体现了中国传统文化中“去粗取精”的智慧。