活久见，这一轮是中国引导AI 技术路线

[billwanhua]

AI companies race to use ‘distillation’ to produce cheaper models

DeepSeek used technique to create smaller powerful models based on the technology of competitors such as Meta

www.ft.com

AI companies race to use ‘distillation’ to produce cheaper models


Leading artificial intelligence firms including OpenAI, Microsoft and Meta are turning to a process called “distillation” in the global race to create AI models that are cheaper for consumers and businesses to adopt.

The technique caught widespread attention after China’s DeepSeek used it to build powerful and efficient AI models based on open-source systems released by competitors Meta and Alibaba. The breakthrough rocked confidence in Silicon Valley’s AI leadership, leading Wall Street investors to wipe billions of dollars of value from US Big Tech stocks.


‘distillation’ 虽然不是deepseek 第一个发明的，但却是deep seek第一个证明可以突破算力成本的，就像transformer 是谷歌发明的，opwnai 证明了好用，所有人都开始追。

现在不仅小厂，所有大厂OpenAI, Microsoft and Meta也在走deep seek的路，所以别说中国一直抄美国的，如果中国技术提高了，老美抄起来一样不手软。

 

[Koodo]

以后这些专家去米国都要小心了
China tells its AI leaders to avoid US travel over security concerns, WSJ reports

 

[向问天]

以后这些专家去米国都要小心了
China tells its AI leaders to avoid US travel over security concerns, WSJ reports

加拿大也不能来啊

 

[飞来客]

盖有螳臂挡车之势，危莫甚焉。

 

[gocanoeing]

AI companies race to use ‘distillation’ to produce cheaper models

DeepSeek used technique to create smaller powerful models based on the technology of competitors such as Meta

www.ft.com

AI companies race to use ‘distillation’ to produce cheaper models


Leading artificial intelligence firms including OpenAI, Microsoft and Meta are turning to a process called “distillation” in the global race to create AI models that are cheaper for consumers and businesses to adopt.

The technique caught widespread attention after China’s DeepSeek used it to build powerful and efficient AI models based on open-source systems released by competitors Meta and Alibaba. The breakthrough rocked confidence in Silicon Valley’s AI leadership, leading Wall Street investors to wipe billions of dollars of value from US Big Tech stocks.


‘distillation’ 虽然不是deepseek 第一个发明的，但却是deep seek第一个证明可以突破算力成本的，就像transformer 是谷歌发明的，opwnai 证明了好用，所有人都开始追。

现在不仅小厂，所有大厂OpenAI, Microsoft and Meta也在走deep seek的路，所以别说中国一直抄美国的，如果中国技术提高了，老美抄起来一样不手软。

前一阵OpenAI 不是说DS可能蒸馏他们的模型，违背使用者协议吗

如果是自己蒸馏自己的大模型，产生的小模型的确可能便宜，但初始建模费用省不了。

如果是蒸馏别人的大模型，可能违背使用者协议

 

[草头将军]

小心 16 亿找你麻烦

 

[raid]

盖有螳臂挡车之势，危莫甚焉。

飞老好，吃了吗？

 

[billwanhua]

前一阵OpenAI 不是说DS可能蒸馏他们的模型，违背使用者协议吗

如果是自己蒸馏自己的大模型，产生的小模型的确可能便宜，但初始建模费用省不了。

如果是蒸馏别人的大模型，可能违背使用者协议

Deepseek 开放模型让你自己在家想怎么蒸馏酒怎么蒸馏。

Openai 和微软说有中国和其他美国公司使用他们的模型蒸馏，官方从来没有说DS 蒸馏，这是有个匿名的说有可能，谁知道是不是抹黑。不过有老大上次抓华为公主先例，中国现在警告AI 专家不要去美国，要不然呵呵

 

[metropolis]

前一阵OpenAI 不是说DS可能蒸馏他们的模型，违背使用者协议吗

如果是自己蒸馏自己的大模型，产生的小模型的确可能便宜，但初始建模费用省不了。

如果是蒸馏别人的大模型，可能违背使用者协议

很多人说DS几百万不可能，好像他们自己也说那是误传，其实从新加坡走私来几万英伟达芯片。

后来李教母带领斯坦福学生，不是说只花费了50元就做成了吗？