【世界聚看点】为什么ChatGPT只有百度等互联网公司有能力做？

2023-02-04 13:21:28 来源：雪球网小 中

昨天发表了一篇关于ChatGPT背后技术原理的文章，我知道比较晦涩难懂，大部分人看的一脸懵逼。今天我就从另一个角度来侧面印证一下，做出ChatGPT是多么的困难。

在上一篇文章中，我强调了ChatGPT2个护城河，第一个就是训练数据——大型语料库的收集护城河，大部分的公司根本就没有这个能力去收集相关的、给人工智能进行训练的数据。第二个则是ChatGPT的训练需要耗费大量的计算资源、费用，例如ChatGPT的前身GPT-3花了1200万美元：

（这里我给出ChatGPT的前身，GPT-3的训练费用参考）

(资料图片仅供参考)

这也不是一般的公司能够承受的起的，面对如此巨额的开支，而且ChatGPT不一定能盈利，从而没有这个魄力去做这个事情。

百度既有搜索引擎的多年沉淀作为数据，注意到本来ChatGPT就是要代替搜索引擎，所以百度当然有这个数据。另一方面是百度在AI方面也早早转型了，在无人驾驶上面已经做了很多年了，并且也推出了自己的文心大模型（ChatGPT的前身GPT，就是一个预训练语言大模型）。

最后便是人工智能算法的壁垒，复刻出ChatGPT绝非易事。

这里引用一下复旦大学邱锡鹏教授的一句话，这位教授是研究自然语言处理的国内大牛，著有《神经网络与深度学习》的人工智能教材。其中，自然语言处理也就是ChatGPT所对应的一个人工智能的子学科。

几个重点：

（1）预训练比大部分人工智能业内人士想象的要难。

（2）ChatGPT对（计算机程序设计）工程能力要求很高。

（3）科研环境阻碍了ChatGPT诞生在国内。

（4）国内缺乏研发ChatGPT的人才。

所以说，道阻且长啊，这种技术不是一般的公司能做出来的。

那么百度有相关的技术吗？其实，百度是国内所有互联网公司当中人工智能技术最强的一家公司。

一方面，其他公司的所谓人工智能算法研究部门已经由于业务的压力被要求转型去做业务性的工作，和学术上的研究突破没有什么关系。

另一方面，百度取得的成果也是令人有目共睹，除了上述的文心大模型之外，百度还推出了自己的人工智能框架飞浆。稍微科普一下，写人工智能模型代码的时候，我们不是从最底层做起的，而是利用一个成熟的框架快速的搭建一个模型进行测试，这样做的目的是省去代码当中的一些工程性细节，我们只需要专注于算法设计就可以了，这就是框架的重要性。

现在常用的框架还是美国的公司搞的，比如最常用的叫PyTorch的框架，是美国Facebook公司的搞的，还有其他的Tensorflow、Jax等二线框架是由美国的谷歌公司搞的，那么国内只有百度的飞浆框架是取得一些突破的。