【行业纪要】盘古大模型专家交流会议纪要0327:焦点简讯

2023-03-27 19:32:40 来源:雪球网

【更多纪要关注:赛道掘金】

盘古大模型主要由五个模型组成,最领先的是 CV(机器视觉),然后是 NLP(自然语言处理),然后还有多模态、科学计算、语音,这 5 个方向的发展成熟是完全不一样的。当前大家热议的 ChatGPT 是在NLP 领域,百度的文心一言和它比较相似,但和盘古大模型是不太一样的。


(资料图片)

盘古大模型的初衷主要是服务 B 段的客户,聚焦比较成熟的 CV 领域。在 NLP 领域还比较薄弱,生成性的最多能做一些个封闭场景下的客服,语义理解相关的可以做一些舆情的管控、法律司法文书的理解、审计文书的理解,但是输出性的、内容生成性的,盘古大模型之前没有将其作为一个发展的重点。

公司能够找到的高价值数字化赋能的场景主要是以视觉为主,所以这就是盘古大模型更多的研发项目主要是围绕着这一块来展开的原因。NLP 反正力度不大,最主要的一个逻辑还是商业驱动力不足。公司一开始做 AI 就没把 2C 作为一个重点。

大模型的训练成本确实很高,GPT-3 训练一次的成本可能在 1200 万人民币,GPT-3 出现之后也给了业界一个很大的启示,是否还要继续这样“暴力美学”地走下去。现在学界有一些观点,大模型在现在的参数基础上再指数级增加对模型的性能边际效应已经减弱了,那么这就需要一些降本的方法:

Open AI 的团队做的比较好的一件事情就是做精准高质量的标注(RLHF)。

专家所在的公司有一个非常重要的发展方向是做小样本训练,通过自监督的方法通多更少的标注数据来做训练。

盘古大模型的三层架构也能在结构上实现降本。L0 层是通识性的大模型,具备鲁棒性和泛化性。

L1 是行业大模型(例如煤矿、电网)、L2 是针对具体场景的自动化工作流的部署模型。成本方面,大模型训练好了之后不用再重复训练,只需在 L1 和 L2 上做适应性训练,成本关系是上一层的5-10%。

HW 认为应用场景比较成熟和丰富的领域是值得为其去开发 L1,例如电力行业(无人机输电线巡检)、制造业的质检(机器替代人眼质检)、铁路故障隐患的监测等等。机器视觉是一个相对封闭的场景,也是纯参数驱动的,标注数据的成本也不是很高。目前盘古大模型的工业质检主要应用在消费电子领域,最早应用在了公司的南方工厂。未来如果能有更大幅度的降本,对行业将产生更大的颠覆。

HW 目前 AI 的研发,主要包括全栈全场景两个方面的制作,一个是 HIAI,一个是 EI,HW 公司自己的能力是能够做到端到端的,从硬件到软件,从场景到营销,基本上都可以使用自己的产品,特别大的合作商没有。

HW 在半导体供应链上,战投了好几家公司,帮助公司补足半导体先进支撑的一些能力。公司在算力支撑等方面需要一些合作,HW 有一些地方政府支持的项目。

HW 的软件产品在行业化溢出的时候,有几种类型的公司是比较重要的。一个是软件开发的外包公司,HW 开发力度、开发工作量比较大的环节都是用了大量的外包。另外一个是行业数字化的 EI,HW 之前释放了 MetaERP,像外包交付的汉德、赛意等公司的能力是 HW 不具备的,HW 一定会通过这些公司的生态来完成业务。这里边有一个核心的商业逻辑,是 HW 要尽少减少自己去做交付,主要是因为现在的人效不达标,而且人力成本达到了一年 10 万人 70 多万人民币,所以很多毛细血管级别的交付,HW 需要依靠生态链来完成,第三在半导体的生态上也是需要与这些生态中的供应商侧的公司供货给 HW。

首先 HW 公司历史上基本上新的趋势很少是很快就追上来,公司发展 30 多年,基本上没有做到过先发。在任何领域,HW 公司基本上都是做到的后发制人。包括手机、云和汽车。所以这个领域HW 肯定不会很快。

ChatGPT 面向更多的是 ToC 端的属性。目前 HW 正在研究这个项目,但是这是一个集团级的项目,通常做出决定会比较缓慢,一两年内不太会出来。HW 在 AI 商业化研究是一直持续存在的,公司以前一直非常不看好。公司尽力地完成 AI 工程化、AI 产品化,公司认为这是商业化不得不走的路线,如果采用高度项目制,一切项目制用 AI 去做,成本很高,不容易挣钱,因为人力成本非常高,然后项目制不可复制,因此 HW 才选择了面向行业的 CV 大模型。

ChatGPT 发布后,它对商业化带来了很多的思考,因为它天生的商业化属性非常高。ToB 直接卖API,ToC 因为生产内容是直接嵌套的,而且是中国人擅长的商业化路径,可以编辑广告、电商。

但 HW 不会立马进入到这个 ChatGPT 类的 AIGC 细分赛道,也没有任何的项目,战略研究都才刚刚开始。

HW做了很多技术方向侧的研讨,公司现在也有一些判断,即中国很难在短期内出一个达到ChatGPT同等效果的产品。中国的发展方向,无论是这些大厂还是创业的公司,专家认为他们真正要做到

商业化闭环或者商业成功有个核心,需要做支持相对封闭的一个单场景,这样成功率会比较高。以及训练和维护的成本还是需要进一步的压低,不然的话这个业务基本还是聚焦在这些特别大的公司手中。

专家认为现在的难度已经非常大了。

ChatGPT 发布后立马就是 GPT4.0,首先它的数据源头的很广,

第二它的数据前期的标注的质量也非常的好,再加上它现在已经是完全多模态多语种了,其实现在的优势还是挺大的。

国内现在赶出来的产品还是不太行的。而 OpenAI 的产品一直是边用边学,接受越来越多全球使用者的反馈,通过人类反馈帮助他提升和进步。

但专家认为 ChatGPT 的局限性是在于完整的做到某些场景的商业化闭环。ChatGPT 的信息生产模式是 generated content,它的信息不准确,它的事实基础不可信、不可靠,所以 ChatGPT 很难在一些需要事实基础比较准确的商业产品上完成闭环。第二个 ChatGPT 有一个很领先的属性,它的前后文是有连续性的,根据前后文来聊天,每一个问题不是独立存在的,而是有关联的。但它有个 bug 是前后文的逻辑关系并没有能够做到很好的连接。在逻辑问题上可能会出一些错误。

公司现在判断 ChatGPT 未来立马会改变的场景其实是企服软件,对企服软件的嵌套只是非常初级的方式,未来 ChatGPT 也许会重新定义生产力以及办公工作相关的企服场景,公司现在在分析未来是不是所有的企服软件都会基于 ChatGPT 来开发,以及 ChatGPT 能不能重构企服软件的交付模式。

公司认为中国要追存在几个必要条件,首先场景必须是多模态,第二是数据量不能再爆发式增长,GPT 已经达到 1700 多亿了,如果再存在量级上的增长,也许不能带来这个性能本质上的提升。

成本的控制需要通过一些技术手段来限制语言的样本量。这个完整的商业模式可能需要 ChatGPT在全球范围内的带领来探索。专家有一个预判,中国的这些创业公司做出来的产品都可能是局限于某个或者某一些场景的,这些产品反而能够获得商业上的成功。HW 为什么要做产业级、行业级的 CV 应用,这个也是 HW 根据公司的能力限制和公司的商业模式做出来的一个选择。

$常山北明(SZ000158)$$拓维信息(SZ002261)$$三六零(SH601360)$

关键词:

相关文章

热文推荐

【行业纪要】盘古大模型专家交流会议纪要0327:焦点简讯
【行业纪要】盘古大模型专家交流会议纪要0327:焦点简讯

【更多纪要关注:赛道掘金】盘古大模型主要由五个模型......更多>

热讯:歼20突然现身美战略轰炸机身边,中国“隐身技术”吓坏美军
热讯:歼20突然现身美战略轰炸机身边,中国“隐身技术”吓坏美军

最近,军迷圈爆出一个极为轰动的消息,大意是说两架美......更多>

今日浮亏3W,今年亏损3W,总资产502.2W
今日浮亏3W,今年亏损3W,总资产502.2W

今日浮亏3W,今年亏损3W,总资产502 2W,今天再买点......更多>

福莱特玻璃:2022年全年净利21.73亿元
福莱特玻璃:2022年全年净利21.73亿元

福莱特(601865)玻璃在港交所公告,2022年全年营收15......更多>

排行推荐

万盛股份:2022年净利同比降55.7% 拟10派2元
万盛股份:2022年净利同比降55.7% 拟10派2元
万盛股份(603010)3月27日晚间披露年报,2022年公司实... 更多>
晶方科技:拟计划由晶方光电出资270万欧元
晶方科技:拟计划由晶方光电出资270万欧元
晶方科技(603005):拟计划由晶方光电出资270万欧元,... 更多>
万向钱潮:2022年净利同比增17.86% 拟10派2.7元|全球即时
万向钱潮:2022年净利同比增17.86% 拟10派2.7元|全球即时
万向钱潮(000559)3月27日晚间披露年报,2022年公司实... 更多>
世界滚动:吉林高速:控股子公司中标约5.26亿元工程施工项目
世界滚动:吉林高速:控股子公司中标约5.26亿元工程施工项目
吉林高速(601518)3月27日晚间公告,公司的控股子公司... 更多>
炬光科技:国投高科、西高投拟合计减持不超3%股份|今日精选
炬光科技(688167)3月27日晚间公告,公司持股2 76%的... 更多>
微资讯!山西华芯半导体产业基地项目(二期)预计年底全面建成投产
据山西综改示范区官微信息,近日,山西综改示范区山西... 更多>
市场监管总局发布日用及纺织品产品质量国家监督抽查情况
市场监管总局今天发布了日用及纺织品产品质量国家监督... 更多>
2022年医保局的账本,对行业有哪些启示?
图片来源:Pixabay com本月医保局公布了2022年医疗保... 更多>
首个国产新冠药停产:投入两亿美元研发却只卖出5000万元_全球简讯
腾盛博药港股公告称,公司决定结束安巴韦单抗 罗米司... 更多>
光大证券:工业企业盈利有望步入修复通道
光大证券指出,2023年1-2月,工业企业盈利同比大幅下... 更多>
科技部启动“人工智能驱动的科学研究”专项部署工作 天天新资讯
为贯彻落实国家《新一代人工智能发展规划》,科技部会... 更多>
招商银行2022年业绩怎么看? -招证|银行
受息差缩窄及资本市场低迷等影响,2022年招行营收增速... 更多>
能不能抓一波新能源的反弹?_焦点速递
风光电储跌到如今,早就已经沦落为“狗都不买”的板块... 更多>
伊利股份:风起的时候,大象的舞姿会更优美
一些消费龙头,如茅台、洋河与伊利的股价走势,最近可... 更多>

民办北理工珠海学院人事异动,投资

大中矿业:拟在扬中市收购、续建吞

圣济堂:根据目前原材料及产品价格

柳药集团:2022年净利同比增24.42%

仁和药业:枸橼酸西地那非片获药品

青岛出台政策扶持邮轮旅游高质量发

世界观速讯丨百度发布企业级大模型

2023年3月27日买入招行|要闻

给陕西煤业估值2023_每日观察

为推进新型工业化贡献上海方案 202