当前位置：首页 > 元宇宙 > 元宇宙

【申万宏源】必然的碎片化AI落地，哪种路径可能胜出？ | 元宇宙Meta洞见

来源：责编：时间：2023-08-11 16:52:27 4096观看

导读大规模预训GPT(Generative PreTraining)是OpenAI在2018年提出的模型，大规模预训练模型（大模型）渐渐成为了AI算法领域的热点。AI产业链：从算力到应用工作流程视角• 算法设计环节：机器视觉、语音识别、自然语

大规模预训GPT(Generative PreTraining)是OpenAI在2018年提出的模型，大规模预训练模型（大模型）渐渐成为了AI算法领域的热点。

AI产业链：从算力到应用

工作流程视角

• 算法设计环节：机器视觉、语音识别、自然语音处理、知识图谱

• 算法实现环节：深度学习框架，训练、推理部署，对模型的调参优化

• 算法运行环节：AI芯片和AIDC超算中心，提供硬件基础

AI平台层：何种训练模型可以脱颖而出

AI平台：少量企业参与的AI高地之争

• 训练软件框架：实现深度学习训练算法的模块化封装

• 模型生产平台：实现模型的工业级生产

• 推理部署框架：实现模型生产完成后的工业级高效、自动的部署

• 数据平台：包括数据采集、数据标注、数据生产、数据存储等功能

训练框架：调节参数，生成参数

训练框架是AI的重要基石，也是AI发展战略的制高点。当算法变成改造甚至颠覆软件行业的力量时，最后核心就是看这些AI的公司有没有平台化的能力，即“能够批量、高效、比竞争对手更及时地供应优质算法。

推理框架：与硬件和设备端紧密相关

推理框架：主要部署在设备端和云端，因此与硬件厂商紧密相关。

开源框架的选择：规模效应与生态

四大顶级深度学习框架阵营可以满足绝大部分开发者要求。社区规模效应：维护力量、贡献人员决定了算法库扩展及时性、API水平，软件框架规模效应较强。

AI大模型：成为行业新趋势

行业更新热点在“大模型”

传统机器学习里，模型过小则欠拟合，模型过大则过拟合。深度学习里Double Descent现象在2018年揭示，随着模型参数变多，Test Error是先下降，再上升，然后第二次下降；原则上，在成本可接受的情况下，模型越大，准确率越好。

OpenAI ：GPT-3

GPT-3在许多NLP数据集上均具有出色的性能，包括翻译、问答和文本填空任务，这还包括一些需要即时推理或领域适应的任务，例如给一句话中的单词替换成同义词，或执行3位数的数学运算。

GPT-3工具DALL·E和“逻辑”优化

基于GPT-3构建，仅使用了120亿个参数样本，相当于GPT-3参数量的十四分之一；有利于降低了深度学习需要的数据标注量，文本和图像理解结合起来

优势显著

• 自监督学习功能，大幅降低对数据量的需求：GPT舍弃Fine-tuning，先使用海量数据预训练大模型，得到一套模型参数，然后用这套参数对模型进行初始化，再进行训练。大幅降低后续对数据量的需求。

• 预训练大模型+细分场景微调，更适合长尾落地：大规模预训练可以有效地从大量标记和未标记的数据中捕获知识，通过将知识存储到大量的参数中并对特定任务进行微调，极大扩展模型的泛化能力。

• 有望进一步突破现有模型结构的精度局限：可能继续突破精度上限。

AI碎片化问题：必然性的两种路径

AI落地和碎片化需求同时出现

业界在2015-2017年后开始发生变化，AI走出实验室和商业模式转变：

• 工业场景更复杂的逻辑：编程模式从静态网络结构描述向动态计算过程转变。

• SDK商业模式可能无法在国内落地：早期试图复制海外SDK销售路线，但这一模式无法在国内复制。

两种路径的总结

设计并训练工业级的高性能AI模型需要大量的成本投入和深厚的技术沉淀，包含多场景汇总的海量数据，复杂的模型设计和训练算法，以及复杂的软件框架和硬件系统在内的大型计算基础设施，AI公司需要突破技术发展的瓶颈。

-END-

本文链接：http://www.28at.com/showinfo-40-64-0.html【申万宏源】必然的碎片化AI落地，哪种路径可能胜出？ | 元宇宙Meta洞见

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：【东方证券】虚拟世界照进现实，元宇宙中有什么？ | 元宇宙Meta洞见

下一篇：元宇宙将会如何塑造未来的工作方式？

标签：

热门焦点

星展银行(DBS)计划推出零售数字资产交易服务

2月14日消息，新加坡星展银行CEO Piyush Gupta在财报会议上表示，计划于2022年年底前推出零售数字资产交易服务。据悉，DBS于2021年初开设了机构数字资产交易平台，全
城市数字孪生标准化白皮书（2022版）

当前，城市数字孪生已经发展成为支撑智慧城市的重要技术手段。城市数字孪生通过在数字空间对城市物理空间和社会空间进行全要素表达、全过程呈现、全周期可溯，实
元宇宙是推动NFT发展的初始家园

现在大家都知道了什么是NFT，但好像离自己的生活还有一定距离。随着我们与NFT 接触增加，该如何将这些数字资产带入我们的日常生活？NFT还是主流吗？如果我们将“主流
纽约街头出现NFT自动贩卖机

一家初创公司宣布在纽约市开放一台NFT自动售货机，允许任何人——即使是没有加密资产的人也能购买NFT。该交易平台名为Neon，上个月完成了一轮300万美元的种子募捐
Meta公布AI概念“Builder Bot”；银保监发布元宇宙相关风险提示

概述自从Meta在2月初公布财报后，其负责元宇宙的核心部门Reality Labs表现不佳，净亏损超100亿美元，随后股价断崖式下跌。如今，Meta开始继续发力元宇宙，想要挽回颓势，
NFT教育要从娃娃抓起！这些青少年艺术家已经赚取了几千万美金

一些艺术家通过将他们的创作作为NFT出售而获得了巨大收益。令人惊讶的是，许多赚取了数百万美元的艺术家们仍在读高中。这可能有点让人难以置信。然而，请记住，在短
盘点9个主流元宇宙平台，你都知道哪些？

随着NFT的持续升温，它也加入了现在的元宇宙浪潮。本文介绍元宇宙的基本概念以及九个最流行的元宇宙NFT平台，如Decentraland、sandbox等。用熟悉的语言学习以太
初探元宇宙

2021年可以被称为“元宇宙”元年。继2021年3月沙盒游戏平台Roblox将“元宇宙”概念放入招股书中，被称为“元宇宙”第一股后，Facebook更名为Meta, 引发全球范围内
我们离元宇宙的实现只差一副眼镜？

近日的苹果春季新品发布会，想必许多人都守在了屏幕前，就为等待传说中的首款AR Glass。在发布会之前，苹果全球营销主管Greg Joswiak曾在Twitter上分享了一段短视频

首页

元宇宙

NFT

区块链

虚拟人

AR/VR

AI

元宇宙百科

【申万宏源】必然的碎片化AI落地，哪种路径可能胜出？ | 元宇宙Meta洞见

AI产业链：从算力到应用

AI平台层：何种训练模型可以脱颖而出

AI大模型：成为行业新趋势

AI碎片化问题：必然性的两种路径

星展银行(DBS)计划推出零售数字资产交易服务

城市数字孪生标准化白皮书（2022版）

元宇宙是推动NFT发展的初始家园

纽约街头出现NFT自动贩卖机

Meta公布AI概念“Builder Bot”；银保监发布元宇宙相关风险提示

NFT教育要从娃娃抓起！这些青少年艺术家已经赚取了几千万美金

盘点9个主流元宇宙平台，你都知道哪些？

初探元宇宙

我们离元宇宙的实现只差一副眼镜？

最新推荐

沉寂3年，大模型激活小度天猫精灵？

花房集团上市，走向元宇宙新征程

刷完一场元宇宙世界杯音乐盛典，我爽了

英特尔首款加密芯片将于今年上市｜国际动态

元宇宙是数字共识生态的集成逻辑表达

元宇宙画廊体验报告：有点头疼。

猜你喜欢

热门推荐

相关资讯