24 小时不间断学习且不遗忘，一辈子也只有 4GB 的“知识储量”？
科学家们最新研究，计算出了人类学习积累上限，就这么多~~（甚至还不如一块 U 盘能装）。
这是来自 Cell 旗下神经科学顶刊 Neuron 上的一项工作，它提出了一个发人深省的悖论：
人类信息处理速度仅为每秒 10bit，而我们的感官系统却能以每秒 10 亿 bit 的速率收集数据。
由此，按照每秒 10bit 的速度来算，人类 24 小时不间断学习且不遗忘，100 年储存的知识也不过 4GB。
什么概念呢？来和大模型做个对比：
大语言模型每个参数就能存储 2bit 知识，一个 70 亿参数的模型就能存储 140 亿 bit 的知识。
△ 结论来自华人学者朱泽园“Physics of Language Models”系列论文
难怪研究人员还提出了一项推论：
随着算力的不断提升，机器在各类任务中的表现超越人类只是时间问题。
另外，按照这项研究的结论，马斯克目前的脑机接口研究也有问题了。
研究人员表示：
我们预测马斯克的大脑与计算机的通信速率大约为 10bit/s。与其使用 Neuralink 的电极束，不如直接使用电话，因为电话的数据传输率已经被设计得与人类语言相匹配，而人类语言又与感知和认知的速度相匹配。
一时间，这一系列惊人推论在学术圈各大社区引起广泛讨论。
美国知名医师科学家、斯克里普斯转化研究所创始人 Eric Topol 也忍不住下场转发。
为啥我们一次只能思考一件事呢？
所以，结论如何得出的？
中枢神经系统“串行”影响信息处理速率简单说，要想计算人一辈子能学多少知识，我们得先从大脑处理信息的速度说起。
从对几项日常活动（如打字、说话演讲、拧魔方等）的评估来看，他们初步得出“大脑处理信息的速度约为 10bits / s”这一结论。
以人类打字为例，高级打字员每分钟能打 120 个单词（每秒 2 个），平均每个单词按 5bit 计算，那么信息传输速率就是 10bits / s。
同样，若以英语演讲为例，如果将节奏控制在舒适程度 —— 讲话速度为每分钟 160 个单词，则信息传输速率为 13bits/s，略高于打字。
再比如“盲拧魔方”这项竞技活动，选手需先观察魔方几秒，然后闭眼还原。以一次世界纪录的成绩 12.78s 为例，其中观察阶段约 5.5s，由于魔方可能的排列数约为 4.3x1019≈265，则最终信息传输速率约为 11.8bits/s。
使用类似方式，作者估算了更多场景下的信息处理速度（从经典实验室实验到现代电子竞技等），结果显示为 5~50bits / s 之间。
由此也得出一个整体结论：人类思考的速度始终在 10bits / s 的尺度范围内。
按照这一标准，假设我们能活 100 岁，每天 24 小时不间断学习（且剔除遗忘因素），那么我们最终的“知识储量”也将不到 4GB。
事实上，与 10bits / s 形成鲜明对照的是 —— 人类感官系统以约 10 亿 bits / s 的速率收集数据。
10bits / s VS 10 亿 bits / s
具体来说，我们每天从周围环境中获取信息的速率就以 Gbps/s 起算。
举个栗子，视觉系统中单个视锥细胞能以 270bits / s 的速度传输信息，而一只眼睛就拥有约 600 万个视锥细胞。
那么，光是双眼视觉系统接收信息的速度就高达 3.2Gbps / s。照此推算，我们接收信息的速度与处理信息的速度之间的差距比值竟然达到了 108:1。
要知道，人类大脑里有超过 850 亿个神经元，其中三分之一集中在大脑皮层组成了复杂的神经网络。也就是说，明明单个神经元就能轻松处理超过 10bits / s 的信息。
而现在所观察到的现象却与之不符，显而易见，上述二者之间存在一定矛盾。
从神经元本身的性能来看，它们具备快速处理和传输信息的能力，但这并没有直接转化为整体认知速度的提升，说明还有其他因素在起作用。
那么，为什么人类信息处理速度如此之慢？
按照论文分析，原因可能在以下几个方面：
最主要的，中枢神经系统在处理信息时采用的是串行方式，对信息传输速率有所限制。
这里要提到并行处理和串行处理之间的区别。
所谓并行处理，显然指多个任务同时进行。以我们看东西为例，视网膜每秒会产生 100 万个输出信号，每一个信号都是视网膜神经元对视觉图像局部计算的结果，由此同时处理大量视觉信息。
而在中枢神经系统中，他们观察到了一种“心理不应期”（psychological refractory period）效应，即同时面对多个任务，中枢神经系统只将注意力集中在一个任务上。
当然，他们也进一步探究了出现“串行”背后的原因，结论是这与演化过程早期的神经系统功能有关。
展开来说，那些最早拥有神经系统的生物，核心利用大脑来检测气味分子的浓度梯度，以此判断运动方向进行捕食和避开敌人。长此以往，这种特定功能需求使得大脑逐渐形成了“一次处理一个任务”的认知架构。
在进化过程中，大脑的这种架构逐渐固化，虽然随着物种的进化，大脑的功能越来越复杂，但这种早期形成的认知架构仍然在一定程度上限制了我们同时处理多个任务和快速处理信息的能力。
除此之外，还有理论认为存在“注意瓶颈”等限制了信息处理。注意力是认知过程中的一个重要因素，它就像一个瓶颈，限制了能够进入认知加工阶段的信息数量和速度，不过其具体运作机制目前人类尚未完全理解。
总之，按照论文的观点，10bits / s 这样的速度已经可以满足人类生存需求，之所以还存在庞大的神经元网络，原因可能是我们需要频繁切换任务，并整合不同神经回路之间的信息。
马斯克脑机接口过于理想化不过话虽如此，鉴于 10bits / s 和 10 亿 bits / s 之间的巨大差距，人类越来越无法忍受慢节奏了。
由此论文也得出一个推断：随着算力的不断提升，机器在各类任务中的表现超越人类只是时间问题。
换成今天的话说，以 AI 为代表的新物种将大概率逐渐“淘汰”人类。
另外，论文还顺带调侃了马斯克的脑机接口系统。
其中提到，马斯克的行动基于肉体带宽不足对处理信息的限制。按照老马的设想，一旦通过高带宽接口直接连接人脑和计算机，人类就可以更自由地和 AI 交流，甚至共生。
然而他们认为这一想法有些过于理想化。
10bits / s 的限制源于大脑基本结构，一般无法通过外部设备来突破。
由此也提出开头提到的建议：
与其使用 Neuralink 的电极束，不如直接使用电话，因为电话的数据传输率已经被设计得与人类语言相匹配，而人类语言又与感知和认知的速度相匹配。
不过上述言论也并非意味着他们对脑机接口失去信心，他们认为其关键并不在于突破信息速率限制，而是以另一种方式提供和解码患者所需信息。
作者之一为上海交大校友这项研究由来自加州理工学院生物学与生物工程系的两位学者完成。
Jieyu Zheng 目前是加州理工学院五年级博士研究生，她还是上海交大本科校友，还有康奈尔大学生物工程学士学位，在剑桥大学获得教育与心理学硕士学位。
她的研究重点聚焦于认知灵活性、学习和记忆，特别关注大脑皮层和海马体在这些功能中的核心作用。目前她正在进行一个名为“曼哈顿迷宫中的小鼠”项目。
Markus Meister 是 Jieyu Zheng 的导师，1991 年起在哈佛大学担任教授，2012 年于加州理工学院担任生物科学教授，研究领域是大型神经回路的功能，重点关注视觉和嗅觉的感官系统。
Markus Meister 曾于 1993 年被评为 Pew 学者，2009 年因其在视觉和大脑研究方面的贡献获 Lawrence C. Katz 神经科学创新研究奖以及 Minerva 基金会颁发的“金脑奖”。
新研究发布后，作者们就在 X 上当起了自个儿的自来水。
我们提出的特征是脑科学中最大的未解数值。
Markus Meister 还调侃每秒 10bit 的处理速度可是经过了同行评审的。
随后学术圈各大社区也针对这项研究开始讨论起来。
有人认为论文读起来很有意思，发人深省：
简化内容，只聚焦于中枢神经系统并且将讨论的内容分为内部和外部大脑两部分后，更有意义了。
这是一个非常重要的视角，值得深思……
然鹅，也有不少人提出疑问。
我越想这篇论文中的某些估计，就越怀疑。例如，关于打字员与听者之间比特率的等效性（S.3）似乎有误。正如香农所指出的，英文字母的熵约为每字符 1bit。但如果是一连串的单词或是概念，情况又如何呢？
作者默认了一个假设，即每秒 10bit 是慢的。与我们在硅基底上实现的通用计算系统相比，这的确很慢，但这种假设并不能线性地转化为大脑的信息吞吐量和存在的感知。
对于这项研究，你有什么看法呢？
论文链接：
https://arxiv.org/ pdf/2408.10234
参考链接：
[1]https://www.caltech.edu/about/news/thinking-slowly-the-paradoxical-slowness-of-human-behavior
[2]https://www.cell.com/neuron/abstract/S0896-6273(24)00808-0
[3]https://news.ycombinator.com/item?id=42449602
[4]https://arxiv.org/pdf/2408.10234
本文来自微信公众号：量子位（ID：QbitAI），作者：西风一水
本文链接：http://www.28at.com/showinfo-45-12282-0.html人类一生所学不过 4GB，加州理工顶刊新研究引热议
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
