全球首款 Transformer 专用 AI 芯片 Sohu 登场：每秒可处理 50 万个 tokens，比英伟达 H100 快 20 倍

6 月 26 日消息，Etched 公司宣布完成 1.2 亿美元（备注：当前约 8.73 亿元人民币） A 轮融资，将用于开发和销售全球首款 Transformer 专用集成电路（ASIC）芯片 Sohu。umx28资讯网——每日最新资讯28at.com

umx28资讯网——每日最新资讯28at.com

查询公开资料，Etched 公司由两名哈佛大学辍学生加文・乌伯蒂（Gavin Uberti）和克里斯・朱（Chris Zhu）创立，成立时间不到 2 年。umx28资讯网——每日最新资讯28at.com

Sohu 芯片最大的亮点在于直接把 Transformer 架构蚀刻到芯片中，乌伯蒂称 Sohu 采用台积电的 4 纳米工艺制造，推理性能大大优于 GPU 和其他通用人工智能芯片，同时能耗更低。umx28资讯网——每日最新资讯28at.com

umx28资讯网——每日最新资讯28at.com

在 Llama 70B 吞吐量中，Sohu 每秒可处理超过 50万个 tokens，让用户可以构建 GPU 无法实现的产品。umx28资讯网——每日最新资讯28at.com

umx28资讯网——每日最新资讯28at.com

Sohu 能够实现实时语音代理、毫秒级处理数千字文本、更强大的代码树搜索、并行比较数百个响应、多播推测解码以及实时生成新内容等功能，为未来万亿级参数模型的运行提供了可能。umx28资讯网——每日最新资讯28at.com

附上官网链接，感兴趣的用户可以深入阅读。umx28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-4837-0.html全球首款 Transformer 专用 AI 芯片 Sohu 登场：每秒可处理 50 万个 tokens，比英伟达 H100 快 20 倍

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 十六部门：推动人工智能技术在制定个性化营养、运动干预方案中的应用

下一篇： 振兴乡村发展 助力青少年教育 中国三星连续十一年蝉联企业社会责任榜外企第一