搜狐发布全球首颗Transformer AI芯片,每秒处理速度达50万tokens

近日,由哈佛大学辍学生加文·乌伯蒂 (Gavin Uberti) 和克里斯·朱 (Chris Zhu) 共同创立的初创公司 Etched,成功完成了 1.2 亿美元 (折合人民币约 8.73 亿元) 的 A 轮融资。这笔资金将用于推动该公司全球首款专为 Transformer 架构设计的 ASIC 芯片——Sohu 的开发和销售。

搜狐发布全球首颗Transformer AI芯片,每秒处理速度达50万tokens

成立不到两年的 Etched,以其独特的技术视角和创新力量,正在引领人工智能硬件领域的新潮流。Sohu 芯片的突破在于它将 Transformer 架构直接蚀刻到芯片中,实现了硬件与算法的深度融合。这种创新设计不仅提升了推理性能,更在能耗方面展现出优势。

据了解,Sohu 芯片采用了台积电的 4 纳米工艺,在性能测试中,以 Llama 70B 为基准,其每秒能处理超过 50 万个 tokens,这一速度远超传统 GPU 和其他通用 AI 芯片。Sohu 芯片的强大性能为用户构建出 GPU 无法实现的产品提供了可能性。

搜狐发布全球首颗Transformer AI芯片,每秒处理速度达50万tokens

此外,Sohu 还具备一系列先进功能,例如实时语音代理、毫秒级处理大量文本、强大的代码树搜索、并行比较多个响应、多播推测解码以及实时生成新内容。这些功能为运行未来万亿级参数模型奠定了基础,预示着人工智能领域的巨大潜力。

Etched 的成功融资和 Sohu 芯片的突破性设计,标志着人工智能硬件领域的快速发展。未来,随着技术的不断进步,我们有理由相信,像 Sohu 这样的高性能芯片将推动人工智能应用场景的不断拓展,为我们的生活带来更多便利和改变。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
(0)
AI快讯网编辑-青青AI快讯网编辑-青青
上一篇 2024年 6月 26日 下午12:08
下一篇 2024年 6月 26日 下午12:39

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

欢迎来到AI快讯网,开启AI资讯新时代!