商汤科技在智能汽车领域取得重大突破，其联合创始人兼首席科学家王晓刚近日宣布，商汤绝影已率先实现原生多模态大模型在车端的部署，这标志着智能汽车人工智能技术迈向新的里程碑。
值得关注的是，商汤绝影的车载端侧8B模型在性能方面表现突出。该模型的首包延迟控制在300毫秒以内，推理速度达到惊人的40 Tokens/秒，并能够适配主流算力平台。为了支持这一突破性技术，商汤绝影专门研发了名为“HyperPPL”的计算引擎。该引擎不仅扩展支持了主流车载计算硬件，还兼容多种主流操作系统，并能适配多个车载芯片的部署平台。
更重要的是，“HyperPPL”针对车载多人场景进行了优化，这意味着即使在车内多人同时使用的情况下，车端多模态大模型的推理效率也不会明显下降，从而确保用户体验的流畅性。这一优化对于提升智能汽车的整体体验至关重要，例如在多人同时使用语音助手、导航等功能时，依然能够保证快速响应和准确性。
商汤绝影的技术实力已获得实际应用验证。深圳首条自动驾驶公交线路就采用了商汤绝影的车辆与技术，实现了所有驾驶操作的无人员介入，这不仅证明了商汤绝影在自动驾驶技术领域的领先地位，也为未来智能交通发展提供了有力支持。
展望未来，随着技术的不断进步，更高算力的车载芯片将陆续问世。明年，英伟达将推出上千TOPS算力的车载芯片。基于这一更高算力的计算平台，商汤绝影预计其多模态大模型车端部署方案的首包延迟将大幅降低，推理速度也将进一步提高。这意味着，未来智能汽车将拥有更强大的计算能力，能够处理更复杂的任务，提供更人性化的用户体验。
商汤绝影的突破不仅展现了其在人工智能领域的领先地位，也预示着智能汽车行业的未来发展趋势。未来，随着技术的不断进步，智能汽车将拥有更强的感知能力、更安全的驾驶能力，以及更智能的交互能力，为人类生活带来更多便利和改变。
