2024 T-EDGE创新大会暨钛媒体财经年会上，暗物智能DMAI前美国首席执行官、蓝色光标前美国总裁符海京与哈佛大学博士、加州大学伯克利分校人工智能实验室执行董事、Dark Matter AI联合创始人及微软、亚马逊顾问Mark Nitzberg就生成式AI进行了深度对话，引发广泛关注。
Mark Nitzberg指出，尽管生成式AI在复杂问题解答和高质量内容生成方面表现出色，但其仍处于实验阶段，可靠性问题是制约其发展的瓶颈。他举例说明，微小的输入变化可能导致模型输出结果出现巨大偏差，这种不确定性在医疗、交通等高风险领域是不可接受的。 这与当前模型性能的巨大进步形成了鲜明对比，也突显了技术成熟度方面的不足。
然而，Nitzberg也肯定了生成式AI在部分新兴领域的应用价值。他援引瑞典一项跨行业研究，该研究显示在建筑修复领域，生成式AI的应用将效率提升了约100倍。但这并不意味着万事大吉，他强调，这种效率提升的可持续性，取决于能否解决其固有的可靠性问题。
Nitzberg进一步强调，在将生成式AI应用于各个领域时，必须深入理解原有的人工操作流程。只有在此基础上，才能确保引入AI后能有效提升效率，而非简单地自动化原有流程中的错误。他认为，生成式AI向智能体转变的潜力巨大，但也面临着复杂的安全性挑战。未来研究应重点关注可靠性和控制机制的完善。
在谈及中美生成式AI发展现状时，Nitzberg提到，加州大学伯克利分校作为全球顶尖的AI实验室之一，拥有众多中国籍学生，这体现了全球AI人才的共同努力。他认为，尽管AI已融入日常生活，但人类实际上依然处于生成式AI的实验阶段，一切才刚刚开始。
针对生成式AI在不同区域和行业的应用影响，Nitzberg以水电大坝为例，阐述了如何利用工程方法限制基于语言模型的控制系统行为。他将现有的语言模型，如GPT-4，比作一个经过精密调整的“电路板”，虽然功能强大，能够完成诸多复杂任务，但其不可靠性依然是其应用面临的重大挑战。虽然可以构建“安全层”，但难以完全保证其行为，这限制了其应用的广度和深度。
关于创业者如何在AI浪潮中脱颖而出，Nitzberg认为，数字化工具为下一代AI应用奠定了基础，而这个领域的应用前景仍然充满机遇和挑战。 他以加州大学旧金山分校医疗中心与他们合作开发的可解释性更强的Transformer模型为例，说明了如何通过改进模型训练方法来提升其可靠性。
最后，Nitzberg谈到AI的推理能力，认为微软提出的自动化代理标志着AI从工具型系统向更高级智能体转变。然而，这种转变也带来了更多关于可靠性和安全性的挑战。他认为，未来的研究重点应放在多模态数据的整合和因果推理能力的提升上。
