在近日于北京市大兴区盛大举行的2024T-EDGE创新大会暨钛媒体财经年会上，一场关于生成式AI的深度对话吸引了众多目光。对话双方分别是暗物智能DMAI前美国首席执行官、蓝色光标前美国总裁符海京，以及哈佛大学博士、加州大学伯克利分校人工智能实验室执行董事、Dark Matter AI联合创始人及微软、亚马逊顾问Mark Nitzberg。
Mark Nitzberg指出，尽管生成式AI在诸如回答复杂问题和生成高质量内容等任务中表现出色，其仍处在实验阶段，可靠性问题成为阻碍其进一步发展的主要瓶颈。“当前的模型性能取得了巨大进步，但我们无法忽视其在关键场景中的不一致性，”他强调，“例如，微小的输入变化可能导致模型输出的答案产生巨大偏差，这种不确定性在医疗、交通等高风险领域是无法接受的。”
然而，Mark Nitzberg也提到，生成式AI在一些新兴领域展现出了指数级的效率提升。他分享了瑞典的一项跨行业研究，其中“建筑修复”领域因应用生成式AI，效率提升了约100倍。尽管如此，他依然保持理性态度，认为这些效率提升虽令人振奋，但其可持续性仍取决于能否攻克技术可靠性问题。
Mark Nitzberg进一步强调，将生成式AI引入各个领域时，必须确保对没有AI时的操作方式有清晰理解。只有这样，在引入AI并使其更高效、更快速运行时，才不会将之前手动操作中的问题部分也自动化。他提到，生成式AI向智能体的转变潜力巨大，但也伴随着复杂的技术挑战和安全隐患，可靠性和控制机制是未来发展的重要研究方向。
符海京与Mark Nitzberg的对话中，探讨了中美在生成式AI领域的现状。Mark Nitzberg表示，加州大学伯克利分校是全球顶尖的AI实验室之一，拥有70位教授和超过400名博士生，其中许多是中国籍学生。他提到，AI已经融入人类生活的方方面面，但人类实际上仍处于生成式AI的实验时代，这一切才刚刚开始。
符海京询问生成式AI如何在不同地理区域和行业中产生影响时，Mark Nitzberg解释，生成式AI的出现有一些关键点需要理解。他以水电大坝为例，指出使用看似“智能”的语言模型来控制这类系统，需要应用典型的工程方法来限制其行为。然而，这些语言模型本质上是一个巨大的电路板，每个旋钮在训练过程中都会被调整，直到得到一个所有旋钮都调整好的电路板，这就是现在的语言模型，如GPT-4等。
Mark Nitzberg还提到，这些商业模型非常强大，能完成许多令人惊讶的任务，如回答复杂问题和生成图像等，但它们的共同问题是不可靠。他强调，虽然可以在这些模型外面构建一个“安全层”，但很难对其行为提供任何形式的保证，这也在一定程度上限制了它们的应用范围。
对于创业者如何在AI转型竞赛中取胜的问题，Mark Nitzberg认为，数字化工具正在为下一代提供应用AI的基础，而这个领域的应用仍然是“广阔未定”的。他提到，加州大学旧金山分校医疗中心正在与他们合作，开发一种基于患者治疗临床步骤训练的变换器模型变体，这种训练方法产生了一种更加“可解释”的变换器系统。
最后，Mark Nitzberg在谈到AI的推理能力时表示，微软提到的自动化代理是AI从工具型系统向更高级智能体转变的标志。然而，这种转变也带来了更多的问题，尤其是关于可靠性和安全性的问题。他认为，接下来的研究重点应集中在多模态数据的整合和因果推理的增强上。
