大模型复杂的结构让人们越来越难对它们进行理解、预测和掌控。我们应该怎么找到大模型瓶颈,找到性能提升的方向,又确保大模型在各个复杂的现实场景都安全、与人类意图对齐呢? 通用人工智能的新范式给解释和对齐带来了什么挑战和机遇呢?这个讲座将围绕这些问题进行探讨,介绍大模型解释和对齐方面的最新进展,聚焦高普适性概念解释及其如何解读神经元功能,探讨宏观基础价值对齐及其与社会学、测量学的可能结合点。
大模型
王希廷