乔治华盛顿大学物理学家提出可预测AI聊天机器人“变坏”时刻的公式

乔治华盛顿大学的物理学家近日提出了一种新的数学公式，旨在估算人工智能聊天机器人在何时会从提供准确、有用的回答转向输出错误或有害信息。研究人员表示，这一公式基于统计物理学的原理，在对小型AI模型的初步测试中，其预测能力得到了初步验证。这一发现有望为AI安全性研究提供新的量化工具，帮助开发者在模型表现恶化前及时进行干预或调整。