人们通常能感觉到自己踏入了陌生领域，知识已经用尽。人工智能没有这种本能：它从选定的数据中学习，当世界与训练时所见不同，它可能会不知所措。欧洲的 E-pi 项目教算法认识自己的无知，并在出错代价最高的地方，也就是自动驾驶汽车上进行了检验。最后你可以看看自己是如何应对不确定性的。
如今人工智能几乎无处不在。它推动着经济，也在改变我们的家庭、学校和工作场所。然而它有一个弱点，被提及的次数比它的成就少得多。模型从一组特定的数据中学习，然后必须在一个并不总是与训练时所见相似的世界中工作。麻烦恰恰从这时开始。
由欧盟资助、英国牛津布鲁克斯大学（Oxford Brookes University）协调的 E-pi 项目着手解决这个问题。其团队用五年时间研究所谓的认知型人工智能，也就是能更好地应对不确定性、即使在与训练数据不同的情形下也能做出预测的人工智能。
“认知型”一词来自认识论，即研究知识的哲学分支。人类有一种完全自然的能力正源于此：察觉到自己所知的内容在特定情形下并不够用。这是人类智能的基本要素之一。
机器自己做不到这一点。对人工智能来说，认识自身的无知必须建立在理论和数学框架之上。换句话说，“不再确定”的感觉必须被切切实实地写进算法的设计之中。
项目协调人法比奥·库佐林（Fabio Cuzzolin）指出，经典的机器学习算法侧重于解释相对较小的训练集，而不是现实中可能出现的所有数据。后果不难预料。这位研究人员解释说：“当产生数据的概率分布与训练时不同，传统的人工智能模型很难做出稳健的预测。”
简单来说，一个只熟悉世界中某一小块的模型，遇到这一小块之外的事物时可能会迷失方向。E-pi 联盟得出结论，二阶不确定性理论是最有希望的解决方案基础。该项目的报告在专业会议上受到热烈欢迎，库佐林还受邀参与多项相关的“地平线欧洲”申请。团队的工作旨在帮助建立一个国际化的认知型人工智能生态系统。
要检验一个应对不可预测情况的人工智能，最好的地方在哪里？研究人员选择了自动驾驶车辆。在路上，情况可能突然脱离任何模式，无论是因为行人的举动、极端天气，还是不寻常的道路布局。现有系统的错误代价可能很高，最坏的情况下甚至会造成致命伤害。
团队使用了 ROAD 数据集，该数据集专门用于自动驾驶车辆识别道路事件。它既用于训练模型，也用于测试新的认知型物体检测器。ROAD 仍在不断扩充，包含来自欧洲、北美、迪拜和阿布扎比的视频，因而成为真正的全球性资源。
更安全的无人驾驶汽车只是目标之一。同样的逻辑也可以让其他领域受益：
核聚变是一个要求特别高的例子。库佐林说：“我们正在开发能感知不确定性的神经算子模型，用来预测聚变等离子体在托卡马克内部如何流动，以及反应堆的哪些区域受其影响更大。”这类模型旨在预测托卡马克，即反应堆内部等离子体的流动，并指出其哪些区域将受到最大影响。这里的要点同样如此：模型不应只给出结果，还应如实说明自己对结果有多大把握。
另一个方向涉及生成式人工智能。库佐林承认：“当前最先进的大语言模型（LLM）因生成虚假陈述而闻名。”在他看来，出路可能是建立在新范式之上的模型：“认知型大语言模型可以大幅缓解这些模型的过度自信。”
计划还包括与心智理论相关的方案，以及通过持续学习不断演进的系统。共同点始终不变：人工智能不应只是回答，还应知道自己的答案何时建立在不稳固的基础上。
E-pi 项目总成本约为 300 万欧元，推动了更安全的自动驾驶车辆和机器人，以及不产生幻觉的生成式人工智能的发展。它还建立了一个由机器学习专家组成的动态网络。其作者认为，认知型人工智能有潜力改变世界和我们的日常生活。而这一切始于一种非常人性的能力：承认自己有些东西不知道。
5 个问题 · 一分钟
English
Čeština
Deutsch
Español
Français
Magyar
Italiano
Polski
Português
Русский
Slovenčina
Türkçe
Українська
العربية
中文