今年以来，随着生成式人工智能的发展，“AI幻觉”进入大众视野，受到关注和讨论。“AI幻觉”指大语言模型编造其认为是真实存在的甚至看起来合理或可信的信息。
3月21日，在2025国际基础科学大会（ICBS 2025）新闻发布会上，图灵奖得主、中国科学院院士、清华交叉信息研究院院长姚期智，在谈及未来AI发展的重点及挑战时表示，我们需要更多地关注AI安全方面的问题，并做好相关研究。AI幻想或者说幻觉以及它生成式的答案等，对使用AI来进行关键应用会带来一些风险。如果在一些重点的应用程序当中不能保证其安全性，就会存在一些漏洞。了解AI为什么会出现这种不安全的现象很重要，因为从应用层面来说，只有安全的AI技术才能赢得市场。
姚期智强调，我们仍然需要很多的理论研究来加深对AI的了解，从而更好地控制它，以实现更好的AI算法。“我们看到，目前AI前沿研究更像是实验科学——我们取得了很多成就，有很多的数据，但我们不太了解到底是为什么。所以我觉得这方面还需要进一步扩展，我们需要更好、更加深入地来了解AI的原理和基准。”姚期智说。
姚期智认为，未来，不仅要防止一些滥用AI的问题，还要考虑商业安全性这类的问题。从科学的角度来说，必须要了解AI的安全边界，需要在AI领域做出更多理论探索。
自从Open AI到DeepSeek，生成式人工智能的主力军大多数是90后、95后甚至00后，为什么会有这样一个现象？这种现象背后的技术代际跃迁逻辑是什么？
关于这些问题，姚期智在会上表示，现在有这么多年轻学者在人工智能领域做出重大贡献，主要与人工智能的发展路线有关。
姚期智说，人工智能科学已经存在了很多年，有七八十年的历史；而最近大模型的出现，改变了人工智能学科的整个形式。
“大模型的出现，相当于我们在以前试过的很多条路线里面，发现了一条带给我们想不到的惊人能力的路径，它甚至解决了图灵测试这个原始的最重要的问题。这条路线从技术上来讲，不像数学、物理那样需要那么多复杂的数学、物理基础。这使得做人工智能领域的前沿研究，相对容易着手、容易接近。”姚期智表示，“所以很多年轻人在学了大学本科课程以后，就已经看到了人工智能的前沿。这就是为什么DeepSeek背后100多个了不起的年轻人能够做出这些工作成果。这是一件非常令人兴奋的事，它使中国在人工智能学科发展中获得了有利地位。”
还没有评论，来说两句吧...