中国工程院院士邬江兴：10种大模型进行安全分析发现，90%以上的主流大模型是不可信的

　　5月21日，自从ChatGPT爆火以来，全球诞生了无数的大模型，光国内就有上百种，但实用性却并不如意。

　　在今天下午的2024搜狐科技年度论坛上，中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出，他们团队对当前最流行的10种大模型进行安全分析发现，90%以上的主流大模型是不可信的。

　　邬江兴表示，深度学习模型存在“三不可”基因缺陷。

　　分别是：

　　第一，不可解释性。

　　从数据提供AI模型训练到知识规律，到获得应用推理阶段，工作原理到现在不明确，问题发现定位非常困难，AI系统中的安全问题比破解密码还要难。

　　第二，不可判识性。

　　因为AI对序列性强依赖，不具备对内容的判识能力，所以数据存在质量差异，来源差异，就可能导致训练出的结果有差异。

　　第三，不可推论性。

　　AI的推理是从已知数据中获得规律性，难以胜任对中长期未来事物变迁的预测和推理，只是把现有的东西归纳起来，看起来它聪明无比，但仅仅是比我看得多，并没有产生什么新的认知。