中国工程院院士邬江兴:90%以上主流大模型不可信!实用前景堪忧

叮当号5月20日消息,自从ChatGPT爆火以来,全球诞生了无数的大模型,光国内就有上百种,但实用性却并不如意。

在今天下午的2024搜狐科技年度论坛上,中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出,他们团队对当前最流行的10种大模型进行安全分析发现,90%以上的主流大模型是不可信的。

邬江兴表示,深度学习模型存在“三不可”基因缺陷。

分别是:

第一,不可解释性。

从数据提供AI模型训练到知识规律,到获得应用推理阶段,工作原理到现在不明确,问题发现定位非常困难,AI系统中的安全问题比破解密码还要难。

第二,不可判识性。

因为AI对序列性强依赖,不具备对内容的判识能力,所以数据存在质量差异,来源差异,就可能导致训练出的结果有差异。

第三,不可推论性。

AI的推理是从已知数据中获得规律性,难以胜任对中长期未来事物变迁的预测和推理,只是把现有的东西归纳起来,看起来它聪明无比,但仅仅是比我看得多,并没有产生什么新的认知。

中国工程院院士邬江兴:90%以上主流大模型不可信!实用前景堪忧

文章来自互联网,只做分享使用。发布者:叮当号,转转请注明出处:https://www.dingdanghao.com/article/504684.html

(0)
上一篇 2024-05-20 17:40
下一篇 2024-05-20 18:15

相关推荐

联系我们

在线咨询: QQ交谈

邮件:442814395@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信公众号