当前位置:首页>滚动 > >正文

证券日报评论:严防生成式AI“深度造假”

  • 2023-04-19 11:08:41来源:证券日报

随着AI的应用越来越广泛,诸多问题开始显现,首当其冲的就是内容真实性。AI作为工具并不具备判断力,其生成的结果是基于数据投喂和算力养成的综合产物,那么,这些数据是否真实合法,直接决定了AI是否能大规模应用。


(相关资料图)

日前,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》),向社会征求意见。《征求意见稿》明确“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源”,并就生成式人工智能服务商的准入,算法设计、训练数据选择、模型、内容,以及用户个人隐私、商业秘密等方面提出了相关要求。

其中,有两条内容强调了真实。一则是在第四条“提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗”中表示,“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”。另一则是在第七条“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”中表示,“能够保证数据的真实性、准确性、客观性、多样性”。

这意味着,AIGC的研发平台不但要保证投喂的数据资源真实可靠,同样要对生成的内容负责,这无疑是一项巨大的挑战。

事实上,在全球AI赛道的顶级选手中,还没有任何一个平台对AI生成结果的真实性进行担保。此前,谷歌推出的人工智能聊天机器人巴德(Bard)与ChatGPT对垒,却因巴德犯了事实错误,导致谷歌的股价暴跌,一夜之间市值蒸发约1056亿美元。微软则在一份免责声明中表示:“必应是由人工智能驱动的,因此有可能出现意外和错误。”

对生成式AI研发者而言,确保结果真实的难度之大可想而知。笔者认为,在研发、实验阶段,应该允许AI不断试错、修正、完善,但随着生成式AI作为工具进入生产领域,开始进行搜索、绘画、问答,甚至编程、视频生成等工作,那么确保真实就应该是基础门槛。

换句话说,AI要抢人类的工作,从底层模型起就先要解决是否真实准确的问题。如果这一问题还未有定论,那么研发平台应该审慎向大众层面推出新品,更不应草率地将AI运用于商业环境中。

如今,全球基于AI的创业公司如雨后春笋般涌现,仅在3月份就有近10款AI视频生成器诞生。输入几个关键字就能获得一段文字、一张图片甚至一个视频,这无疑体现了科技的魅力。但部分企业为了追风口就仓促推出新品,导致产品质量良莠不齐,一些产品生成的内容滑稽可笑,更有一些产品生成的内容存在虚假。这类“深度造假”的内容一旦传播开来,极易引发社会信任危机。

在笔者看来,面对新技术,我们既要抓住机会、勇于攀登,也不能回避技术发展带来的各类安全风险和伦理挑战,需构建合理规范的数字规则,做“负责任的”人工智能,立好规矩明确红线,防范潜在风险,推动科技向善。

相关报道

ChatGPT遭美国监管盯上了:将严查利用AI诈骗的公司

AI真会失控吗?DeepMind CEO:AI未来有可能拥有自我意识

马斯克再谈监管:AI将如小行星般撞击人类 有可能摧毁文明

(文章来源:证券日报)

标签:

延伸阅读

推荐阅读

从秀场到生活场,小红书携手上海时装周时尚周末,引领时尚潮流新趋势

【携手上海时装周时尚周末,引领时尚潮流新趋势】上海时装周的影响力正在不断扩大,并成为上海这座城市和中国时尚产业链接全球的名片和代表

“康健说”公益讲座走进校园 普及心理健康知识

“康健说”公益讲座走进校园普及心理健康知识2023年09月09日14:50中国网财经

中到大雨,个别地点有暴雨!还要警惕强对流!

点击标题下「河北新闻广播」可快速关注昨晚开始,我省迎来新一场降雨。

桂林这个以辣椒命名的小山村太美了

六漫村在大多数市民看来词语“六漫”和“辣椒”毫不相关但是在龙胜各族

教师节前夕 这位老师捐髓救学生

教师节前夕这位老师捐髓救学生

王建涛:逆袭的工人院士|圳青年

02:21如果用一个词来形容王建涛的经历,那就是“逆袭”。王建涛生于197

不再是大号手环?小米新手表曝光

近期,网友爆料小米即将发布的全新智能手表,可能命名为小米Watch2Pro

股票行情快报:昊华科技(600378)9月8日主力资金净卖出650.83万元

截至2023年9月8日收盘,昊华科技(600378)报收于34 02元,下跌0 53%,换

火箭瞄准勇士旧将,格林离队进入倒计时!斯通寻找新中锋取得进展

他为火箭队搭建的阵容似乎有些过于年轻化,在今年的休赛期,他们先后和

这些汽车被曝“大量收集数据”!其中最严重的是

来源:参考消息网参考消息网9月8日报道据法新社9月6日报道,一项研究6

外交部回应美方调查华为手机芯片

9月8日,外交部发言人毛宁就美国对华为手机芯片展开调查一事回答媒体问

深圳一商贩激流中淡定卖炒饭 太不容易了!

【深圳一商贩激流中淡定卖炒饭】7日晚,受暴雨侵袭,深圳多个路段出现

就在刚刚!局势突变,国际传来六个消息

就在刚刚!局势突变,国际传来六个消息,巴西,海盗,索马里,大堡礁,珊瑚

智慧社区场景化创新助力城市美好生活“零距离”

自2014年5月住房和城乡建设部印发《智慧社区建设指南(试行)》开始,中

男人怎样通过吃来补肾,大虾、韭菜等阳性食物?

男人怎样通过吃来补肾,大虾、韭菜等阳性食物?1、第一:如果是肾阳虚

幸福蓝海9月8日快速回调

以下是幸福蓝海在北京时间9月8日13:55分盘口异动快照:9月8日,幸福蓝

沙钞!足球报:斯坦丘税后年薪200万欧+奖金条款,高于在中超收入

沙钞!足球报:斯坦丘税后年薪200万欧+奖金条款,高于在中超收入,国民,

英伦星光(关于英伦星光简述)

,你们好,今天0471房产来聊聊一篇伦星光,伦星光简述的文章,网友们对

2023年全国中小学消防安全公开课直播回放入口汇总

2023秋季全国中小学消防安全公开课9月8日15时,2023年秋季全国中小学消

安徽池州通报3起建筑施工事故,共造成3人死亡

安徽池州市应急管理局9月7日通报3起建筑施工领域事故,3起事故前后在近

responseentity下载文件(下载的Res.rdb文件可以修改么)

1、好像有的可以改。2、有的不可以;要根据文件而定;也就是说有的文件

走进沉浸式文旅新场景:拓展体验空间,挖掘消费潜力

走进沉浸式文旅新场景:拓展体验空间,挖掘消费潜力-

滁州市人民代表大会常务委员会任免人员名单

滁州市人民代表大会常务委员会任命人员名单(2023年8月30日滁州市第七

朗科科技:截至8月18日 公司股东人数约1.89万

朗科科技8月31日在投资者互动平台表示,公司看好存储行业前景,积极围

下一页下一页下一集(下一页下一页)

导读1、能吸引人的才会有下一页。本文到此讲解完毕了,希望对大家有帮

龙洞堡国际机场综合性指定监管场地通过现场验收 | 暑运黔游“热”

8月30日,贵州首个综合性指定监管场地—贵阳龙洞堡国际机场综合指定监

从张之臻到中国军团,突破永不停歇

体坛加,体坛+,艾迪,美网,张之臻,吴易昺,王欣瑜,朱琳,从张之臻到中国军

草原上的“丰收那达慕”!2023年《中国农民丰收节晚会》落地伊金霍洛旗

“庆丰收、促和美”,第六个“中国农民丰收节”将在9月23日农历秋分如

驾驶证如何期满换证?

驾驶证期满换证方式如下:根据《机动车驾驶证申领和使用规定》162号令

突发!足协做出英明决定,申花大连人成大赢家,吴金贵谢晖安心了

对此,《足球报》这样写道:“根据时间点来看,足协杯半决赛与亚运会男

猜您喜欢

Copyright ©  2015-2022 大河服装网版权所有  备案号:京ICP备2022022245号-75   联系邮箱:435 226 40@qq.com