当前位置:首页 > 元宇宙 > 元宇宙百科

谨防人工智能滥用 规范信息内容生成

来源: 责编: 时间:2023-09-08 17:39:39 4701观看
导读 □赵精武ChatGPT等生成式人工智能服务打破了社会公众对人工智能技术应用的传统认知,其生成内容具有高度的智能化、仿真性特征,在特定情况下,甚至能够替代人工生成相关营销文案等信息内容。倘若不事前标注网络信

 wJn28资讯网——每日最新资讯28at.com

wJn28资讯网——每日最新资讯28at.com

□赵精武wJn28资讯网——每日最新资讯28at.com

ChatGPT等生成式人工智能服务打破了社会公众对人工智能技术应用的传统认知,其生成内容具有高度的智能化、仿真性特征,在特定情况下,甚至能够替代人工生成相关营销文案等信息内容。倘若不事前标注网络信息内容是通过人工智能技术所生成,一般人甚至无法直接区分是不是人工撰写内容。在新闻出版行业,部分新闻媒体已经在尝试开设专版,该版面主要呈现人工智能技术生成的新闻内容。可以说,一旦生成式人工智能技术得到广泛普及,社会生产方式和分工架构必然会发生颠覆性变化。wJn28资讯网——每日最新资讯28at.com

然而,技术双刃剑的魔咒同样存在于人工智能领域。生成式人工智能技术应用的最大优势在于能够在短时间内批量生成同质性的网络信息内容,一旦这种技术优势被应用于电信诈骗、网络造谣等违法犯罪活动,既会对网络舆论生态造成毁灭性破坏,也会对国家安全和社会稳定产生重大威胁。事实上,在我国已经出现了非法滥用生成式人工智能技术的案例:湖南省耒阳市公安局网安大队发现犯罪嫌疑人利用AI智能工具制作、传播虚假新闻;河南省郑州市公安局航空港分局发现犯罪嫌疑人利用AI软件渲染修改新闻报道;内蒙古自治区包头市公安局破获一起利用“AI换脸”进行电信诈骗的案件,等等。wJn28资讯网——每日最新资讯28at.com

面对日趋严峻的人工智能技术滥用风险,国家互联网信息办公室联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》(以下简称《办法》),自2023年8月15日起施行。wJn28资讯网——每日最新资讯28at.com

《办法》囊括了监管机构、信息服务提供者、用户等主体的法律义务。尤其在第三章“服务规范”中,更是明确信息服务提供者应当采取显著标识、违法内容应急处置等措施,控制违法不良信息恶意生成的风险水平。《办法》与《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法律法规共同构成了网络信息内容生态治理体系,在传播网络谣言、网络暴力、虚假信息等传统网络信息内容治理路径之外,补全了机器批量生成违法不良信息的治理模式。更重要的是,《办法》不仅对用户终端层面所生成的信息内容类型作出了明确限定,更对相关产品或服务的研发设计阶段提出具体的监管要求。例如,《办法》要求相关服务提供者在进行预训练、优化训练等训练数据处理活动时,应当采取有效措施提高训练数据质量,以此提升生成内容的合法性与合理性。wJn28资讯网——每日最新资讯28at.com

具体而言,《办法》在规范信息内容生成层面提出了四个方面的监管要求:第一,继续延续《互联网信息服务深度合成管理规定》的既有规定,信息服务提供者应当对图片、视频等生成内容进行诸如“该图片由人工智能自动生成”等显著标识。之所以特别强调图片、视频等信息类型,是因为图片、视频无法轻易修改以及“有图有真相”的认知逻辑使得传统的辟谣难度和辟谣成本大大增加,社会公众也无法在足以以假乱真的图片、视频等信息内容中辨别真伪。wJn28资讯网——每日最新资讯28at.com

第二,信息服务提供者应当设置违法内容应急处置机制。一旦发现用户有意生成违法不良信息或者相关人工智能服务可能会自动生成违法不良信息时,提供者应当立即采取停止生成、停止传输、消除等处置措施,同时,也应当对算法模型进行优化训练。这些处置措施主要根据实际情况、整改成本以及技术可行性等要素予以确定,并不局限于前述措施。此外,提供者还需要及时就生成式人工智能服务可能生成违法不良信息以及准确采取的处置措施向主管部门报告。wJn28资讯网——每日最新资讯28at.com

第三,信息服务提供者应当对使用者的违法行为进行及时处置。从网络信息传播方式来看,从用户端限制违法不良信息传播的实际效果远远不如从服务端控制用户使用行为的效果。因此,《办法》明确要求信息服务提供者在发现用户利用生成式人工智能服务从事违法活动时,理应对其账号及其权限采取处置措施,包括但不限于警示、限制功能、暂停或者终止向其提供服务等。同时,信息服务提供者还应当对违法行为以及采取的措施如实记录并留存,向主管部门报告相关违法事实。wJn28资讯网——每日最新资讯28at.com

第四,信息服务提供者还应当设置运行有效的投诉、举报机制。投诉、举报的事项除了用户个体权益受损的侵权事实之外,还应当包括用户所发现的生成式人工智能服务被滥用的事实。并且,《办法》还强调信息服务提供者所设置的投诉、举报入口应当便于公众访问,且在合理期限内及时向公众反馈处理结果。wJn28资讯网——每日最新资讯28at.com

预防技术滥用风险不能简单等同于限制技术发展,规范网络信息内容生成的关键应当回归至多方治理主体共同参与的话语体系之中。在《办法》中,明确提及了立法目的是促进生成式人工智能健康发展和规范应用,而非以安全保障限制技术创新发展。《办法》体现了协同治理和系统治理的创新性治理理念,一方面,明确信息服务提供者在研发设计、技术应用和服务反馈等各个阶段的风险预防义务之外,形成全流程、全环节的治理机制;另一方面,明确监管机构、信息服务提供者、信息服务使用者各自的法律义务,形成协同式、系统性的治理架构。wJn28资讯网——每日最新资讯28at.com

(作者系北京航空航天大学法学院副教授)wJn28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-46-1919-0.html谨防人工智能滥用 规范信息内容生成

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: “到处充满虚假信息”:人工智能深度介入美总统竞选

下一篇: 返回列表

标签:
  • 热门焦点
  • 内容行业大变天,爆款全靠AI?

    内容行业大变天,爆款全靠AI?

    出品 | 微果酱(wjam123456)作者 | 陈出木题图 | 文心一格 AI的发展之快出乎所有人的预料,似乎一夜之间便呼啸而来。无论是资本的风向标,抑或是生活工作的辅助、流量口,还是茶余饭
  • 元宇宙里掀起回忆杀?这波虚拟怀旧营销主打一个极限反差

    元宇宙里掀起回忆杀?这波虚拟怀旧营销主打一个极限反差

    来源:首席品牌官从被称为“元宇宙元年”的2021年开始,几乎所有品牌都在迫不及待地“入驻”元宇宙。而一提及品牌们的元宇宙玩法,相信多数人脑海里首先浮现
  • 星展银行(DBS)计划推出零售数字资产交易服务

    星展银行(DBS)计划推出零售数字资产交易服务

    2月14日消息,新加坡星展银行CEO Piyush Gupta在财报会议上表示,计划于2022年年底前推出零售数字资产交易服务。据悉,DBS于2021年初开设了机构数字资产交易平台,全
  • 比特币的价格越高,使用价值越大

    比特币的价格越高,使用价值越大

    隔夜比特币还是在精准地横盘在42k上方。空头昨日试图发起一波小的攻势,但是晚上就被多头掰了回来。以太坊的链上gas price降到了60 gwei以下,彰显着市场活跃度的
  • 2022年6款最佳的NFT稀有度查询工具

    2022年6款最佳的NFT稀有度查询工具

    NFT正在风靡全球,但拥有一个你自认为看起来很酷的 NFT 是不够的,因为它还应该是稀有的,稀有度会影响每个 NFT 的价值。因此,如果您打算投资 NFT,则需要使用 NFT 稀
  • 影响元宇宙土地价格的五个因素

    影响元宇宙土地价格的五个因素

    参考来源 | cryptonews编译 | Ciel@iNFTnews.com元宇宙中的房地产价格主要取决于使用它的人数,以及为所有者创造收益的能力。专注于数字资产的投资公司LedgerPr
  • 想进入web3.0?来看看哪些工作适合你

    想进入web3.0?来看看哪些工作适合你

    随着对加密货币需求的增加,加密领域的工作的数量也在增加。以下是一些非技术性加密货币工作简介。加密货币在主流市场获得的可信度提升。导致区块链领域的求职
  • NFT行业的三大区块链之一引起了Snoop Dogg的强烈兴趣,究竟有何潜力?

    NFT行业的三大区块链之一引起了Snoop Dogg的强烈兴趣,究竟有何潜力?

    Block-810多个区块链吸引了希望创建单个NFT或整个集合的用户的注意。Tezos是其中因其低费用和低碳排放方式而备受赞誉的区块链,就连Snoop Dogg也希望通过公开他
  • 全球十大元宇宙概念游戏

    全球十大元宇宙概念游戏

    A股市场中,不少游戏公司早早搭上了元宇宙概念。举例,中青宝宣称将发布一款元宇宙概念的模拟经营类游戏,尽管游戏尚在研发中,这一消息已经让中青宝的股价在51个交易
Top