ChatGPT等生成式AI的应用现状与风险规制研究.pdf
《ChatGPT等生成式AI的应用现状与风险规制研究.pdf》由会员分享,可在线阅读,更多相关《ChatGPT等生成式AI的应用现状与风险规制研究.pdf(5页珍藏版)》请在咨信网上搜索。
1、Shandong CommunioicationTechnologyVol.43No.2Jun.2023山东通信技术第43卷第2 期月2 0 2 3年6 月ChatGPT等生成式AI的应用现状与风险规制研究黄志涛,张茂涛(国家计算机网络应急技术处理协调中心山东分中心,山东济南2 50 0 0 2)摘要:站在人工智能生成内容技术发展最前沿,ChatGPT的文本响应更“类人”、信息检索更智能、应用前景更广阔。同时,其伦理问题与安全风险逐渐显现,不仅带来法律伦理的界定难题和技术鸿沟加深的隐忧,也对内容安全和网络安全提出挑战。对此,从监管打击、法律法规、技术发展等方面探索生成式人工智能风险防范的规制措
2、施,以期使该技术更好为人类社会服务。关键词:ChatGPT;生成式AI;安全风险;监管规制1引言2022年11月,人工智能初创研究公司OpenAI推出人工智能聊天机器人程序ChatGPT。Ch a t G PT 突破了传统AI系统的程式化问答,能够通过聊天的上下文学习和理解人类的语言,与用户进行类人化交互,完成编写文案、翻译、邮件、代码等任务。3月15日,OpenAI推出多模态大模型ChatGPT-4,性能进一步提升,可以接受图片输人并理解图像内容。ChatGPT的横空出世迅速引发了国内学者的关注。当前学界对ChatGPT的研究也沿袭着技术机遇与担忧风险伦理两条路径展开,朱光辉 、陈永伟2 等
3、人畅想ChatGPT所带来的技术机遇和未来图景,令小雄3、丛立先4、邓建鹏5 等人则对ChatGPT可能引发的科技、学术、版权及法律伦理问题进行研究。有关ChatGPT治理的研究陆续出现,钟祥林从智能传播的“科林格里奇困境”的视角切入,分析了ChatGPT的治理挑战与对策6 ,张凌寒则从深度合成治理的角度出发,提出生成型人工智能治理的中国路径7 。对比目前国内学界已有研究,本文全面总结了ChatGPT应用现状特点,从国家安全的角度出发,系统化剖析了其可能引发的风险问题,进而从三个维度提出了风险应对思路。2发展现状分析2.1文本生成更类人化,但内容准确度存疑ChatGPT基于大型语言模型,经过包
4、括社交媒体、新闻文章及论文等大量的文本数据训练,具备强大的“语义理解”能力,能够学习广泛的语言模式和风格。同时,ChatGPT使用了“人类反馈强化学习(RLHF)”的训练方法,在与用户的交互过程中同步学习人类的语言表达,知识储备不断更新、升级,进一步强化智能水平。在一系列AI技术的底层支撑下,ChatGPT拥有接近人类水平的对话语言逻辑,语言处理和文本生成更“类人”。尽管ChatGPT拥有强大的自然语言处理能力,但当某些问题触及其“知识盲区”时,其生成内容的可信度和准确度就难以保证,同时尚不具备理解复杂系统的抽象思考能力。2.2知识生产更系统化,但易助长人类求知情性人类正在进人“碎片化”时代,
5、ChatGPT具有强大的内容自组织和再创造能力,能够将碎片化的信息再组织整合成系统化的知识。ChatGPT给出的回答习惯于采取总分总的结构形式,非常注重语义表达的逻辑性和内容的完整性,这无疑将会推动人类知识生产力的跃进。但与之伴随而来的,是对人类求知惰性滋长的担忧。如收稿日期:2 0 2 3-0 5-2 1作者简介:黄志涛(1991-),男,工程师,研究方向为新兴技术安全、网信战略与政策。E-mail:h z t 0 7 19 16 3.c o m272023年山东通信技术果习惯于依赖ChatGPT完成系统化知识的生产,那么人类的创造性思维和批判性精神将日益退化,目前已经有高校学生在用Chat
6、GPT完成学术性论文的写作。技术是创造和毁灭的集合体,ChatGPT也无可避免地陷人到这种矛盾之中。2.3信息检索更智能化,或颠覆搜索引擎格局像搜索引擎一样,以海量数据语料为基底的ChatGPT能够以问答形式回答用户的搜索提问,但相较搜索引擎,ChatGPT的一大优势在于它不仅能够回答问题,还能够与用户建立沟通。ChatGPT不仅可以提供框架范围内的信息,还可以解答开放式问题,在与用户的多轮问答的过程中,根据用户的提示和需求不断完善和优化答案,最终给出符合用户需求的内容。另外,ChatGPT在与用户建立情感连接方面远远超越搜索引擎,不再单单是提供知识性价值的技术工具,并且是能够提供情感价值的高
7、度“拟人化”的对象。未来,ChatGPT类聊天机器人与搜索引擎的融合,或将颠覆传统信息检索格局。借助聊天机器人对问题的理解与认知,搜索引擎将从海量数据中快速生成高度匹配用户信息需求偏好的内容,使得信息检索的效率和精度都得到优化,同时将满足用户的情感需求,让信息检索更人性化2.4应用想象空间更广阔,商业化路径逐渐显现目前,业界对ChatGPT在编写代码和内容生成方面的表现讨论较多。ChatGPT可以将程序员从重复度高的程序编写中解放出来,完成一些简单的代码编写工作,并附带详细的注释和解析。在内容生成方面,ChatGPT已经可以较好地完成一些机械、重复的文字工作。此外,ChatGPT还有更多的应用
8、场景待开发,其具有高度的适应性,可与广泛行业融合以加速行业智能化进程。随着OpenAI宣布开放商用API人口,ChatGPT的商业化路径也开始显现。开发者可以将ChatGPT集成到产品中,价格为每10 0 0 次调用,花费0.0 0 2 美元8 。这一成本足够低廉,一般企业都有能力支付使用。近日,OpenAI又推出使用多模态模型的GPT-4,其适用性得到进一步提升,未来将应用到更多的场景当中3风险隐患3.1内容安全:助长虚假错误信息传播蔓延,干扰公众舆论和传播秩序人工智能技术一直存在着制造与传播虚假信息的风险隐患,而聊天机器人ChatGPT的出现或将进一步助长虚假错误信息蔓延的趋势,OpenA
9、I也承认ChatGPT容易产生不正确或误导性的信息。一方面,ChatGPT的生成内容本身基于大量的网络文本整合而成,其对训练数据的处理只是重构再组织的过程,并不具备对信息属性进行价值判断的能力,因此,有可能将网络上的虚假信息作为正确答案输出扩散。另一方面,大型语言模型存在与生俱来的缺陷,即其生成内容更强调看起来的合理性,甚至会为了合理性而“胡言乱语”,将训练数据拼凑成虚假信息传播。ChatGPT系统大规模且廉价生成文本的能力,势必会助长虚假信息泛滥传播,届时人工智能生成的虚假内容混杂着真实信息,将大大提升人们分辨事实真相的复杂程度。更值得警惕的是,ChatGPT极易沦为宣传人员甚至外部势力进行
10、观点操纵和舆论煽动的政治工具。传播技术及基础设施的演进和变革,是舆论认知战愈演愈烈的技术推动力,而以大型语言模型为技术支撑的ChatGPT,将前所未有地倍增大规模影响力运动的宣传规模但同时降低宣传成本。在国家间的舆论战中,ChatGPT所生产的文本可能更具影响力和说服力,这是因为外国宣传势力通常可能缺乏其影响目标的必要语言或文化知识,而ChatGPT则帮助解决了这一问题9。事实上,在当前网络世界中,宣传人员本身具有分发和传播其观点的资本和手段,而ChatGPT这样的人工智能机器人无疑将能够更有效强化其宣传观点的“生产资料”交到了他们手中3.2网络安全:降低恶意网络攻击工具的开发门槛,诱发网络犯
11、罪大众化在自动化、AI、“攻击即服务”等技术和模式加持下,网络安全攻击呈现出暴涨趋势【10 。ChatGPT这样的人工智能应用可能对网络安全领域造成毁灭性打击,一方面,它降低了大规模网络攻击的成本,大大提高了网络攻击效率,另一方面,它降低了网络攻击的门槛,助推网络犯罪“大众化”。ChatGPT的代码编写功能容易使其沦为黑客拓展网络攻击的技术工具,有研究人员将恶意代码上传至ChatGPT修改优化,优化后的恶意代码轻松绕过了防病毒检测系统。也就是说,ChatGPT这样快速、准确和高度智能的人工智能系统的公开可用性,可能会使大规模化的网络攻击更容易实现。网络攻击成本降低带来的,将是网络攻击频次的增加
12、和范围的扩大,中小企业也恐将难逃厄运。与此同时,网络攻击效率提高带来的是网络安全防护负担加重,ChatGPT能够在短时间内生成大量的网络钓鱼内容,而这些内容是AI模型使28黄志涛,等:ChatGPT等生成式AI的应与风险规制研究第2 期用高级自然语言处理(NLP)生成的,很难与真实内容区分。此外,从网络安全的角度看,无论是否具备程序开发的能力都可以借助ChatGPT生成恶意代码和勒索软件,网络犯罪的门槛大大降低。目前,已经发现有网络犯罪团队正在编写有关如何使用ChatGPT创建暗网市场脚本的教程,并有黑客开始利用ChatGPT赚钱,出现ChatGPT黑产数据泄露风险是ChatGPT带来的又一大
13、严峻挑战,ChatGPT所使用的人类反馈强化学习机制,意味着用户互动所产生的数据将被用于进一步的模型训练。英国国家网络安全中心指出,尽管ChatGPT和其他大型语言模型目前不会自动将查询中的信息添加到模型以供其他人查询,但训练大型语言模型的公司可以查阅这些信息【1 2。也就是说,这些数据将被大型语言模型背后的公司储存起来用于其他用途,而用户无法保证自身数据是否被滥用。进一步看,一旦黑客人侵数据存储,用户敏感信息将面临着泄露的风险。近期ChatGPT已被发现,用户可以看到其他用户与ChatGPT对话标题的消息,更是推翻了ChatGPT“不会记住用户信息”的声明。显而易见,ChatGPT等大型语言
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- ChatGPT 生成 AI 应用 现状 风险 规制 研究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。