什么是生成式人工智能为何要规范专家解读
打开APP，查看更多精彩图片在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；
尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；
尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；
基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
何为生成式人工智能？
生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。
生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。
生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。
“AI换脸”诈骗10分钟被骗取430万元
作为生成式人工智能的一种技术，近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪。
近日，内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。来自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“确认”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生才得知，原来是骗子通过AI换脸和拟声技术实施的骗局。
利用人工智能技术造谣一网民被依法查处
自2022年12月以来，一款名为ChatGPT的人工智能应用掀起来一股科技热潮，它能够通过学习和理解人类的语言来进行对话，根据用户需求撰写邮件、视频脚本、文案、代码等等，被视为具有可快速、批量生产讯息的生产力工具，然而却有人打起了借此非法牟利的歪心思。
近期，根据公安部网安局总体部署，江苏公安网安部门深入推进网络谣言打击整治专项行动，依法查处一名利用人工智能技术编造谣言网民。
今年4月10日，盐城市公安局网安支队接到上级通报称，该市一网民发布“浙江温州一名女大学生在晚归途中遭持刀袭击并强奸”的虚假信息。盐城网安支队立即会同属地警方展开调查，查明造谣人员系盐城阜宁县网民朱某锋，并对其依法传唤。到案后，朱某峰对其造谣行为供认不讳。
阜宁县公安局网络安全保卫大队民警邱侗：据其交代为了博取眼球、吸引流量，以获取平台给予的创作者奖金，他就利用了这款时下流行的ChatGPT人工智能软件杜撰了该谣言。而编造发布此类谣言极易引发群众恐慌，造成不良社会影响，从而构成违法犯罪。
网民朱某锋：我就跟机器人聊，让它帮我写一篇强奸案文章，内容要求逼真，字数1500字。然后它就自动生成了，内容的真实性我没有考虑。
为显真实，朱某峰还在网上找到一张白衣女性的图片，附在文章中一同发布。目前，公安机关根据《中华人民共和国治安管理处罚法》第二十五条之规定，已对朱某峰行政罚款贰佰元，并责令其清理不实信息，关停相关自媒体账号。
网民朱某锋：我认识到错误的严重性了，诚恳接受民警的处罚与批评教育，今后做守法网民，不造谣、不传谣。
阜宁县公安局网络安全保卫大队民警邱侗：在此提醒广大网民，网络并非法外之地，人工智能技术应用应严格遵守法律底线，在正当、合法的领域合理使用。
《办法》针对典型乱象从三方面对症下药
针对生成式人工智能出现滥用甚至违法现象，《生成式人工智能服务管理暂行办法》如何对症下药？
中国科学技术大学公共事务学院、网络空间安全学院教授左晓栋表示：
一是针对技术本身。例如要求使用具有合法来源的数据和基础模型，涉及个人信息的应当取得个人同意或者属于不需要取得同意的情形。这便是针对生成式人工智能输出结果容易受到输入数据影响而制定的。
二是针对服务的提供过程。例如要求生成式人工智能服务提供者依法承担网络信息内容生产者责任，履行网络信息安全义务。提供者应当对使用者的输入信息和使用记录依法履行保护义务。提供者如果发现使用者从事违法活动，应当采取处置措施。
三是针对产业发展。为了防止被卡脖子，鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新。为了防止无序发展，要求推动相关基础设施和公共训练数据资源平台建设，促进算力资源协同共享，提升算力资源利用效能。
目前生成式人工智能应用中出现了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，需要及时规制。但总体而言生成式人工智能仍处于发展的初期阶段，风险没有完全暴露，应用前景难以估量，所以应当采取包容审慎的态度，坚持发展和安全并重、促进创新和依法治理相结合，要采取有效措施鼓励生成式人工智能创新发展。所以这次的管理办法称为“暂行办法”，便是有这方面的考虑。文件针对已经出现的滥用、违法现象提出了管理措施，但对于生成式人工智能技术的未来发展留下了巨大的空间。
人工智能蓬勃发展核心产业规模达五千亿元
记者从相关部门了解到，我国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家，创新成果不断涌现。未来，人工智能产业发展前景可观，我们也期待，随着《生成式人工智能服务管理暂行办法》的实施，人工智能在各领域的发展和应用更加健康规范，从各方面、多层次地助力人们的工作和生活。
人工智能对新闻生产的影响及发展趋势
2.编辑制作：智能机器人辅助新闻报道
编辑制作新闻是整个新闻生产链条中最为重要的环节。机器写作的出现充分体现了人工智能技术等科技的进步，同时其契合了传媒的发展需求。智能机器人的出现改变了传统仅可由人撰写稿件的历史，创新编写新闻的方式。作用主要体现在如下三大方面：1、机器写作加快新闻生产速度，2、机器写作提升新闻生产数量，3、机器写作减少新闻生产成本。
3.内容推送：个性化定制实现精准推送
在传统媒体时代形成了稳定、单一的途径传播新闻。而在互联网的背景下，将直接打破此种定向因定的传播连接方式，在此背景下分析用户需求关系链将成为工作的重点。而在互联网业态发展变化的这一过程中，新闻信息传送平台的形态也在随之而发生深刻改变。当前互联网已经处于Web3.0与Web4.0阶段，依托智能平台可实现总的传播用户需求。在完善大数据与算法的同时，实现智能化服务，为用户构建一个需求供给相互匹配的个性化连接的数据通路。构建智能平台旨在匹配用户与内容；从而为用户奉上个性化、人性化的服务；从本质上说构建的关键在于形成如下平台：其一是用户沉淀平台；其二是大数据资源平台；其三是内容平台。
（二）人工智能在新闻生产中的局限性
1.技术不成熟导致适用范围窄
人工智能化新闻生产依托于的大量数据，这对于需要处理、分析大量数据的新闻是十分便利的，如财经类新闻报道、体育类新闻报道等。目前也正是这些领域采用新闻写作机器人进行新闻写作，而深入报道类的需要人类的思想、情感、创作的新闻产品，人工智能化新闻生产在目前是无法进行生产的。
2.生产模版化导致新闻缺乏深度
人工智能技术应用与新闻生产后就一直受到“流水线生产”的质疑，将预先设置的程序和模版用不同的数据填充，产出标题相似，导语相似，主体内容相似，背景资料相似，结构相似，格式相似的同类型稿件。
3.信息来源造假导致无法判断新闻真相
记者在新闻采访中经常使用录音笔对当下的语音采访内容进行保存，录音内容也是作为新闻写作可靠的原材料之一。但是当技术泛滥之时，采访时的录音和被采访者提供的录音证据还具有完全的可信度吗？这可能会导致更多的新闻造假，人们制造假新闻的成本也大幅降低。使新闻谣言的滋生和传播变得更加容易和便捷。而辟谣的成本和难度却大大提高。
4.侵犯受众隐私和威胁数据安全
人工智能技术在搜集和处理数据信息时，无法像人类一样分辨筛选是否涉及个人隐私，所以如何在新闻生产中赋予人工智能区分可用数据和隐私数据的能力，对当前的个人隐私保护和互联网信息安全而言是亟待解决的问题。
Part3人工智能时代新闻生产的发展趋势与反思（一）新闻生产愈加智能化
智能化技术的发展对新闻生产的影响主要体现在逐渐实现从“技术导向”取代传统的“记者导向”。在此背景下记者退居幕后，不再主要完成采编新闻工作，而是主要负责修正语言、整合结果、统筹分析等方面的事宜。随着智能化技术的发展新闻生产将迎来分布多、数据化、智能化的发展格局。
（二）新闻从业者的危机与转型
随着机器新闻的引入，新闻自动化进入了一个新阶段。算法现在可以根据统计信息和一组库存短语自动生成新闻报道，而不受人类记者的干扰。与过去的其他技术发展和社会趋势一样，人工智能新闻这一新形式使记者重新考虑自己的角色和核心技能。在对这些新技术发展的回应中，新闻是由履行的任务来定义的，而不是拥有实现它们的技能和知识的人。来自人工智能新闻的竞争将迫使记者专注于只有人类可以做的任务。创造力，分析技能和个性变得更加重要，而专业的日常任务将自动化。
（三）对策与反思
随着人工智能技术的发展，万物相连并全面数据化，人们在享受由科技带来的智能、便捷、高效的同时，也要辩证地看待技术发展带来的问题。对于人工智能的“入侵”，人类必须把握其发展方向，坚守人的价值。一是为用户提供针对性的新闻生产，二是拓展报道领域实现广泛应用，三是追寻真相是新闻永恒的生命，四是加快立法进程。
#参考文献：
[1]吴扬.人工智能对新闻生产的影响与发展趋势研究[D].南京艺术学院,2019.返回搜狐，查看更多