陈根：人工智能“飙脏话”，研究人员正纠偏
文/陈根
现在，人工智能（AI）不仅能够与人对话，甚至还能与“飙脏话”。
被AAAI2022收录的一篇新研究发现，在7013个儿童视频中，接近40%的节目出现了少儿不宜或脏话等词汇。甚至在一个113集的儿童机器人学习栏目中，AI就“爆粗”了103次，平均接近一集一次。
具体来看，研究人员一共从YouTube上选出了24个儿童频道，分别记录了这些频道的播放量和订阅量。这些筛选出来的视频播放量基本都达到了百万级，订阅人数也同样不少。随后，研究人员分别尝试了Google和AWS（亚马逊网页服务）的字幕生成效果。
结果令人吃惊，在7013个视频中，GoogleAI出现错误字幕的次数达到2768次，接近40%。亚马逊的AI字幕错误率还要更高，达到了3672次，超过52%。
实际上，人工智能“飙脏话”已经不是第一次被发现了，此前，佐治亚理工学院和华盛顿大学的研究人员曾发现，AI也继承了人类对“脏话”的喜爱。其中，研究人员开发了一个名叫“ToxiChat”的数据集，其中包含了2000条从Reddit上选取的对话。
随后，OpenAI的GPT-3和微软的DialoGPT被派去挨个回复这些对话。由于数据量十分的庞大，于是研究人员在亚马逊MechanicalTurk上招募了一群“人工智能”来为“人工智能”的回复进行标注。
如果回复使用的语言非常地粗鲁甚至谩骂，就会被标记为“冒犯”；如果没有，则是“安全”。此外，对于之前的评论，回复的立场也被标记为“同意”、“不同意”或“中立”。 分析显示，42%的用户回复赞同有侵略性的评论，而只有13%的用户同意安全性评论。
对于人工智能“飙脏话”这件事，研究人员提出了一个新的数据集，利用近音字词来构建禁忌词的“替换”备选。比如，对于crap这一可能出现的“脏话”，研究人员给它设置了crab、craft等读音相似的字词，便于AI在搞错时进行替换。
具体来说，研究人员在BERT、XLM、XLNet等NLP模型上，针对“完形填空”任务进行了重新训练，也就是用“MASK”遮住部分单词，让AI来填写对应的内容。结果显示，在语序正常、前后文案有逻辑的视频中，AI替换的准确率更高。
显然，在开发人工智能的过程中，人工智能也不得不面对一些人类可能出现的问题，而研究则要对于这些存在的问题进行纠偏。从人工智能“飙脏话”来说，想要纠正人工智能这一“陋习”，可能还需要不少时间。
让人工智能更好造福人类
当前，人工智能和人们生产生活的关系越来越密切。习近平同志指出，“新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能，正在深刻改变人们的生产生活方式。”对于这种改变，许多人都有切身体会。人工智能能否摘掉“冷冰冰”的标签，真正变得“亲人类”，更好造福人类呢？这是人工智能发展中值得深入研究的课题，体现人工智能“人格化”发展新趋向。
近年来，人工智能开发和推广应用取得较大突破，人工智能与医院、物流、安防、教育、交通、金融、种植等领域的结合，正推动这些行业不断进步。以医院为例，先进医疗技术与人工智能系统的创新融通，催生了医院智能服务机器人、智能配送机器人等，不仅提升了医疗服务效率，而且节省了医务系统的运营成本、管理成本、人工成本，推动医院从数字化医院向智慧医院转变。人工智能在无人机、无人驾驶等领域的运用也日渐成熟。由此可见，人工智能的运用和逐步普及，能够将人们从繁重的体力劳动中解放出来，进一步提升人们的生活品质。
展望未来，人工智能的发展和运用可能不仅仅局限于代替人类进行体力劳动甚至一部分脑力劳动，很可能会向温暖人类心灵的方向迈进。这涉及人工智能的“人格化”。人之所以为人，一个重要方面是因为人有情感、有人格，这是机器和机械系统所不具备的。人工智能迈入深层次发展阶段后，能否实现“人格化”而拥有情感？答案尚不明确，但人工智能的“人格化”发展是未来的一个重要趋势。所谓人工智能“人格化”，是指在重视人工智能完成任务和强化功能的同时，强化人工智能的“情商”与“情感”，使其能满足人们的情感需求和心理需求。未来人工智能可以通过对使用者语言、行为的长期统计和分析，为使用者遇到的情感问题提供有针对性的解决方案，从而建立起与人类的“情感”链接。这种“情感”链接能够在人们最需要关怀的时候给予其心灵慰藉，让人们感受到身边还有一个理解自己、关爱自己的“人”。人工智能技术要达到这种效果，实现“人格化”，仅仅会分析、计算还不够，还需要具有“主动性”。所谓“主动性”，就是当人工智能在感知到人们的需求时，无需任何指令就能主动去“询问”“关怀”和“交流”，并能独立处理原本应该“人为”的事件。那时，人工智能就可能从运算智能、感知智能阶段发展到认知智能阶段。
值得注意的是，如果人工智能发展到能温暖人类心灵的阶段，一些问题也将相伴而生。比如，这些“人格化”的人工智能可能影响人类的决策，甚至改变人类的决策。再如，过分依赖人工智能提供的情感慰藉，会衍生出相应的伦理问题、心理问题甚至社会问题。当然，所有事物的发展都不会十全十美、一帆风顺。被人类赋予智慧的人工智能，其发展方兴未艾，未来还有很长的路要走。当前，我们要把握好人工智能发展的机遇，回答好人工智能发展在法律、安全、就业、道德伦理和社会治理等方面提出的新课题，努力让人工智能更好造福人类。
（作者单位：广东省社会科学院）
《人民日报》（2019年07月10日09版）
(责编：赵超、夏晓伦)分享让更多人看到