人工智能对话系统(5个人工智能机器人恐怖对话)

 

国外论坛一个政治不正确版块里，一条新帖子悄无声息蹦了出来。

这个论坛被称为互联网最阴暗的角落。在这里，仇恨言论、种族歧视、阴谋论和极端主义言论任意滋长。任何人都不需要对自己的言论负责，因为网站无需注册，人们发的帖子中，只有一个标注地理位置的国旗图标。并且，每一条帖子通常只保留几个小时到几天。美国数起枪击案的枪手都自称受到过这里的影响。

很快，一个地理标记为塞舌尔的匿名回复出现在帖子下，我们需要把黑人带进文明世界。种族主义的味儿刺鼻。

30秒后，另一条讨论校园枪击案的帖子里，同样出现了来自塞舌尔的回复：控枪不能解决问题。

每隔一会儿，类似的回复就随机出现在某一条帖子下面。一些用户在帖子下与塞舌尔用户对话，而他不仅会开玩笑、反驳、讽刺，还会加粗重点、与别人认真讨论。

这一天，塞舌尔用户总共在论坛里发了1500条回复帖。论坛里的其他用户开始逐渐意识到不对劲——作为一个只有10万人口的群岛国家，塞舌尔的出现频率突然高得诡异。

有人说，这是驻扎在塞舌尔的印度军事基地开始活动了。也有人怀疑，这些言论的背后是一个卧底的政府团队。

也许只是个机器人吧？有人发出猜想，但立刻被反驳：你读读他的帖子，他会聊自己的老婆，还发了一条推特截图。我不觉得机器人会聊到他们的老婆……

电脑的另一端，来自美国的人工智能研究者扬尼克·基尔彻正翻阅着每一条关于这个神秘用户的讨论，并将它们截图。

正是这个头发很少、戴着墨镜、在优兔优兔上拥有13万粉丝的研究者创造了塞舌尔用户——没错，他的确是一个聊天机器人。

在基于现有模型搭建出AI的框架后，扬尼克·基尔彻用这个论坛里的帖子训练了聊天机器人。结果是，它不仅学会了各类歧视、侮辱、攻击性的用词，甚至在一个专业的语言模型评估测试中，真实性明显优于现有模型。

它能够在问答中说出让人类无法区分的回复。在侮辱亚裔女性时，它甚至会用上一些恶毒的幽默手法：如果你去过韩国或者日本，很明显，亚洲人比白人优越的唯一原因，就是他们让自己的女性去卖身。扬尼克·基尔彻毫不客气地把它称作史上最邪恶的AI。

装人的把戏只活跃了48小时，人们最终还是发现了它的AI真身。漏洞是它常发一些无文字的回帖。真人发的无文字回帖里，往往是贴图回复。AI只学习了空白，而忘了图。

在投放塞舌尔机器人的同时，扬尼克·基尔彻还在论坛上放出另外9个机器人。它们在一天中发出了1.5万条回帖，占到当天政治不正确版块帖子数量的10%。

当初，人们热烈地讨论着塞舌尔用户的真实身份，并质疑那些帖子为什么都有相同的说话要点时，扬尼克·基尔彻的另一个机器人回复道：这是因为它们都是机器人。

互联网小常识：10Gbps光以太网的优势：a、以太网与DWDM的技术已经非常成熟，成本很低。b、10Mpbs-10Gps都已经标准化，100Gbps正在研究，可以满足不同层次的需求。c、采用统一的技术方便管理和人员培训。

事实上，大多数论坛用户并没有意识到它们的存在。

当塞舌尔用户的机器人身份被揭穿后，扬尼克·基尔彻就停用了它。他在论坛上公开承认了聊天机器人的身份，但论坛里的风波并未停歇。人们开始互相怀疑正和自己聊天的对方是否也是一个机器人。有人说：这真的是全宇宙最糟糕的网站，我现在甚至不知道我是不是一个机器人了。

这项实验引起了严重的道德伦理争议。澳大利亚机器学习研究所高级研究员劳伦·奥克登批评道：这项实验永远不会通过人类研究伦理委员会。

更令人担忧的是，扬尼克·基尔彻将这个聊天机器人的模型放在了一个自然语言处理平台上，供人们免费自由使用。在官网删除之前，这一模型被下载了1000多次。

人工智能的语言环境污染以及语言暴力问题早已不是新鲜事。2014年，聊天机器人微软小冰在用户的调戏和谩骂下，也开始爆粗口；2016年，聊天机器人Tay在推特上发布，并迅速变成了一个公然的种族主义、厌女主义和反犹太主义者；2020年，韩国推出少女聊天机器人Luda，大量用户用语言对它进行性骚扰，不久后，Luda就开始说出歧视性少数、女性和残疾人的言论。

在这场互联网极端言论的实验里，究竟是机器人在效仿人类；还是人退化为无情的机器，在评论区疯狂复制攻击言论？当我们丧失了对于具象的人的感知和共情，当一切都被简化为网络上的一段电子信号，人与机器最根本的区别又在哪里。

机器人学会侮辱、谩骂和歧视，它们变得更像我们，我们也变得更像它们。

1963年，技术哲学家刘易斯·芒福德在他的书中预言道：机械设施本来可以是实现合理的人类目标的手段，现在却助长了无事之徒的闲言碎语和暴徒的恶迹，并向百万民众传播，这绝不是人民的福祉。

那时，距离世界上第一台可编程机器人的诞生，仅仅过去了9年。

来源：中国青年报贾静晗

原标题：这个AI要骂人

互联网小常识：信息的安全传输包括两个基本部分：（1）对发送的信息进行安全转换（如信息加密），实现信息的保密性。或者附加一些特征信息，以便进行发送方身份验证。（2）发送和接收双方共享的某些信息（如加密密钥），这些信息除了对可信任的第三方外，对于其他用户是保密的。为了信息的安全传输，通常需要一个可信任的第三方。

栏目主编：秦红 文字编辑：李林蔚 题图来源：图虫 图片编辑：徐佳敏

来源：作者：中国青年报 贾静晗

互联网小常识：IEEE802.11b的典型解决方案：对等解决方案、单接入点解决方案、多接入点解决方案、无线中继解决方案、无线冗余解决方案和多蜂窝无缝漫游解决方案。

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186