国际人工智能联合会议(第五届国际人工智能联合会议是哪一年)

 

1973年，有三份著名的关于算法伦理的研究发表，这代表了当时顶尖学者对人工智能的前沿思考。反观他们当时提出的问题与建议，即便生活在今天的我们也能感到一丝似曾相识——早在半个世纪前，许多重要的问题已经被提出和讨论。

而将这些文章与算法伦理的当代研究进展相比较，在历史视角下，我们也或许更容易找寻到对人工智能治理、算法伦理研究的定位。

文 | 朱悦

圣路易斯华盛顿大学法律博士(J.D.)候选人

复奏与变调：1973年

▌IJCAI 国际人工智能联合会议

计算机应用日益复杂、对人类事务影响愈深。

1973年，至今仍有声名的IJCAI（国际人工智能联合会议）讨论了一组影响深远的主题：谁在资助人工智能？人工智能已有、将有什么应用？以及人工智能会造成什么社会影响？会上，Firschein等四位学者综合众多专家的意见，发表了一篇切题的综述。

这篇综述信息量很大，有趣内容也很多。例如，在人们最喜闻乐见的预测环节，超过60位专家中竟无人认可人工智能将在5年内达到成人水平，20人认为这需要50年，26人认为50年也不够。

同时，几乎所有专家均认可人工智能将在10年内为各行业带来显著红利。

互联网小常识：SNMP有三个版本版本1是最基本最简单也是当前最主要的。版本2不完善。版本3刚推出还没有完全推广。SNMP采用一种分布式的结构。一个管理站可以管理控制多个代理；反之，一个代理也可以被多个管理站所管理、控制、为此，SNMP采用了“团体”这个概念来实现一些简单的安全控制。

更有趣味的是，在对人工智能影响的分类分级评估，及其衍生的伦理问题的讨论。在论及前者时，关于自语音转写、自动驾驶、玩耍游戏、机器人医疗等话题应有尽有。

在伦理方面，这篇文章大体分为三小节：

第一节是放眼星空：预测人工智能技术发展的长期影响；第二节俯视大地：点出人工智能产品的三类具体问题；最后，文章还提出了极简洁的方案。

谈及人工智能的长期影响，文中列举了六类：

疏离人与人的交往；令价值判断不可见（例如，面临不同目标时，自动驾驶内蕴的价值该如何取舍？）；人的独特性消弭；人将离不开机器；机器取代单调繁琐的工作；权力因人工智能扩散而集中。

现在来看，每一个题目都足以开出一份阅读清单。

但既视感更强的，还是文章第二节中对三类具体问题的讨论。

第一类问题：安全。此处，自动驾驶汽车与各类可以移动的机器人，再次成为安全问题的标靶；第二类问题：隐私。例如，对个人数据的采集与使用应当施加适当的安全要求；第三类问题：原文以伦理命名。细究后发现，实际是对特定组别的偏见。

文章的第三节提供了一份极简方案，初看之下显得平凡，但今天再回过头去看，大概比当下为各行业带来显著红利的说法还要超前。简而言之，四位学者提议，设立人工智能伦理审核委员会，由法律、政治与技术社区等各界人士组成，建言立法、起草标准、编撰指南、引领研究……

▌斯坦利屋准则

如果认为这篇文章只是吉光片羽，那你就错了。同年，多名计算机科学家、律师、心理学家、历史学家、哲学家、官员和企业经理，在加拿大斯坦利屋举行会议，拟出信息系统（时常与人工智能混用）的五方面准则，共计二十五条。这五大类是：

用户交互、应对例外、信息自主、隐私和伦理指南。

此处依据Sterling在《科学》刊出的版本，细列部分最有意思的条文：

例如，第一类要求：系统语言易懂、有与人交互的界面、可以问责；第二类中，有设立推翻系统决定之程序的要求；第三类是保障信息主体访问、纠错系统中个人信息的权利；第四类要求是在设计过程中评估（隐私）；第五类强调，系统不应欺骗，不操纵人，开发者应自觉拒绝开发秘密的系统。

▌美国国家科学基金会

如果说，无论是IJCAI，还是斯坦利屋准则，仍有些许耽于学理的嫌疑。那么1973年来自美国国家科学基金会（常简称NSF）的、对自动化决策研究的倡议，风向标的意味无疑要再浓一些。不过，两相比较之下，来自NSF的声音，其学理味道愈发浓重。

这篇文章倡议的开篇是四大时势：生产力在发展；社会在加速；信息正在过载；以及，复杂系统研究的兴起。紧接着，是所建议的三大哲学之问：自动化环境篦却人文、危及人的自我图景；价值冲突，比如隐私与安全间的冲突日益尖锐化；以及自动化决策中立，可以向善、可以为恶，一旦为恶怎么办？

紧接着是对算法透明/算法解释较早的系统阐述。研究方向是研究便利公众了解自动化决策系统之‘设计、控制与应用’的机制。其间进一步指出：决策所用数据宜于透明，但也要考量经济因素。对计算机交互界面的需求多次出现。

当然，这里还要排除以古度今的嫌疑：在人机交互尚处草创的时代，透明有没有可能只是指的屏幕？以及解释是否可以通过鼠标实现？毕竟追溯今日的解释，特别是所谓实用主义的解释，从无鼠标到有鼠标，确实可以视为解释方面的一大突破。

原文的雄心远不止于此。不妨摘录几条：

许多此类模型，包含对价值导向的假定。这些价值导向，要明白展现出来，展示为个体和代表公共利益者可以调校（的形式），这样可以在保持（算法）输出稳定（的前提下），去探索不同的价值。对此类问题的研究，应大大有利于将自动化决策系统，转化为大众所用的工具。

让算法为人所用，成为大众的工具——至今我们仍然在努力寻觅这一目标的路上。

复奏与变调：现在

相比1973年，伦理的音量嘈闹了不少，而拘于原则仍然是不变的观感。

作比较研究，首先要阐明相似之处。

互联网小常识：从路由选择算法对网络拓扑和通信量变化的自适应能力的角度来划分，可分为静态路由选择算法与动态路由选择算法两大类。

如果让当年文章字体稍微娟秀，再换掉部分不够新潮的用词，再涂黑发表时间，我们会发现，半个世纪的岁月，丝毫没有在这些原则和建议上留下痕迹。这或许是对相似最好的阐释。

从Jobin等三位学者颇有影响的、对今日近百算法伦理纲领的总结出发，同样可证其相似。透明与解释、公平与公正，再加上隐私，这依然是今日伦理前沿热门榜前三位。自治、尊严、可持续、可信赖等领域内的新生概念，正在崛起，但也很难称之为主流。

当然，理论相似不意味着实践停滞。

近百纲领的发表即属于进展之一。以牛津大学算法伦理研究者Mittelstadt等对解释的研究为代表，又体现在（最近有些议论的）Gebru等在实用数据集上的工作，伦理的学理，日渐有工程的实现。这是与半个世纪前最显著的差别。

尽管如此，另外两方面进展同样不能忽视：

其一，实践层面，伦理研究者为何长期未能落实原则；其二，伦理研究者对原则的实践是否存在理论的极限。

作为实践伦理的先行者之一，Mittelstadt对为何伦理原则长期未能落实的总结，同样广受援引。大部分原因在1970年代即为研究者熟知；此外，缺乏将原则转化为实践的办法是新意最浓的一处。

再具体一点。抽象的原则，需要逐级转录为可供开发者实用的指南；否则伦理研究者，将瞬时化身乱提云山雾罩般需求的产品经理。现阶段的转录更多是两头不靠：指南，既失却了原则的学理，又没能挠到实践的神经，遑论痛点。或者无妨照引Mittelstadt的以下慨叹：

不能去假定，以效率、速度和利润为先的商业过程，会以有意义的方式，落实注重价值的设计框架。

相比实践层面的未能为也，理论层面的实不能也更令人悲欣交集。

仍然是20世纪中叶起，因公共选择理论的兴起，终于可以严格地处理公平这样的概念。近两年来，对隐私的严格分析逐日增加；将价值纳入运筹层面的努力正在勃兴。

正是在这里，伦理研究者收获、面对着许多不可能性结果。比如各类伦理价值，在根子上与准确或效率矛盾；又之，价值之间，如公平与解释可能无法兼顾；以及，与公平的复杂相呼应，公平的不同定义，彼此存在无法调和的冲突。

一幅山水，留白是最悠长的意涵；一则伦理，留白是最纠结的枝蔓。

伦理与伦理之外的权衡、伦理间的取舍、对伦理定义的裁断，终究要做。留白多少、如何留白，不影响裁断的有无，只影响裁断所处的位置。如此说来，我们所知道的仍然不多。

综上而言，相比1973年，伦理的音量嘈闹了不少；伦理与工程之间的桥接，隐约看到远处的合龙景色。同样的，相比1973年，拘泥于原则是比较之下不变的观感。

穿越波峰与波谷

我们会发现什么？

在变与不变之间，持不同先验主义者最容易得出截然相反的结论。

隐私、公平、解释等问题的久久存在，意味着这些问题有跨越时间的重要性，应当用算法治理实现；而隐私、公平、解释的迟迟未能实现，意味着这些问题有本质上的困难，不能贸然治理。这两方面的论题都很常见。

而在历史的视角下，启示大概可以再丰富一些。站在波峰、前眺波谷，倘若期待实质改变，可能还需要一些历经风波，需要不改颜色的观点。原则很重要，但算法伦理还可以有（也需要有）其它许多实用的维度。

从19世纪六、七十年代开始，即使那时候还谈不上真正的人工智能，但算法确实已经在部分领域得到实用。原则所涉及到的难题也确实会在这些算法里显现，而这些难题的解决，却未必直接与这些原则挂钩。

我曾分析过1970年代美国司法系统引入的随机抽选算法：当时，法院将用于抽签的大木筒换成神秘的电脑随机抽选，人们难以理解，且频繁发生公平性问题。一个匪夷所思的错误就足以让一个县（郡）的人口，被完全排除在抽签以外。然而，定位这些错误可能需要四、五年的时间。

面对各式错误，当时适用于随机抽选的法律应对在今天看来可能更像是缝缝补补，并不存在简洁的体系——也许压根就谈不上解决，而更像是将就。各地星罗棋布的规则、技术的演进、渐进的标准化......层层累积下来，最终摞成了对抽选问题的补丁。

虽然结果未必完美，但在原则以外，如何为伦理的疏漏打补丁，是值得考虑的前行方向之一。

可行方向之二，是做一个提出需求更加切实的产品经理，或者像另一个流行的概念所说，做法律的工程师。伦理学人和产品开发者之间，应当相向而行。

这一趋势，已见端倪。算法伦理前沿在迈向更加精深、更为严格的理论分析的同时，同样呈现出一定的在地化。伦理研究者开始参与开发者晨会，查看具体产品的日志，让自己与开发者在一定程度上难以区分。近期，类似工作将越来越多。

最后，也是最值得期许的方向，是在了解原则与原则之外的基础上有所超越。时至今日，无论是原则具体种类，还是编织原则的经纬，理论层面的路径依赖依旧相当明显。在前两方向上前行，达到足够幽胜的境地、实践对现实的反哺，尤其可期。

将镜头再拉远：浩瀚汪洋，比一角峰谷更加广阔。在2020年的时势下，算法以迅捷狂骤姿态闯入每个人的生活。让算法可以调校、成为大众工具更加紧迫。

在这个意义上，聚焦极目处，中国风格的算法伦理正在升起。

结语

以上，选取1973年为切片与今日比较，再探讨算法伦理的三种前行方向，每一步都相当简略、且相当初步。比如哪怕在1973年前后，也有比此处所示还要丰富得多的资料。又比如，对变化如此频繁的领域，断言失之过急或过缓，都属常见的情况。

诚如此，对伦理研究而言，复奏既闻，已晓新声；风起水涌，山鸣谷应。

平凡的工程缀补，冉冉的东升霞日，都是正在努力、并所期甚远的方向。隐私、公平、解释、问责、人……假如站在2073年回望，我们应当会感慨：治理的特色、风格、气魄，都已大有不同。

互联网小常识：网桥最主要面临的问题是帧转发率低与广播风暴，影响其性能的主要参数是：帧转发率与帧过滤率。

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186