Q1  人工智能是一个文化概念吗?

米埃勒：答案当然是肯定的。人工智能作为一种表现形式，有深刻的社会—科技特质，主导着人们的想象，特别是有关社会-科技的想象。不同文化会有不同观点和风险偏好。欧洲人相对更为谨慎，一定程度上有点儿技术恐惧，比较科技现实主义。而中国、美国和一些发展中国家却在技术使用上更加主动，也对新技术更为“痴迷”。所以，从定义的角度来说，因为地区发展程度的不同，AI显然是一个文化概念。此外，人工智能有着天然的文化属性。因为价值观不是凭空而生的，价值观扎根于文化之中。

宋冰：是也不是。在讨论文化的时候，价值观显然是无法绕开的话题。我个人总结出一个分析价值观的“三级框架”，第一级是基础价值观，第二级是中层级价值观，第三级是表层价值观。

基础价值观指的是从人类和其他存在的整体性利益出发来思考的共同价值观。在基础层级我们会看到的价值观有：互联性、连通性、关系性、互嵌性和共生性。在这一层级，文化之间的差异会失去意义，而变得并不是那么重要。这些价值观尤其在人类生存级别的风险和挑战中凸显重要性，比如新冠疫情下的人类社会价值观。

表层价值观是随着现代化和经济全球化的发展，价值观体系发生转换和融合的结果。比如，追求繁荣、财富、效率、便利和竞争。在该层级，文化的差异也处在被抑制的状态。这也解释了为何不管来自什么样的文化和地理区域，全球都在寻求经济发展。

在中层级价值观，文化就会成为关键因素。比如某些程序的应用方式、大众对人工智能和风险评估的总体态度、不同价值观如何排列优先顺序、社会发展如何与个体权利保护相匹配、平衡，以及不同政治治理的形式和治理文化等，以上种种都使得不同文化和社会对人工智能有着不同的理解和应用。

从方法论的角度而言，基础价值观注重整体性、共生性思维方式；而在中间层级和表层占据重要位置的，更多是二元思维和零和博弈。这三个层级的价值观念是互相交织的，其中当前全世界围绕人工智能和伦理的讨论，主要放在表层和中间层级的价值观。但这些原则和理念，真的可以成为建构人类和其他存在的共同前提的基础价值观吗？坦白来讲，如果没有基础价值的引导，全球范围内的你争我吵会持续很长时间。

Q2  世界上不同地区之间是否存在趋同的可能性？有没有可能形成公共定义和共同价值观？

米埃勒：是的，存在这样的可能，而且我们也必须力争求同。我说的“求同”指的不是我们会对所有事情都持一致意见。有互不相同的社会系统、有存在差异的社会经济和文化基础、有不同的价值观，这正是多元化的美妙之处。

求同的关键挑战，是如何协调“普世化”与多元化，而非尝试把所有的东西都变得一样。我们需要说明什么是本土和多元的，什么必须是共同和全球性的。如果要给出对一个全球共同立场的描述，我想不同区域之间存在着一些相通之处，它们已经反映在许多全球的共同目标中。同样，我们可以努力调和、协调，在保障各方利益的前提下，践行自由、交往、民主的价值观。

这个过程可能充满困难。在这种情景下，欧洲、美国可能会对于能否和中国达成一致感到焦虑，这种焦虑可能会被利用作攻击和排挤的藉口。我们看到中国希望参与对话，一起推进共同立场的达成。而美国和欧洲方面则有很多阻力，怀疑中国希望达成共同立场的初衷是否真诚。所以一方面找到适当的合作分寸，另一方面明确界限，这个分寸很难把握。

但是，至少我们应该寻求语言和概念上的共识。关于“弱人工智能”“强人工智能”等概念，即使是西方科学工程界都会持不同意见，有很多共识亟待达成。在我看来，与中国互动是很有利的。

宋冰：针对“求同”这个问题，我认为世界各国已经在很多方面找到了共同点。现在有成百上千的“人工智能原则”，不只有美国和欧洲国家的，还有中国等亚洲国家的。我发现这些原则基本都围绕着五个主题。其一是技术相关的，比如安全性和可解释性。其二是个人权利相关的，比如隐私保护。第三个方面是公众性相关的，比如分享、合作、和对话。第四个方面是追责相关的，比如可信度和责任。还有一些广义上的原则，比如民主、人权、公平和人道主义精神等。

总而言之，一般共识早已形成。重要的问题是，在不同文化背景下一般共识会如何被解读和应用？正如我刚才分析价值观框架时所指出的，中间价值观层级才是大多数文化差异显现的地方。在当下的地缘政治环境中，我对化解差异是持悲观态度的，因为国家与国家之间缺乏信任。在阅读有关中国的媒体报道时，你会发现在这些报道中往往从西方视角出发，以不信任的态度看待中国和中国政府，存在许多误解和夸大的现象。同样，在中国，对西方政府和西方媒体也并不信任。某种意义上，我们生活在两个平行的世界里，处于非常复杂混乱的媒体环境中。因此，我想知道如何才能超越这种二元竞争心态，继而提出关于基本价值观的讨论。我认为大家聚在一起，一同找出世界各国应该共同应对的问题，这是加强对彼此了解的起点。

关于可供讨论的内容，举两个具体的例子。理想状态下，联合国、欧盟或其他非政府组织可以组织开展一些全球性的项目，真正让不同文化背景的人参与进来。例如，面对全球疫情，就像是面对地震、海啸等自然灾害，美国、欧盟、中国、俄罗斯可以共同应对，运用人工智能建立警示机制，寻找应对方法。也许无法消除地缘政治，但是我们可以在全球范围内付出更多努力，向着全人类共同的福祉趋近，而非互相阻碍。

可以讨论的另一个领域是人工智能的武器化。各国都深受地缘政治影响，不太可能就此停下人工智能武器化的研究，但是这些国家应该一同讨论底线问题。例如出现矛盾时不能攻击哪些民用设施和关键的基础设施，无关文化价值观和政治倾向，有些底线需要各方恪守。

米埃勒：我们看到了两种互补的方法出现。一种是自上而下的全球合作，讨论价值观等本体论的、形而上学的因素。我同意你所说的，由于战略上的紧张关系，这种方法不是很有效。因为缺乏信任，我们会觉得对方在将价值观工具化，以满足自己的战略利益。

不过，我认为当采取自下而上的方式时，美国、欧洲和中国，在保证自动驾驶汽车安全性上可能会存在共同立场。我们都同意建立独立审察和认证机制，围绕这些标准展开行业竞争。而作为全球整体，我们需要找到独立审察和认证的最佳实践，来体现安全性和可追责性的共同价值观。

关于上述三个地域是否有能力达成最佳实践的共识，如你所说，我们不能过于乐观。因为行业内在认证和标准问题上有很多竞争。目前，欧洲已经决定将价值观作为获取竞争力的优势。这就产生了一种张力，即欧洲各国认为他们的人工智能优于其他国家，因为它尊重价值观；同时又尝试寻求不同国家的共同立场。

当我将欧洲人工智能技术与中美两国的工业产能做对比的时候，坦白来讲， 欧洲的确稍逊一筹。我们可以继续创建比赛规则，而不在掌握比赛技巧上投入太多精力。但归根结底，有话语权的人是掌握比赛技巧的人。所以，对于欧洲来说，我们要推动“可信赖的人工智能”这一价值观，也相应有道德和政治义务去加快产业发展，掌握人工智能技术资本，提高产业竞争力。欧洲将继续在监管和政策方面帮助全球消费者，但也要考虑欧洲工人的利益。将价值观的长期目标与弱势的产业现实相结合，迫在眉睫。

Q3  与中国对话的确很重要，为什么中国不是人工智能全球伙伴关系的一部分呢？

宋冰：一般来说，欧美达成共识的方式是：首先发布一个宣言、起草一系列原则、收集签名并让大家相信并同意这些原则。由于价值观探讨可以用于达成地缘政治目的，人们对此大都持怀疑态度，结合当下的环境更是如此。我认为，如果要提出全球共同的价值观，应该一开始就请所有相关方参与进来，而不是仅让相关方在已经草拟的内容上签字。

再谈谈刚才你之前提到的问题，就是欧洲既希望主导价值观探讨，同时又认为自己的价值观体系是最好的，两者之间是否存在张力？我确实看到了这个问题。欧盟《人工智能白皮书》中有这样的表述，虽然我们还不能预测未来的数字技术，欧洲的价值观和伦理原则、社会和环境规范必须适用。——我觉得这个论述尤为奇怪，你们甚至都不知道发展的轨迹，但却断定你的价值观一定可以适用，还提到会将这些价值观输向全球。我认为如果想要达成全球共识，我们需要摒弃对价值观的自大和僵硬的态度。

米埃勒：关于全球人工智能伙伴的问题，七国集团及其之外的国家希望与“志同道合”的国家组成“联盟”，共同设想愿景和途径，有责任地掌握人工智能的力量，构建我们想要的未来社会。这已经说得很清楚了，在一开始就没有选择邀请中国来组成这一联盟。至于这么做是好是坏，就是另一个讨论了。但我认为志同道合的国家是可以合作的，这也是需要全球性平台来搭建桥梁的原因。正因此，联合国秘书长成立了人工智能顾问组，试图在包括中国在内的发展中国家和七国集团之间搭建桥梁；并且成立了全球人工智能伙伴项目，旨在推动可信的人工智能应用，以增进人类福祉。