《所罗门的密码AI时代的价值、权力与信任》

［德］奥拉夫·格罗思［美］马克·尼兹伯格 著

董丹丹 译

中信出版集团出版

无论是在医学、金钱还是人类情感方面，由AI驱动的技术在我们的生活中扮演着越来越重要的角色。随着我们将更多决定权交给机器，我们面临着关于保持安全、保住工作和掌控我们生活方向的新问题。这些问题将挑战人类对价值、权力和信任的理解。新的AI技术可以驾驶汽车、治疗受损的大脑并推动工人提高生产力，但它也可以威胁、操纵我们，并使我们与他人疏远。它可以让国家与国家对立，但它也可以帮助国际社会应对一些重大的挑战，从粮食危机到全球气候变化。

针对这些问题，作者从伦理学的角度入手，在全面分析当前世界各国AI发展水平的基础上，探讨了人类与AI共生、协作的关系，并为读者描绘了未来AI的应用前景。

所罗门王是财富和伦理智慧的象征，但也是一位有缺陷的领导者。当建造未来的AI系统时，我们应注意到所罗门王的警世故事。否则，我们的人类社会将像他的王国一样走向衰落。解决方案不会一蹴而就，但机器也许能让我们成为更好的自己。

>>内文选读

2017年，牛津大学的一项研究登上了新闻头条。该研究指出，在未来的20年里，美国47%的工作将面临自动化的“风险”。麦肯锡在同年12月发布的一份报告中称，全球约有一半的工作已经可以利用现有技术实现“技术上的自动化”了。据估计，到2030年，也就是10年后，将有多达3.75亿名工人不得不转向新的职业。其他研究人员和智库对人工智能扰乱工作的看法更为细致入微，在某些情况下得出了不同的结论。我们参与的伯克利工作和智能工具及系统（WITS）项目的工作组探讨了人类如何在智能工具时代塑造世界和工作场所。跨学科合作主要从任务的视角看待人工智能对工作带来的技术性改变。另一项德国研究表明，智能技术不会导致大规模失业，但会对某些工作的任务构成和就业产生结构性影响。其影响对制造业是负面的，对服务业可能是正面的，而且对男性的影响可能大于女性。一些智库和咨询公司的看法更为乐观。例如，埃森哲2018年1月发布的一份报告显示，企业如果积极投资最先进的人机协作，那么到了2022年，其营收将大幅提高38%，员工规模将扩大10%。

最终，问题不在于工作是否会改变，工人是否会被取代——许多时候就是会如此。这甚至不需要超级智能就会实现。我们在2018年已经看到的狭义智能体的发展将会使更多的工作自动化。问题是，这些转变将会以多快的速度发生，我们能否跟上它们的步伐（特别是在教育和劳动力培训方面），以及我们能否发挥想象力，看到这些变化将带来什么样的新机遇。不过，我们总是有事可做。正如奥莱利媒体公司的创始人兼首席执行官蒂姆·奥莱利在他的视频《我们为什么永远不会失业》中所说的那样，我们的办法总比困难多。但是，适应新的工作性质需要发挥想象力并做好准备。卢德分子是正确的，工业化威胁着他们的生活和福祉，因为他们没有足够的想象力去看到最初的破坏之外的东西。大多数公司只看到他们眼前的，以及智能机器能做得更好、更节省成本的工作，但他们不会看到未来工作需要的技能，比如人机合作经理、数据侦探、首席信用官，或Cognizant咨询公司在2018年的报告中提出的其他18个“未来工作”。

然而，即使有大量资源的支持，想象也只能止步于此。如果美国企业只需要现金来让自己和未来的美国劳动力做好准备，那么它们早在2017年初就会使用它们拥有的1.8万亿美元的现金储备了。企业有充足的战略依据来维持如此巨大的流动性，这使它们能够对市场动荡做出快速反应，并为新产品和服务的研发提供动力。然而，要对未来工作、收入和学习这些新概念进行投资，需要它们长期关注全球和本国经济的需求。在短期股东利益的驱使下，很少有公司有足够的动力去想象一个尚未被定义的未来。

政策制定者可以选择一条更明智的道路，旨在提高企业的生产率和竞争力，同时让劳动力为第四次工业革命做好准备。首先，他们可以在清洁能源、技术设计和3D制造等领域建立激励机制，鼓励公私合作，促进企业对未来防御性工作的研发和培训进行投资。各国政府可以考虑采取类似的激励措施，投资民用和商业基础设施，包括创新的交通解决方案以及为发展新经济重振老制造业中心。他们还可以将同样的激励逻辑应用到经济适用房的投资上，这样，旧金山、上海、柏林、孟买等全球经济热点地区可以吸引更多有识之士。

不幸的是，从目前的形势来看，很少有国家在战略上帮助工人完成这样的转型。因此，我们需要培训工人来从事这些工作，其中许多工作所需要的技能或技能组合在当今职场中是闻所未闻的。公私合作关系可以定义未来工作类别的轮廓，构建基于项目学习的线上或线下混合培训模式，并提供学分制的技能提升项目，包含微课程和教育证书。他们可能会推出综合性的企业学徒计划，类似德国的宝马和大众等公司在本土开发再引入美国的那种。技能背景较弱的工人可以通过参加这些项目，快速地提升自己的技能，获得额外的税收抵免，甚至可能获得一项全民基本收入来支持他们的发展。

通过结合企业与劳动力的“救济和再培训”项目，政府可以改变现有的人和技术竞争的思维模式，并打造能够适应未来的工作，以实现更高的综合生产力，从而使自己成为高科技未来的开拓者，帮助人类释放潜力。但即使在当今职场结构中，认知科技也可能帮助企业提高生产率，并通过对我们动机和意图的深刻了解，为员工带来更大的回报。它甚至可能让我们的潜意识为我们工作。例如，由沃伊切赫·厄齐梅克领导的波兰初创企业One2Tribe，通过一个人工智能平台来帮助客户激励员工，该平台分析员工的个性，然后提供奖励，以鼓励销售或提升电话客服水平。该公司综合运用了心理学和计算机科学的专业知识，但最重要的见解之一来自简单的反复试验。厄齐梅克说，除非员工可以选择加入或退出，否则他们会反对以这种私密的个人方式来推动行为的系统。因此，One2Tribe要求客户只在自愿的基础上使用该系统。他说，通过奖励，通常会有约60%的符合条件的员工参与进来。

厄齐梅克解释说，这个平台的运作方式很像电子游戏中的流动模型，小心地把握挑战和奖励之间的平衡。但它更进一步，平台的心理学专家测试了从实时反应到实际大脑功能的所有指标，这样他们就能更好地理解挑战与奖励的关系，找出对每个人最有效的方法，然后动态调整它。他说，挑战和奖励之间的时机安排尤为关键。一名员工可能在一个更大的周目标奖励下能达到更好的结果。而另一名员工可能会在每天获得更小的奖励时取得更好的效果。该系统通常会分发一种虚拟货币，员工可以用它交换其他物品。“我们开发人工智能是为了平衡目标和需求，”厄齐梅克说，“我们会考虑个人的技能、性格特征，然后试图创造一个相应的激励场景。”

当然，One2Tribe对员工行为微妙和深刻的影响自然会引发人们对操纵行为的担忧。一开始，这个平台运作得很糟糕，直到厄齐梅克和同事意识到，使用这个系统必须是员工的自愿选择。但即使是在自愿的基础上，也需要有保障措施来确保公司不会在没有制衡约束的情况下部署类似的人工智能系统。我们的未来不需要外部激励和游戏化的奖励来把我们耍得团团转，或者更糟的是，把我们当作毫无成就感和目标、只会机械生产的机器。个人、社会和整个地球需要我们从内而外去思考什么是正确的，而不仅仅是看表面的对错。

>>作者简介

［德］奥拉夫·格罗思，霍特国际商学院政策、创新与经济学教授，数字未来项目主任。世界经济论坛全球专家网络成员。Cambrian AI公司创始人兼CEO。他曾多次为《连线》《哈佛商业评论》《金融时报》等媒体撰稿。

［美］马克·尼兹伯格，加州大学伯克利分校人类兼容人工智能中心（CHAI）执行主任。