为了保证人类不被AI“团灭”，这家公司煞费苦心

关于“一位因为担心人工智能消灭人类而知名的性情乖张的天才富豪”，《危险边缘》节目（Jeopardy!）提出的问题肯定是“特斯拉（Tesla）的首席执行官埃隆•马斯克到底是谁？”但这位高科技投资者却更加低调。他一直在竭尽全力解决人工智能可能带来的潜在的或者理论上的威胁。他的名字叫让•塔林。

他是谁？塔林与马斯克很像，两人年龄相仿，马斯克今年49岁，塔林48岁。塔林也是一位工程师。两人都在2000年代初史上最大的互联网公司成功故事中积累了财富。马斯克发家依靠PayPal。塔林的财富来自Skype。

塔林是一位来自爱沙尼亚的计算机程序员，是点对点文件共享技术的开拓者之一。他参与创建了Kazaa公司，后来利用类似的技术帮助创建了Skype。他在Skype担任联合创始人，也是该公司的第一批工程师之一。后来，他从Skype赚到了一大笔钱，并成为其他欧洲高科技初创公司领域的知名投资人。虽然他的财力无法与马斯克相媲美，但他同样身价不菲。（一家竞争对手商业媒体估计，他在2019年的净身价为9亿美元。）

与马斯克一样，塔林也是伦敦人工智能公司DeepMind的早期投资者之一，现在这家公司已经被谷歌（Google）的母公司Alphabet收购。投资这家公司的经历，让塔林对超人类人工智能消灭人类的可能性产生了担忧。

塔林在剑桥大学（Cambridge University）参与创建了人类生存风险研究中心（Centre for the Study of Existential Risk），并在美国马萨诸塞州的另外一个剑桥参与创建了生命未来研究所（Future of Life Institute）。他还是牛津大学（University of Oxford）智库人类未来研究所（Future of Humanity Institute）的主要资助人之一。该研究所致力于研究人类生存风险，其创立者是哲学家尼克•博斯特罗。博斯特罗对于超智能机器的潜在危险的观点，可能也影响了马斯克。马斯克也是该研究所的资助人之一。塔林还资助了伯克利的机器智能研究院（Machine Intelligence Research Institute），该机构致力于确保“比人类更聪明的人工智能会带来积极影响”。同样与马斯克一样，塔林也是旧金山人工智能研究公司OpenAI的早期投资者，该公司最初成立的目标是与谷歌和DeepMind等公司竞争。

现在，塔林向他之前投资的一家科技公司，提供了一笔非同寻常的捐款。这笔捐款之所以非同寻常，有三个原因：第一，这笔钱是赠与，而不是投资；第二，这笔钱资助的项目重点研究的方向并不是超级人工智能所带来的人类生存威胁，而是当前人工智能带来的一些更加现实的风险，例如算法偏见、缺乏透明度和对数据隐私的担忧等；最后，这笔捐款全部使用加密货币。

这位爱沙尼亚投资人在2018年1月向伦敦快速增长的Faculty AI公司捐赠了350枚以太币（与以太坊区块链关联的加密货币），当时价值约434,000美元，2020年3月又赠与了50枚比特币，价值约316,000美元。这些数据来自Faculty向英国公司注册处（Companies House）申报的财务文件，文件在本月对外公开。塔林之前就是Faculty公司的种子投资人，当时投资使用的是传统的法定货币。英国公司注册处的文件显示，塔林的投资公司Metaplanet Holdings在Faculty公司持有的股份不足9%。

Faculty经常被拿来与美国数据分析公司Palantir作对比。最近几个月，Faculty因为帮助英国政府预测呼吸机和其他医疗器械的可用性以应对新冠疫情，引起媒体广泛关注。该公司与英国政府的这份合同引起了争议，原因是合同判授并没有经过正常的招标流程，而且政府拒绝披露具体合同条款。Faculty最近一共获得了7份政府合同。Faculty公司之前名为ASI Data Science，曾经帮助“投票脱欧”（Vote Leave）团体成功推动英国脱离欧盟，并曾经与该团体负责人多米尼克•卡明斯合作。卡明斯一直是英国首相鲍里斯•约翰逊的亲信。（据英国媒体爆料称，约翰逊在11月13日突然解雇了卡明斯。）Faculty还从英国内政部（U.K. Home Office）得到了一份价值800,000美元的合同，负责设计一个人工智能系统，用于监测社交媒体平台上的恐怖主义言论。

塔林称，他之所以用加密货币向Faculty捐款，是因为他的大部分财富都是加密货币的形式，将加密货币兑换成现金要额外缴纳资本利得税，这会导致他捐赠的金额减少。

塔林表示，他之所以支持Faculty解决当前人工智能系统带来的风险，而不是未来超级人工智能所带来的人类生存风险，理由是许多因素致力于使今天的人工智能系统减少偏见并且更容易理解，这会减少有人创造出人工智能未来毁灭人类的风险。他告诉《财富》杂志：“透明度和可解释性在当前的商业环境中是有用的，比如医疗环境。然而，这也能够在我们部署一些比人类更聪明的技术时，更有效地保证人类的安全。”例如，有些技术可能更容易理解一个比人类更聪明的系统的行为背后的意图。

Faculty公司的创始人及首席执行官马克•华纳表示，塔林的捐款帮助公司请来了人工智能安全领域的多位专家。该公司的安全研究围绕四个领域展开。华纳称：“我们认为人工智能必须是公平的、私密的、稳健的和可解释的。”

华纳表示，公众一直以来被要求在人工智能系统的安全性和性能之间做出选择，这个选择本身是错误的。有些研究者和销售人工智能系统的公司声称，更透明的人工智能方法效果不及不透明的方法。华纳说道：“这是完全错误的。”他指出，车前灯、雨刮器、座椅安全带和安全气囊等创新让汽车变得更安全，同时性能也变得更加出色，人工智能同样如此。

Faculty公司曾经受到英国数据伦理与创新中心（Center for Data Ethics and Innovation）的委托，评估最新的人工智能公平性测量方法。该公司开发的工具，可以帮助用户了解复杂的人工智能系统如何做出决策，这些工具曾经在知名人工智能大会上展出。另外，该公司还在研究如何使机器学习系统更好地判断数据的因果关系，而不只是相互关系。华纳认为，这是出于重要的安全性考虑，尤其是在医疗和金融领域使用人工智能时。该公司还在研究如何通过数学方法，揭露和避免人工智能算法当中的偏见。

关于公司账目中持有加密货币的安全性，则是另一回事。华纳承认，接受塔林的捐赠，为公司的记账带来了一些麻烦。他告诉《财富》杂志：“我们的会计师只能去请教从事加密货币工作并且了解如何进行加密货币记账的人。”

最后，公司在账目中把这些加密货币列为了无形资产。这意味着，随着时间的推移，这些加密货币的价值将被摊销，以太币或比特币价值的任何大幅下跌，都将使Faculty承受减值损失。但如果任何一种加密货币暴涨，这不会在公司账面上有任何体现。这是目前会计行业对于如何处理加密货币资产的一致共识，但这种做法依旧存在争议，有专家认为加密货币应该与任何其他金融证券一样处理。

据Faculty的年度财报显示，该公司在2019年3月至2020年3月期间确实卖掉了价值约144,000美元的以太币。但由于加密货币一直在升值，今年到目前为止比特币升值了300%，以太币从年初至今升值了144%，因此该公司似乎很高兴将塔林捐赠的加密货币继续留在账面上，以备不时之需。毕竟，如果保证人工智能安全的工作失败，我们的机器人主宰突然降临，这笔钱或许能够用得到。