人類未来研究所（，缩写FHI）是牛津大学曾设立的跨学科研究中心，行政上隶属该校哲学系。研究所由哲学家尼克·博斯特罗姆（）创办，2005年在牛津马丁学院（时称詹姆斯·马丁二十一世纪学院）资助下成立，汇集哲学、计算机科学、数学、经济学和社会科学等领域的研究人员，探讨可能决定人类长期前景的重大问题。
研究所的主要议题包括、全球灾难风险、人工智能安全与治理、生物安全、人类增强、、数字心灵、宏观战略、有效利他主义及长期主义。其研究和公共传播推动了人工智能生存风险及人类长期未来问题进入学术、政策与公众讨论。研究所于2024年4月16日关闭。
历史
创办与早期研究
研究所成立时原定运作三年，由博斯特罗姆担任创始所长。詹姆斯·马丁（）經牛津马丁学院提供初始资金；研究所早期与共用办公空间，并把对技术变革的前瞻研究同实用伦理学结合。2006年至2008年，研究所参加欧盟资助的ENHANCE项目，牛津团队主要研究认知增强的伦理和社会影响。此后，研究重点逐渐集中于人类增强及其他变革性技术、全球灾难与存在风险，以及如何在高度不确定条件下开展判断和决策。2008年，研究所举办全球灾难风险会议，博斯特罗姆与米兰·M·契尔科维奇（）主编的《全球灾难风险》（）亦在同年出版。该书讨论自然灾害、核战争、生物技术、纳米技术、人工智能及社会崩溃等可能在全球尺度造成严重损害的风险，并尝试建立跨风险的分析框架。这项会议和出版计划成为研究所建设全球灾难风险与存在风险研究领域的重要组成部分。《纽约客》报道指出，该书使博斯特罗姆及研究所的人工智能风险研究在硅谷和公共领域获得显著关注，同时也引发人工智能研究者的强烈分歧。
研究所同时参与牛津马丁学院“未来技术影响计划”。卡尔·贝内迪克特·弗雷（）和迈克尔·A·奥斯本（）在该计划中建立职业自动化-{zh-cn:概;zh-tw:機}-率模型，估计美国约47%的工作機會处于高计算机化风险之中；论文后来发表于《技术预测与社会变革》。
2015年，生命未来研究所向人类未来研究所和剑桥大学提供100万英镑，开展机器智能的技术与政策研究；资金来自埃隆·马斯克和开放慈善项目等捐助者。牛津大学与剑桥大学据此组建联合的战略人工智能研究中心，并扩充人工智能安全研究。此前的2014年，《独立报》刊登斯蒂芬·霍金、斯图尔特·罗素、马克斯·泰格马克和弗兰克·维尔切克的联合评论，将人类未来研究所列为当时少数专门研究人工智能等生存风险的机构之一。
2017年，政治学家艾伦·达福（）建立人工智能治理计划，研究高级人工智能对国际安全、权力关系、制度设计及国际合作的影响；该计划后来成为研究所最大的团队，并于2021年脱离牛津大学，改组为独立的。
研究所的最终报告称，牛津大学哲学系自2020年起冻结其招聘与筹款，导致多名高级和青年研究人员离职；哲学系于2023年底通知剩余员工不再续约，研究所遂于2024年4月16日关闭。博斯特罗姆和桑德伯格把这一过程形容为长期“行政阻力”及官僚程序造成的衰亡。
牛津大学发言人则表示，校方会定期审查最适合学术研究的组织结构，关闭决定是在研究治理程序中作出；校方承认研究所对新兴领域的重要贡献，并称相关研究可能继续由校内其他研究人员承担。研究所关闭后，官方网站保留了论文档案及桑德伯格撰写的最终报告。研究所研究的风险包括核战争、自然或人工制造的流行病、人工智能失控、纳米技术、極端氣候变化、天体撞击和未知技术危害，并发展风险分类、观测选择效应、预测和极端不确定性决策方法。
“宏观战略”研究试图在多种相互关联的技术、制度和价值不确定性中，寻找对人类长期未来影响最大的决策。相关工作和有效利他主义和长期主义相互影响，涉及研究优先次序、未来世代的道德地位、人口伦理、信息危害、单边主义者诅咒和道德不确定性。研究所与有效利他主义中心合作建立全球优先事项项目，研究政府和慈善资源应如何配置，并参与推动全球优先事项研究成为独立学术领域。
研究所也研究人类增强、神经伦理、全脑仿真、数字心灵、纳米技术、地外文明和极端丰裕社会。桑德伯格曾就向地外智慧生命发送信息主张审慎，认为高度先进文明既可能带来知识与帮助，也可能构成难以评估的危险；他同时认为“天空为何寂静”可能关系到人类文明能否长期存续。研究所晚期还开展“数字心灵”和“宏大未来”项目，分别研究人工智能是否可能具有感受能力及其伦理地位，以及未来智能、能源和文明发展的物理与计算极限。
政策与公共传播
研究所除发表学术论文和专著外，也通过会议、博客、报告、议会证词和政府咨询推动新兴议题进入政策讨论。博斯特罗姆曾向英国上议院人工智能委员会作证；奥德及其他研究人员就国家安全、极端风险、疫情准备和人工智能政策向英国议会提交证据。研究人员还参加2015年波多黎各人工智能会议和2017年阿西洛马会议，并同学术界、产业界及非营利组织建立合作网络。
2023年，博斯特罗姆在1996年一封电子邮件中的种族主义言论被公开。他随后道歉并否定这些言论，牛津大学启动调查，有效利他主义中心等相关机构亦公开谴责。此事加剧了外界对博斯特罗姆、人类增强、长期主义和优生学历史联系的争论。不过，牛津大学公开解释关闭决定时仅提到研究治理和组织结构审查，并未说明该调查是关闭研究所的原因。
主要出版物
*
*
*
*
*
*
*
参考资料
外部链接
*
- [https://ora.ox.ac.uk/objects/uuid:8c1ab46a-061c-479d-b587-8909989e4f51 《人类未来研究所2005—2024年最终报告》]，牛津大学研究档案库
评论 (0)