人工智能伦理学
人工智能的伦理学涵盖了人工智能领域中被认为具有特殊伦理意义的一系列广泛议题。这包括、、问责制、透明度、隐私和，尤其是在系统影响或自动化人类决策的领域。它还涵盖了各种新兴或潜在的未来挑战，例如（如何让机器按伦理行事）、致命自主武器系统、军备竞赛动态、人工智能安全与对齐、技术性失业、人工智能助力的虚假信息、如何对待具有的某些人工智能系统（人工智能福利与权利）、人工超级智能以及生存风险。要理解人工道德主体的本质，需要借助一些哲学概念，比如关于…
标签：#人工智能风险
共 7 篇文章
人工智能对齐
人工智能对齐（，或譯為人工智慧校準）是指引导人工智能系统的行为，使其符合设计者的利益和预期目标。一个已对齐的人工智能的行为会向着预期方向发展；而未对齐的人工智能的行为虽然也具备特定目标，但此目标并非设计者所预期。 人工智能系统的对齐十分难以实现，一个未对齐的系统可能会在某时刻发生故障，或是产生有害后果。对人工智能的设计者而言，从设计之初就考虑到未来可能发生的所有情况是不现实的。因此，比较常见的办法是简单的指定某个特定目标。然而，人工智能…
AI垃圾
{{multiple images | total_width = 300 | perrow = 2/1 | image1 = Shrimp Jesus example.jpg | alt1 = 一座男子的雕像，腰部以上淹沒在水下，全身覆滿亮橘色的蝦子。他的頭部上方有一圈由蝦子組成的光環。 | image2 = Facebook AI slop, "Shrimp Jesus" 2.jpg | alt2 = 一座男子的雕像高高漂浮在海洋上…
幻觉 (人工智能)
在人工智能领域中，幻觉（，或称人工幻觉）是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。 该术语源自幻觉的心理学概念，因为它们具有相似的特征。然而实际上更相似的概念是“虚谈症（confabulation）”，但“幻觉（hallucination）”一词在人工智能领域已经广为流传。人工智能幻觉的危险之处之一是模型的输出看起来一本正经，而实际上是错误的。 在自然语言处理中 喊出「看！熊猫！」的的圖片，但其生成文字毫無意義]] …
通用人工智能的生存风险
通用人工智能的生存风险是假设通用人工智能的重大进展可能导致人类灭绝或其他一些无法逆轉的全球灾难。 生存风险（“x-risk”）学派的论点如下：人类物种目前支配着其他物种，因为人类大脑具有其他动物所缺乏的一些独特能力。如果人工智能在一般智力上超越人类，成为“超智能”，那么人类将难以或无法控制。正如山地大猩猩的命运取决于人类的善意，人类的命运也可能取决于未来机器超级智能的行为。 参见 通用人工智能 图灵测试 生成对抗网络 Transform…
人工智能监管
人工智能监管是指公共部门为促进和规范人工智能而制定的政策与法律。在全球各司法管辖区，包括像IEEE或OECD这样没有直接执法权的国际组织，人工智能的监管与政策格局都是一个新兴问题。 自2016年以来，为了保持社会对这项技术的控制，已发布了大量人工智能伦理指南。此外，部署人工智能的组织在创建和实施可信赖人工智能、遵守既定原则以及承担降低风险的责任方面，需要发挥核心作用。欧盟已于2024年通过《人工智能法案》，为人工智能建立了一个共同的法律…
偉大的人類
《偉大的人類》（）是教宗良十四世的首份通諭，於2026年5月15日簽署、同月25日發布，旨在探討在人工智慧時代守護人的尊嚴 与以往不同，良十四世亲自在梵蒂冈发表通谕。发布会上还出现了多位人工智能专家，其中包括Anthropic联合创办人。 背景和發布 自就任教宗以來，良十四世便明確表示，人工智慧的崛起是他極為關注的議題。他的通諭延續了《新事》通諭的精神——這部由其同名號的前任教宗良十三世於1891年發表、關於面對工業化時代的里程碑式教會…