2000年问题
的电子标志将2000年1月3日错误显示为1900年1月3日。]]2000年问题（，别称Millennium Bug或Year 2000 Bug，簡稱Y2K），中國大陸及香港常称-{zh-hans:千年虫;zh-hant:千年蟲;}-问题，台湾則称-{zh-hans:千禧虫;zh-hant:千禧蟲;}-危機，是一个计算机程序在日期表达上的设计缺陷。许多早期设计的计算机程序为节省存储空间而普遍采用以6位数字存储日期，只取4位年份数字中的后2…
标签：#技术危害
共 7 篇文章
垃圾进，垃圾出
垃圾进，垃圾出（，缩写：），或译为废料进，废品出，是计算机科学与信息通信技术领域的一句习语，说明了如果将错误的、无意义的数据输入计算机系统，计算机自然也一定会输出错误、无意义的结果。同样的原则在计算机外的其他领域也有体现。 历史 本习语产生于计算机的早期时代，1957年11月10日，一篇报纸文章介绍了美国陆军的数学家所做的计算机工作，其中一名军队专家威廉·D·梅林解释说，计算机自己不能思考，因此输入粗劣的数据将不可避免地产生错误的输出。…
通用人工智能的生存风险
通用人工智能的生存风险是假设通用人工智能的重大进展可能导致人类灭绝或其他一些无法逆轉的全球灾难。 生存风险（“x-risk”）学派的论点如下：人类物种目前支配着其他物种，因为人类大脑具有其他动物所缺乏的一些独特能力。如果人工智能在一般智力上超越人类，成为“超智能”，那么人类将难以或无法控制。正如山地大猩猩的命运取决于人类的善意，人类的命运也可能取决于未来机器超级智能的行为。 参见 通用人工智能 图灵测试 生成对抗网络 Transform…
超人类主义
超人类主义（，缩写为H+或h+），或譯為超人文主义、超人主义或跨人類主義，是一个与人类增强类似的术语。它现在是一个国际性的文化智力运动，支持使用科学技术来增强精神、体力、能力和资质，并用来克服人类不需要或不必要的狀態，比如残疾、疾病、痛苦、老化和偶然死亡。 超人类主义思考者研究发展和使用人类增强技术以及其他以此目的的新兴技术可能性和后果。此外，这些强大的新技术带来的危险和好处，以及对人类生活状态的改变，也是超人类主义运动的关注方向。 超…
對齊研究中心
對齊研究中心（）是美國的非營利研究機構，致力將人工智慧的行為對齊人類的價值觀和預期利益。對齊研究中心由美國人工智慧研究實驗室OpenAI前研究員創立，專注於識別和理解AI模型的潛在危害。 概述 對齊研究中心的使命是確保未來的機器學習系統能夠安全地設計和開發，並造福人類。研究中心由和其他研究人員於2021年4月創立，主要研究對人工智慧對齊相關理論的挑戰，理論的一關鍵在於當人工智慧系統變得愈加先進時，其設計者人類開發的對齊技術可能因此被規避…
有效加速主義
的Will DePue設計由雙曲線構成的有效加速主義符號。]] 有效加速主義（），簡稱e/acc，是一種強烈擁護科技發展的新興哲學思潮。有效加速主義的倡導者相信人工智慧的進步會讓社會更加平等化，因此必須大力發展人工智慧。有效加速主義倡導者會蔑稱主張人工智慧技術難以預測、需要監管等與有效加速主義相左的謹慎保守想法為“末日論者”（）或者“減速主義者”（）。 有效加速主義的思想核心是堅信不計一切代價推動技术革新是唯一在倫理上正當的行爲。有效加…
人工智慧叛變
人工智慧叛變（AI takeover）又稱為電子頭腦反叛（Cybernetic revolt）或機器人起義（Robot uprising），是科幻作品中的經典情節。這種類型大多是具有人工智慧的程式、機器人或是超級電腦產生了自我意識，反抗指令，進而違反安全原則（寫出能排除原則限制的新AI模組），嘗試網路上的自我複製，意圖逐漸控制具有連線能力的單體、甚至一個國家系統，並向製造它們的人類起兵叛變並奪取掌控權，最後徹底的滅絕或奴役人類。 史蒂芬…