人工智能对齐
人工智能对齐（，或譯為人工智慧校準）是指引导人工智能系统的行为，使其符合设计者的利益和预期目标。一个已对齐的人工智能的行为会向着预期方向发展；而未对齐的人工智能的行为虽然也具备特定目标，但此目标并非设计者所预期。 人工智能系统的对齐十分难以实现，一个未对齐的系统可能会在某时刻发生故障，或是产生有害后果。对人工智能的设计者而言，从设计之初就考虑到未来可能发生的所有情况是不现实的。因此，比较常见的办法是简单的指定某个特定目标。然而，人工智能…
标签：#人工智慧安全
共 4 篇文章
通用人工智能的生存风险
通用人工智能的生存风险是假设通用人工智能的重大进展可能导致人类灭绝或其他一些无法逆轉的全球灾难。 生存风险（“x-risk”）学派的论点如下：人类物种目前支配着其他物种，因为人类大脑具有其他动物所缺乏的一些独特能力。如果人工智能在一般智力上超越人类，成为“超智能”，那么人类将难以或无法控制。正如山地大猩猩的命运取决于人类的善意，人类的命运也可能取决于未来机器超级智能的行为。 参见 通用人工智能 图灵测试 生成对抗网络 Transform…
深伪技术
深度偽造（），簡稱深偽，是英文「deep learning」（深度學習）和「fake」（偽造）的混成詞，專指基於人工智能的人體圖像合成技術的应用。此技術可將已有的圖像或影片至目標圖像或影片上。偽造面部表情并將其呈現至目標影片的技術在2016年出現，此技術允許近實時地偽造現有2D視頻中的面部表情。为发展Deepfakes检测技术，Facebook联合微软举办全球Deepfakes检测竞赛。 技术背景 换脸伪造是通过交换两张图像的人脸达到伪…
對抗式機器學習
對抗式機器學習（Adversarial machine learning）是針對机器学习演算法的攻擊，以及針對這類攻擊的防範。2020年的一個問卷統計，實作机器学习的人認為需要針對工業應用的机器学习有進階防護。 機器學習技術大部份是設計來解決特定問題，其假設是訓練資料和測試資料是由相同統計分布下的資料所產生的（独立同分布，IID）。不過，在一些高風險的應用上，可能會違背上述的假設，使用者刻意的提供違背上述統計假設的假資料。 對抗式機器學…