人工智能安全
人工智能安全（英语：Artificial Intelligence Safety，简称AI安全）是一门跨学科的研究领域，其核心关切在于如何防范人工智能系统可能引发的事故、滥用或其他形式的危害。随着人工智能技术的迅速发展，尤其是在通用性日益增强的大规模模型相继问世之后，人类对其潜在风险的忧虑已不再局限于技术失灵或误用，而逐步延伸至更深远的存在层面——即某些极端情境下，人工智能或许会对人类文明构成生存性威胁，甚至带来不可逆的崩溃。 围绕这一…
标签：#控制论
共 67 篇文章
人工智能
人工智能（，缩写为），是指计算机系统执行通常与人类智慧相关任务的能力，例如学习、推理、解决问题、感知和决策。作为工程学、数学和计算机科学交叉的研究领域，人工智能旨在开发和研究相关方法与软件，使机器能够感知环境、运用机器学习和智能采取行动，并提高达成既定目标的可能性。 人工智能应用中较为知名的例子包括高级网络搜索引擎、聊天机器人、虚拟助手、自动驾驶汽车，以及在策略游戏（如国际象棋和围棋）中的对弈和分析。自2020年代以来，生成式人工智能已…
控制器
在控制論中，控制器（controller）是一依據傳感器信號，來調整發送至致動器的輸出信號，用以改變受控體（plant）狀況的裝置。舉例來說，屋內的空調系統可用溫度控制器，依據溫度計測量的氣溫，以調整冷氣機強度，以達到一個舒適的環境溫度。 廣義上，水龍頭、電力開關都是一種控制器。 參見 模控學 自動控制 伺服機構 反饋 冷媒 參考文獻 Gene F. Franklin, J. D. Powell, and AbbasEmani-Naei…
控制论
控制论（）是探索调节系统的跨学科研究， 它用于研究控制系统的结构、局限和发展。美國電子工程專家诺伯特·维纳在1948年将控制论定义为“以机器中的控制与调节原理、以及将其类比到生物体或社会组织体后的控制原理为对象的科学研究。” 换句话说，这是关于人、动物和机器如何相互控制和通信的科学研究。 控制论与系统论和信息论一起在中国大陆学术界曾被称作“老三论”，是现代資訊技术的理论基础。 在21世纪，控制论的定义变得更加廣泛，主要用于指代“对任何使…
Loab
Loab（ ）是由藝術家兼作家史蒂芬·梅·斯旺森（Steph Maj Swanson）聲稱於2022年4月透過文字生成圖像AI模型所發現的虛構角色。在一篇引發瘋傳的 Twitter（現為 X）推文中，斯旺森將 Loab 的圖像描述為該軟體出乎意料的突現特質（emergent property），並表示他們是在要求模型生成「與提示詞盡可能不同」的內容時發現了這個形象。 最初的提示詞為「Brando::-1」，旨在請求生成與演員馬龍·白蘭度…
輸入信號整形
輸入信號整形（Input Shaping）是數控機床中減少振動的開環控制技術，其作法是產生一命令信號來消除其自身的振動。較早命令信號產生的振動會由後面命令信號產生的振動所抵消。輸入信號整形的作法是將脈衝（稱為輸入整形器）和任意命令信號進行卷積。接著用整形後的命令來驅動系統。若整形器的脈衝選擇得當的話，整形後的命令產生的殘餘振動會比原始命令的振動要小。脈衝的振幅以及時間會依照系統的自然振動頻率以及阻尼比決定。輸入信號整形可以調整到對系統參…
信息论
信息论（）是应用数学、電子學和计算机科学的一个分支，涉及信息的量化、存储和通信等。信息论是由克劳德·香农发展，用来找出信号处理与通信操作的基本限制，如数据压缩、可靠的存储和数据传输等。自创立以来，它已拓展应用到许多其他领域，包括统计推断、自然语言处理、密码学、神经生物学、进化论和分子编码的功能、生态学的模式选择、热物理、量子计算、语言学、剽窃检测、模式识别、异常检测和其他形式的数据分析。 熵是信息的一个关键度量，通常用一条消息中需要存储…
機器學習控制
機器學習控制（Machine learning control、MLC）是机器学习、智能控制及控制理论中的一部份，是由机器学习的方式來求解最优控制問題。主要的應用是一些不適用控制系統方法的複雜非線性系統。 問題和任務的分類 以下是四種常用機器學習控制來處理的問題。 控制參數識別；若控制律的結構已知，但其參數未知，機器學習控制會轉換為參數識別。其中一個例子是PID控制器的參數利用遗传算法進行最佳化，或是離散時間最佳控制的相關應用。 第一類…
人工智能内容检测
人工智能检测软件旨在确定某些内容（文本、图像、视频或音频）是否是使用人工智能（AI）生成的。 截至2023年，这方面的典型案例有诸如GPTZero这样的软件，该软件声称可以检测文本是否是由人工智能生成，有时被大学和高校用于防范学生的学术抄袭。然而，关于这类软件是否可靠的争论不断，同时也存在对教育工作者可能误用AI检测软件担忧。 准确性问题 事实证明，多个人工智能检测工具在准确和全面检测生成的人工智能生成文本方面表现不可靠。在韦伯·伍尔夫…
智力放大
智力放大（Intelligence amplification）也稱為認知增強（cognitive augmentation）或機器增強智能（machine augmented intelligence），是指使用信息技术来增强人类智力。该理论由1960年代的控制论和计算科学先驱发展而来。 有時智力放大的定義和人工智慧（artificial intelligence）恰好相反，後者是建立一個自動化，像是電腦或是機器人的系統，但具有類似人…
自我組織
过程中微米级Nb3O7(OH)立方体的自组织。最初的无定形立方体逐渐转变为结晶纳米线的有序3D网格，如下面的模型所示。]] 自我組織（），在社会科学中也称为自发秩序（），是指一种过程，这种过程中，最初的无序系统中各部分之间局部相互作用，形成了某种形式的整体秩序。当能量供给充足时，该过程无需任何外部主体控制即可自发进行。它通常由看似随机的波动触发，并经由正反馈放大。由此产生的组织是完全分散的，分布在系统的所有组成成分中。因此，这种组织往往…
計算神經科學
計算神經科學，亦稱理論神經科學或數學神經科學，是神經科學的分支，為一門跨領域學科，包含神經科學、認知科學、資訊工程、電腦科學、物理學及數學等。主要特點是透過數學模型與理論分析，將人腦抽象化，嘗試理解神經系統調控神經的原則，像是神經系統的、構造、生理、認知功能。 理論上，計算神經科學是理論神經科學的子領域，該領域旨在用電腦程式模擬的方式來驗證與解決數學模型。 但由於大多數的數學模型若建立在符合生物學的情況下，會變得過於複雜，無法進行分析。…
苏联控制论史
控制论在苏联有其自身独有的特点，这是因为控制论的研究和苏联意识形态及国内政治经济局势变化有所关联。20世纪50年代初，由于反美意识形态，苏联官方对诺伯特·维纳所提出的控制论加以激烈批评；而斯大林逝世后，控制论研究转向合法，并逐渐在苏联学术界活跃起来，到60年代成为一门显学，写入苏共党纲，成为意识形态术语，并就此得到各界追捧；最终，在20世纪70年代至80年代走向式微。 起初在1950年至1954年，苏联当局对控制理论持完全负面的态度，苏…
业务过程自动化
业务过程自动化（），也称作业务自动化、数字化转型（digital transformation），是技术支持下的复杂业务流程自动化 。可以改善一项业务更为简单、达到数字化转型、增强、改进服务交付、控制成本等。包括应用集成、重构劳动力资源、使用应用程序等手段。采用軟體機器人的BPA称作機器人流程自動化。 业务过程自动化的部署 BPA在很多商业领域实现了，如市场营销、销售以及工作流。实践中，在组织的环境中会部署有人或无人照管的软件agent…
超个体
建造的土墩]] 超个体（，又称超有机体）是一个由许多有机体组成的有机体系。这通常意味着是一个真社会性动物的，在那里社会分工被高度专业化，且个体无法独自长时间地生存。蚂蚁是在这样的超个体中最有名的例子，而裸鼹鼠则是真社会性哺乳动物的著名例子。超个体的技术定义是“一组媒介，它们能够采取协调一致的行动，以产生由集体支配的现象，”这些现象包括“蜂群想要的”任何活动，例如蚂蚁采集食物或者蜜蜂选择一个新的巢穴地址。 詹姆斯·洛夫洛克的盖亚假说以及詹…
网络科学
网络科学是从交叉学科研究成长起来的一个新兴的学术领域。致力于研究复杂网络的性质，并且应用这些性质去研究一些具有网络特点的领域，比如信息技术网络，计算机网络，生物圈网络，学习和认知网络，社会关系网络以及经济和金融网络。这个领域以数学中的图论为理论基础，从物理中的统计力学，计算机科学中的数据挖掘和信息可视化，统计学中的推断建模，以及社会学和经济学中的社会结构理论等学科和分之中汲取方法论营养。美国国家科研委员会（National Resear…
家庭治療
家庭治療（或家庭輔導，）是心理治療的其中一種形式，透過改善家庭單位整體的家庭關係和行為模式，以及家庭內個別成員和群體或子系統之間的關係和行為模式達到治療成效。家庭治療包含大量不同的治療形式，這些形式有著多樣的概念原則、過程和結構，以及臨床重點。一些家庭治療理論（例如，客體關係理論）反映了個人心理治療模式在人際領域的延伸，亦有則是在較不傳統的背景下發展而來（例如，結構式家庭治療）。大多數家庭治療的方法都強調臨床問題產生的背景。這種伴隨的系…
生物機器人
生物機器人、仿生機器人、仿生物机器人（英文：Biorobot）是一門跨學科的機器，結合了生物醫學工程、控制論和機器人技術領域，開發出將生物學與機械系統相結合的新技術，從而開發出更有效的通信方式，改變遺傳信息並創造出模仿生物系統的機器。 參見 賽博格 仿生人 奈米機器人 賽隆人 遙控老鼠 奈米醫學 參考資料 外部連結 [https://web.archive.org/web/20120717014643/http://blog.empyr…
有效加速主義
的Will DePue設計由雙曲線構成的有效加速主義符號。]] 有效加速主義（），簡稱e/acc，是一種強烈擁護科技發展的新興哲學思潮。有效加速主義的倡導者相信人工智慧的進步會讓社會更加平等化，因此必須大力發展人工智慧。有效加速主義倡導者會蔑稱主張人工智慧技術難以預測、需要監管等與有效加速主義相左的謹慎保守想法為“末日論者”（）或者“減速主義者”（）。 有效加速主義的思想核心是堅信不計一切代價推動技术革新是唯一在倫理上正當的行爲。有效加…
自生系统论
自生系统论（希臘語：） 这个概念表达了结构与功能的互补性。这个概念最先为智利的生物学家弗朗西斯克·瓦雷拉（）和洪贝尔托·梅图拉纳（Humberto Maturana）于20世纪70年代所提出。更准确地说，这个术语指的是非均衡的动态结构。 自生系统论的思想方法影响了当代许多学科领域，比如说尼克拉斯·卢曼（Nicklas Luhmann）将其引入社会学的研究。这个学说经过德国司法教授衮特·图博纳（Guenther Teubner）的发展，更…