“随机鹦鹉”（英语：stochastic parrot）是在机器学习中一个理论的比喻，指大型语言模型虽然能够生成合理的文句，但其实不能理解所处理的语-{}-句。在2021年人工智能研究论文《论随机鹦鹉的危害：语言模型太大有坏处吗？🦜》（On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜）中提出。
起源和定义
“随机鹦鹉”最初出现于论文《论随机鹦鹉的危害：语言模型太大有坏处吗？🦜》。
“stochastic”源自古希腊语单词“stokhastikos”，意为“基于猜测的”或“随机决定的”。这单词也出现于概率论中的随机过程（stochastic process）。“鹦鹉”是指大型语言模型只会“鹦鹉学舌”，不能理解句子的意思。
- 大型語言模型只由训练所用的资料受限，只是根据随机概率重复数据集的内容。
- 因为大型語言模型只是基于训练数据输出文字，所以它们不会知道自己所输出的字句是否错误或不妥。
林霍尔姆等人指出，如果使用劣质数据集，加上其他限制，学习机器可能会产生“又错误又危险的”结果。
后续使用
2021年7月，就艾米丽的论文举办主题演讲和专家小组讨论。，它已由1529篇文章引用。“随机鹦鹉”已出现于法律、语法、叙事、和人文学等领域的文章。艾米丽等人依然对基于大型语言模型的聊天機器人（比如GPT-4）的危害表示忧虑。
如今，批评人工智能的人会用“随机鹦鹉”这个新词，表示机器不理解自己输出的含义，令它类似于“辱骂AI的歧视词”。
一些研究人员会用“随机鹦鹉”，把大型语言模型描述为拼接规律的机器，通过海量训练资料，表面上能产生模拟人类语言的合理文字，但只不过是以随机的方式鹦鹉学舌。然而，其他研究人员声称大型语言模型的确能明白语言。
争论
ChatGPT等部分大型语言模型能与用户产生模仿人类的逼真互动。但在大型语言模型的算法中，字词可以只会与训练资料中的其他字词和使用规律对应。由于许多大型语言模型都能作出通顺回应，加上此类测验的支持，根据一份2022年的调查，51%的AI专家认为只要有足够数据，这些模型可以真正理解语言。
又例如，一个小型Transformer模型用训练。这个模型和Othello-GPT一样，可以在网络产生Karel程序语法的表示式。改变这个表达后，输出也会改正。这个模型也能生产正确的程序，平均长度比训练集中的程序的短。
然而，如果将人类语文理解的测验用于大型语言模型，它们有时会因在数据文本中建立错误联系而产生假阳性结果。模型有时会进行快捷学习（shortcut learning），即是不使用类似人类的理解，从数据中作出不相关的联系。一项实验测验Google的BERT大型语言模型的论点推理技巧。模型需要从两个陈述句中选择更符合论点的句子。以下是其中一个论点的例子：
研究人员发现，“不”等特定单词能引导模型答对问题。如果加入这些单词，则模型会几乎获得满分；如果不加入它们，则模型会倾向于随机选择。
参见
*中文房间
*深度学习#批评
*對Google的批評
*無限猴子定理
*生成式人工智慧
*马尔可夫链
参考文献
引述文献
*
- 主题演讲由艾米丽·本德主持。專家小組討論在简报结束后开始。
延伸阅读
*
*
*
*
*
*
外部链接
- 《[https://commons.wikimedia.org/wiki/File:On_the_Dangers_of_Stochastic_Parrots_Can_Language_Models_Be_Too_Big.pdf 论随机鹦鹉的危害：语言模型太大有坏处吗？🦜] 》在维基共享资源
评论 (0)