标签:#机器学习

共 116 篇文章

学会圈叉游戏的火柴盒

学会圈叉游戏的火柴盒(或,简称:),是人工智能研究者唐纳德·米基与同事罗杰·钱伯斯于1961年设计制造的机械计算机,由304个火柴盒组成。此物可与真人下井字棋,还可根据任意棋局给出下一步落子,并通过强化学习不断改进策略,属于最早出现的人工智能系统。 米基和钱伯斯当时没有计算机可用,便改用火柴盒搭建这台引擎。十五年后,他希望借助早期卷积神经网络进一步展示自己的数学和计算能力。由于当时无法取得可供此类用途使用的计算机设备,他便另辟蹊径,用火…

Gemini (语言模型)

Gemini()是由谷歌DeepMind開發的多模态大型语言模型系列,是LaMDA和PaLM 2系列的继承者。Gemini 1.0于2023年12月6日面世,被定位为与OpenAI的GPT-4抗衡的产品系列。Gemini家族目前包含Gemini Deep Think、Gemini Pro、Gemini Flash和Gemimi Flash-Lite。 历史 開發 Google在2023年5月10日的Google I/O上發布由其子公司G…

幻觉 (人工智能)

在人工智能领域中,幻觉(,或称人工幻觉)是由人工智能生成的一种回应,它含有貌似事实的虚假或误导性资讯。 该术语源自幻觉的心理学概念,因为它们具有相似的特征。然而实际上更相似的概念是“虚谈症(confabulation)”,但“幻觉(hallucination)”一词在人工智能领域已经广为流传。人工智能幻觉的危险之处之一是模型的输出看起来一本正经,而实际上是错误的。 在自然语言处理中 喊出「看!熊猫!」的的圖片,但其生成文字毫無意義]] …

机器学习

机器学习(,简称ML)是人工智能的一个分支。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法(要防止錯誤累積)。很多推论问题属于非程序化決策,所以部分的机器学习研究是开发容易处理的近似算法。…

大型语言模型

大型-{}-语言模型(),也称大-{}-语言模型,简称大模型,是一種基於人工神经网络的语言模型。其名稱中的「大型」指模型具有龐大的參數量(通常在數十億至數萬億級別,如GPT-3含1750亿参数)以及巨大的訓練數據規模。大語言模型通常采用自监督机器学习方法,從而能夠基于海量無標註的文本進行训练。大语言模型专为自然语言处理任务而设计,尤其适用于语言生成。 此外,基於其跨任务泛化能力,也可以针对特定任务對LLM进行微调,或通过提示工程进行引导…

SAI (圍棋軟體)

SAI是一套電腦圍棋軟體,以及相關的運算計畫。 簡介 SAI是一套修改自Leela Zero的圍棋軟體,主要的目的是支援動態貼目。 最初是以7x7棋盤訓練,則是以19x19棋盤為主。 參考資料 相關連結 Leela Zero 棋魂 计算机围棋 圍棋軟體 外部連結 ,用戶端的網站與軟體庫。 ,伺服器端的軟體庫。 * [http://sai.unich.it/ Leela Zero / SAI],專案的網站。

推理語言模型

推理語言模型(),或稱推理大模型或大型推理模型,是一個進階的大型語言模型,它能經過進一步訓練,可以解決多步驟推理任務。推理語言模型在邏輯、數學或程式任務上的表現,一般都比傳統的自我迴歸的大型語言模型更好,具有回溯能力,並使用時間測試計算作為訓練範例、參數計數。 歷史 Open AI 在2024年9月推出o1-preview,為首個擁有高階推理能力的大型語言模型. 2024年12月, Open AI 推出 o1 正式版,並宣佈推出o3 推…

OpenAI Codex

OpenAI Codex是OpenAI开发的人工智能代码生成模型,主要用于根据自然语言提示生成、补全和修改程序代码。OpenAI于2021年8月发布Codex,并通过API私人测试版提供访问。Codex基于GPT-3系列模型进一步训练,训练数据包括自然语言文本以及来自公开来源的源代码;OpenAI称,该模型在Python上的表现最强,同时也能处理JavaScript、Go、PHP、Ruby、Swift、TypeScript和Shell等…

Leela

Leela是由比利時程式設計師所開發的電腦圍棋軟體。 簡介 軟體使用中國規則,支援7x7、9x9、13x13,以及標準19x19棋盤,最大可到25x25。 成績 Leela在2008年的奧林匹亞電腦遊戲程式競賽中,圍棋19x19項目得到第三名,圍棋9x9項目得到第二名。並且在2017年的第一屆世界智能围棋公开赛初賽取得第八名。 CGOS 目前在CGOS上最強的帳號為Leela-0.10.5-16t1g,這個帳號是使用AMD Ryzen …

LLM-as-a-Judge

LLM-as-a-Judge(意为“大型语言模型作为评估器”,亦称基于大型语言模型的评估)是自然语言处理中的一种技术,即用大型语言模型(LLM)依据预先设定的标准,评估一段文本输出(通常由另一个模型生成)的质量、相关性或正确性。它被用作人工标注以及 BLEU、ROUGE 等基于参考、只衡量词面重叠而非语义的指标的一种可扩展、低成本替代方案。 该方法不再仅依赖人类标注者,而是利用大型语言模型的通用语言能力来充当自动评估器。 评估器通常返回…

JAX

JAX,由Google开发、並由Nvidia做出部分貢獻的Python机器学习框架,用於变换数值函数。JAX结合了修改版的Autograd自動微分系統,以及來自OpenXLA專案的編譯器,可加速數值線性運算。其設計目標是在介面與程式設計風格上盡可能與NumPy保持相容,使使用者能夠以熟悉的方式撰寫高效能運算程式。此外,JAX亦可與TensorFlow、PyTorch等機器學習框架整合使用。 主要功能 JAX的主要功能是。 Equinox…

零样本学习

零样本学习(,简称:)是机器学习中的一种问题设定,指模型在没有目标类别或目标任务标注样本的情况下,对这些“未见”类别或任务作出预测。经典零样本学习通常以类别为单位划分训练和测试:训练集只包含“见过类”()的标注样本,测试阶段则要求模型识别训练时没有出现过的“未见类”()。为了实现这种迁移,模型通常需要借助类别属性、文本描述、词向量、知识图谱或其他语义表示,把训练类别和测试类别联系起来。 零样本学习与小样本学习、单一样本学习相近,但含义不…

单一样本学习

单一样本学习(),又称单样本学习,是机器学习和人工智能中研究模型能否从极少标注数据中泛化的一类学习范式。其典型目标是在某个新类别、新概念或新任务只有一个带标注样本时,仍能对未见样本作出分类、识别、匹配或生成。单一样本学习通常不表示整个模型只用一个样本从头训练,而是表示模型在既有先验知识、预训练表征、迁移学习或元学习经验的帮助下,在目标类别只有一个样本时完成适应和判断。 }}

学习率

在机器学习和统计学中,学习率()是优化算法中的一个可调参数,它决定了每次迭代的步长,使得优化向损失函数的最小值前进。它影响到新学习到的信息在多大程度上取代了旧信息,暗示了机器学习模型 "学习 "的速度。在自适应控制中,学习率通常被称为增益(Gain)。 设置学习率需要在收敛速度和过冲(Overshooting)之间进行权衡。学习时的前进方向通常由损失函数的负梯度决定,而学习率决定了在这个方向上迈出多大一步。过高的学习率会使迈一大步,超过…

AlphaGo Zero

AlphaGo Zero是Google DeepMind圍棋軟體AlphaGo的最新版。2017年10月19日,AlphaGo团队在《自然》上发表文章介绍了AlphaGo Zero,文中指出此版本不採用人类玩家的棋譜,且比之前的所有版本都要强大。通过自我对弈,AlphaGo Zero在三天内以100比0的戰績战胜了AlphaGo Lee,花了21天达到AlphaGo Master的水平,用40天超越了所有旧版本。DeepMind联合创始…

自监督学习

自监督学习(,缩写:)是机器学习中的一种学习范式,指模型在没有人工标注标签的情况下,从输入数据本身构造监督信号,并通过这种自动生成的任务学习可迁移的表示。自监督学习通常被视为无监督学习的一类,但训练过程又具有监督学习的形式。及模型会根据数据内部结构生成目标标签,例如预测被遮蔽的词、还原被遮挡的图像块、判断两个增强视图是否来自同一图像,或预测音频片段中被遮蔽的潜在表示。 自监督学习的目标通常不是直接完成预训练时设置的任务,而是借助这些任务…

小样本学习

小样本学习(,简称:)是机器学习中研究如何让模型在只有少量标注样本的条件下学习新类别、新任务或新概念的方法与问题设置。与依赖大规模标注数据的常规监督学习不同,小样本学习试图利用先验知识、预训练表征、任务间共性或元学习机制,使模型能在有限数据下保持泛化能力。该领域与元学习、迁移学习、表征学习、贝叶斯推断和深度学习关系密切,并在计算机视觉、自然语言处理、医学影像、音频分析、机器人学习和大型语言模型提示学习等领域得到应用。 定义与问题形式 小…

聚类分析

聚类分析()亦称-{集群}-分析,是对于统计数据分析的一门技术,在许多领域受到广泛应用,包括机器学习,数据挖掘,模式识别,图像分析以及生物信息。聚类是把相似的对象通过静态分类的方法分成不同的组别或者更多的子集(subset),这样让在同一个子集中的成员对象都有相似的一些属性,常见的包括在坐标系中更加短的空间距离等。 一般把数据聚类归纳为一种非監督式學習。 定义 聚类(clustering)的概念不能精确定义,这也是为什么聚类算法众多的原…

機器學習控制

機器學習控制(Machine learning control、MLC)是机器学习、智能控制及控制理论中的一部份,是由机器学习的方式來求解最优控制問題。主要的應用是一些不適用控制系統方法的複雜非線性系統。 問題和任務的分類 以下是四種常用機器學習控制來處理的問題。 控制參數識別;若控制律的結構已知,但其參數未知,機器學習控制會轉換為參數識別。其中一個例子是PID控制器的參數利用遗传算法進行最佳化,或是離散時間最佳控制的相關應用。 第一類…