标签:#深度學習

共 5 篇文章

机器学习

机器学习(,简称ML)是人工智能的一个分支。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法(要防止錯誤累積)。很多推论问题属于非程序化決策,所以部分的机器学习研究是开发容易处理的近似算法。…

大型语言模型

大型-{}-语言模型(),也称大-{}-语言模型,简称大模型,是一種基於人工神经网络的语言模型。其名稱中的「大型」指模型具有龐大的參數量(通常在數十億至數萬億級別,如GPT-3含1750亿参数)以及巨大的訓練數據規模。大語言模型通常采用自监督机器学习方法,從而能夠基于海量無標註的文本進行训练。大语言模型专为自然语言处理任务而设计,尤其适用于语言生成。 此外,基於其跨任务泛化能力,也可以针对特定任务對LLM进行微调,或通过提示工程进行引导…

推理語言模型

推理語言模型(),或稱推理大模型或大型推理模型,是一個進階的大型語言模型,它能經過進一步訓練,可以解決多步驟推理任務。推理語言模型在邏輯、數學或程式任務上的表現,一般都比傳統的自我迴歸的大型語言模型更好,具有回溯能力,並使用時間測試計算作為訓練範例、參數計數。 歷史 Open AI 在2024年9月推出o1-preview,為首個擁有高階推理能力的大型語言模型. 2024年12月, Open AI 推出 o1 正式版,並宣佈推出o3 推…

开源人工智能

开源人工智能(),根据开放源代码促进会(OSI)的定义,是一种可以自由使用、研究、修改和共享的AI系统。这包括用于训练模型的数据集、源代码以及,旨在促进一种协作且透明的人工智能开发方式,使他人能够重现基本相似的结果。 关于何种程度的开放才应被视为“开源”的争论十分激烈。一些仅发布模型权重(而不公开训练数据和代码)的大型语言模型被批评为(openwashing),实际上是封闭系统。流行的开源人工智能项目类别包括大型语言模型、机器翻译工具和…

神经图灵机

神经图灵机(,NTM)是图灵机的循环神经网络模型。该方法由Alex Graves等人于2014年发表。 NTM 将神经网络的模糊模式匹配功能与可编程计算机的算法能力相结合。 NTM 有一个与外部记忆资源耦合的神经网络控制器,并通过注意力机制与之交互。内存交互是端到端可微的,使得可以使用梯度下降法来优化它们。具有长短期记忆(LSTM) 网络控制器的 NTM可以仅从示例中推断出简单的算法,例如复制、排序和联想回忆。 是神经图灵机的产物,具有…