标签:#深度学习

共 31 篇文章

Stable Diffusion

Stable Diffusion是2022年發布的深度學習文本到图像生成模型。它主要用於根據文本的描述產生詳細圖像,儘管它也可以應用於其他任務,如內補繪製、外補繪製,以及在提示詞指導下產生圖生圖的转变。 它是一種擴散模型,由慕尼黑大學的CompVis研究團體開發的各種生成性人工神經網絡之一。 截至2022年10月,StabilityAI籌集了1.01億美元的資金。 Stable Diffusion的源代碼和模型權重已分别公開發布在Git…

幻觉 (人工智能)

在人工智能领域中,幻觉(,或称人工幻觉)是由人工智能生成的一种回应,它含有貌似事实的虚假或误导性资讯。 该术语源自幻觉的心理学概念,因为它们具有相似的特征。然而实际上更相似的概念是“虚谈症(confabulation)”,但“幻觉(hallucination)”一词在人工智能领域已经广为流传。人工智能幻觉的危险之处之一是模型的输出看起来一本正经,而实际上是错误的。 在自然语言处理中 喊出「看!熊猫!」的的圖片,但其生成文字毫無意義]] …

基础模型

基础模型(或)指一类大型机器学习模型,它们经大规模数据训练而成(通常以自监督学习或半监督学习方式进行),以适应各种下游任务。基础模型帮助实现了人工智能系统构建方式的重大革新,例如为聊天机器人和其他面向用户的人工智能提供支持。斯坦福人类中心人工智能研究所()旗下的基础模型研究中心(,简称)推广了“基础模型”这一术语的使用。 除文本模型外,还先后诞生了各种视觉或多模式的基础模型,如DALL-E、Flamingo、Florence和NOOR等…

NovelAI

NovelAI是由美國特拉华州的Anlatan公司開發的雲端软件即服务(SaaS)模式訂閱制服務,其下有輔助故事寫作以及文本到圖像生成功能,於2021年6月15日推出測試版,2022年10月3日推出圖像生成服務。 技术 NovelAI的圖像生成模型是使用数个集成8个NVIDIA A100 GPU和1TB内存的计算节点在基于Danbooru的约530万张图片的数据集上对源代码可用的Stable Diffusion,屬於擴散模型。 Nove…

知識蒸餾

知識蒸餾()是人工智慧領域的一項模型訓練技術。該技術透過類似於教師—學生的方式,令規模較小、結構較為簡單的人工智慧模型從已經經過充足訓練的大型、複雜模型身上學習其掌握的知識。該技術可以讓小型簡單模型快速有效學習到大型複雜模型透過漫長訓練才能得到的結果,從而改善模型的效率、減少運算開銷,因此亦被稱為模型蒸餾()。 工作原理 知識蒸餾的核心原理是利用教師模型產生的軟標籤(soft labels)來訓練學生模型。與傳統訓練方法使用硬標籤(gr…

DreamBooth

DreamBooth是一個深度學習模型,用於微調現有的,由Google Research和波士頓大學的研究人員於2022年開發。最初利用谷歌开发的的Imagen文生圖模型開發,DreamBooth可以應用到其他文生圖模型,在使用指定主題的三到五張圖像進行演算、訓練後,可以讓模型產生更精細和個性化的輸出圖像。 技術 預先訓練的文生圖,雖然通常能夠提供多種不同的圖像輸出,但缺乏生成不太知名的主題圖像所需的特異性,並且在不同情況和背景下呈現已…

单一样本学习

单一样本学习(),又称单样本学习,是机器学习和人工智能中研究模型能否从极少标注数据中泛化的一类学习范式。其典型目标是在某个新类别、新概念或新任务只有一个带标注样本时,仍能对未见样本作出分类、识别、匹配或生成。单一样本学习通常不表示整个模型只用一个样本从头训练,而是表示模型在既有先验知识、预训练表征、迁移学习或元学习经验的帮助下,在目标类别只有一个样本时完成适应和判断。 }}

DLSS

深度学习超级采样(,DLSS)是Nvidia开发的一种图像缩放技术,可实时用于電子游戏中,這種技術利用深度学习将较低解析度的图像缩放為更高解析度的图像,以便在更高解析度的计算机显示器上显示。 历史 Nvidia在2018年9月推出NVIDIA GeForce 20系列GPU时,將DLSS作為賣點進行宣傳。当时,DLSS的效果仅限于少数几款视频游戏(如《战地5》和《戰慄深隧:流亡》) 。 2020年4月,Nvidia推出DLSS 2.0,…

自监督学习

自监督学习(,缩写:)是机器学习中的一种学习范式,指模型在没有人工标注标签的情况下,从输入数据本身构造监督信号,并通过这种自动生成的任务学习可迁移的表示。自监督学习通常被视为无监督学习的一类,但训练过程又具有监督学习的形式。及模型会根据数据内部结构生成目标标签,例如预测被遮蔽的词、还原被遮挡的图像块、判断两个增强视图是否来自同一图像,或预测音频片段中被遮蔽的潜在表示。 自监督学习的目标通常不是直接完成预训练时设置的任务,而是借助这些任务…

小样本学习

小样本学习(,简称:)是机器学习中研究如何让模型在只有少量标注样本的条件下学习新类别、新任务或新概念的方法与问题设置。与依赖大规模标注数据的常规监督学习不同,小样本学习试图利用先验知识、预训练表征、任务间共性或元学习机制,使模型能在有限数据下保持泛化能力。该领域与元学习、迁移学习、表征学习、贝叶斯推断和深度学习关系密切,并在计算机视觉、自然语言处理、医学影像、音频分析、机器人学习和大型语言模型提示学习等领域得到应用。 定义与问题形式 小…

Keras

Keras是一个用Python编写的开源人工神经网络库,从2021年8月的版本2.6开始,它是在TensorFlow 2上建立的高层API;在版本2.4及以前能够在TensorFlow、Microsoft Cognitive Toolkit、Theano或多个后端之上运行。Keras旨在快速实现深度神经网络,专注于用户友好、模块化和可扩展性,是ONEIROS(开放式神经电子智能机器人操作系统)项目研究工作的部分产物,主要作者和维护者是G…

生成式人工智慧

》(Théâtre D'opéra Spatial), 使用人工智慧生成的影像|alt=Impressionistic image of figures in a futuristic opera scene]] 生成式人工智慧(或稱生成式AI、產生式AI;、、GenAI、GAI)是一種人工智能系統,能夠產生文字、圖像或其他媒體以回應提示工程,比如ChatGPT。產生模型學習輸入數據的模式和結構,然後產生與訓練數據相似但具有一定程度新穎…

物理信息神经网络

的物理資訊神经网络]] 物理資訊神经网络(,简称) 是一种通用函数近似器,可以在学习过程中嵌入特定物理定律的資料,这些定律满足给定数据集并以偏微分方程的形式描述。一些生物和工程系统存在資料稀缺性的问题,使得大多先进的机器学习技术在这些情境下缺乏強健性并变得无效,而PINN则能够克服这种缺陷。推导出的一组偏微分方程。满足适当的初值和边界条件的N-S方程可以定量描述特定几何形体中的流动动力学现象。然而N-S方程无法精确求解,通常需使用有限差…

長短期記憶

长短期记忆(,)是一种时间循环神经网络(RNN),论文首次发表于1997年。由于独特的设计结构,LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。 LSTM的表现通常比时间循环神经网络及隐马尔科夫模型(HMM)更好,比如用在不分段连续手写识别上。2009年,用LSTM构建的人工神经网络模型赢得过ICDAR手写识别比赛冠军。LSTM还普遍用于自主语音识别,2013年運用TIMIT自然演講資料庫達成17.7%錯誤率的紀錄。作为非…

残差神经网络

残差神经网络(,简称ResNet)属于深度学习模型的一种,其核心在于让网络的每一层不直接学习预期输出,而是学习与输入之间的残差关系。这种网络通过添加“跳跃连接”,即跳过某些网络层的连接来实现恒等映射,再与网络层的输出相加合并。其运作机制与类似,通过极大的正偏置权重来打开“门控”。 基本原理 背景介绍 2012年,针对ImageNet竞赛开发的AlexNet模型是一个包含8层的卷积神经网络。到了2014年,牛津大学的视觉几何组(VGG)通…

U-Net

U-Net是弗赖堡大学计算机科学系为生物医学图像分割开发的卷积神经网络。其基于完全卷积网络,并在结构上加以修改与扩展,使得它可以用更少的训练图像产生更精确的分割。在现代GPU上,分割一张512×512的图像需要的时间不到一秒。 U-Net架构已经在扩散模型中采用,用于迭代式图像去噪音。这种技术位于很多现代图像生成模型的底层,比如DALL-E、Midjourney和Stable Diffusion。 描述 U-Net的结构源于Long、S…

随机鹦鹉

“随机鹦鹉”(英语:stochastic parrot)是在机器学习中一个理论的比喻,指大型语言模型虽然能够生成合理的文句,但其实不能理解所处理的语-{}-句。在2021年人工智能研究论文《论随机鹦鹉的危害:语言模型太大有坏处吗?🦜》(On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜)中提出。 起源和定义 “随机鹦鹉”最初出现于论文《论随机鹦鹉…

深度学习

深度学习()是机器学习的分支,是一種以人工神經網路為架構,對資料進行表徵學習的算法。深度学习中的形容词“深度”是指在网络中使用多层。 早期的工作表明,线性感知器不能成为通用分类器,但具有非多项式激活函数和一个无限宽度隐藏层的网络可以成为通用分类器。 深度学习是机器学习中一种基于对数据进行表征学习的算法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示…

人工智能加速器

人工智能加速器(),又稱NPU(,神經處理器),是一类专用于人工智能(特别是人工神经网络、机器视觉、机器学习等)硬件加速的微处理器或计算系统。典型的应用包括机器人学、物联网等数据密集型应用或传感器驱动的任务。 人工智能加速器被用于移动设备,例如苹果iPhone和华为手机,以及个人电脑,例如英特尔笔记本电脑, AMD笔记本电脑和苹果芯片 Mac。加速器用于云计算服务器,包括谷歌云平台中的张量处理单元 (TPU)和亚马逊云计算服务中的Tra…

Apache MXNet

Apache MXNet是一个开源深度学习軟體框架,用于训练及部署深度神经网络。MXNet具有可扩展性,允许快速模型训练,并支持灵活的编程模型和多种编程语言(包括C++、Python、Java、Julia、Matlab、JavaScript、Go、R、Scala、Perl和Wolfram语言)。 MXNet库可以扩展到多GPU和多台机器,并可移植。MXNet由公共云提供商亚马逊云计算服务(AWS)和Microsoft Azure支持。亚…