包含标签：transformer 的文章
-
深度学习今年来经典模型优缺点总结，包括卷积、循环卷积、Transformer、LSTM、GANs等
文章目录 1、卷积神经网络（Convolutional Neural Networks，CNN） 1.1 优点 1.2 缺点 1.3 应用场景 1.4 网络图 2、循环神经网络（Recurrent Neural Ne……admin 4天前
-
LangChain+LLM实战—BERT和注意力机制中的QKV
BERT主要的创新之处 BERT（Bidirectional Encoder Representations from Transformers）是一种基于Transformer架构的预训练语言模型，由Google在2018年提出。…… -
深度学习11：Transformer
目录 什么是 Transformer？ Encoder Decoder Attention Self-Attention Context-Attention 什么是 Transformer（微软研究院笨笨） RNN和Transformer区别 Univ…… -
在自定义数据集上微调Alpaca和LLaMA
本文将介绍使用LoRa在本地机器上微调Alpaca和LLaMA，我们将介绍在特定数据集上对Alpaca LoRa进行微调的整个过程，本文将涵盖数据处理、模型训练和使用流行的…… -
深度学习一点通：PyTorch Transformer 预测股票价格，虚拟数据，chatGPT同源模型
预测股票价格是一项具有挑战性的任务，已引起研究人员和从业者的广泛关注。随着深度学习技术的出现，已经提出了许多模型来解决这个问题。其中一个模型是 Tran…… -
ChatGPT背后的技术原理：领略Transformer架构的魅力
😲惊艳了时代的ChatGPT，背后到底有怎样的技术支持？本文将深入剖析ChatGPT背后的技术原理，从Transformer架构、自注意力机制到位置编码等方面，带领读者一探…… -
简单理解Transformer注意力机制
这篇文章是对《动手深度学习》注意力机制部分的简单理解。 生物学中的注意力 生物学上的注意力有两种，一种是无意识的，零一种是有意识的。如下图1，由于红色…… -
图解NLP模型发展：从RNN到Transformer
图解NLP模型发展：从RNN到Transformer 自然语言处理 (NLP) 是深度学习中一个颇具挑战的问题，与图像识别和计算机视觉问题不同，自然语言本身没有良好的向量…… -
从Transformer到ViT：多模态编码器算法原理解析与实现
从Transformer到ViT：多模态编码器算法原理解析与实现 模型架构与算法原理 Image Token Embedding Multi-head Self-attention流程 线性变换 MatMul Sca…… -
Transformer&BERT阅读笔记
两篇整理的特别好的笔记： Transformer：https://mp.weixin.qq.com/s?__biz=MzI0MTk1NjAxMQ==&mid=2247486498&idx=1&sn=6e546e5ee16393ff3efd027……