包含标签:NLP 的文章
-
AIGC、ChatGPT、GPT系列?我的认识
AIGC(AI generated content),新型内容生产方式。AIGC是利用人工智能技术来生成内容,也就是,它可以用输入数据生成相同或不同类型的内容,比如输入文字、…… -
ChatGPT模型采样算法详解
ChatGPT模型采样算法详解 ChatGPT所使用的模型——GPT(Generative Pre-trained Transformer)模型有几个参数,理解它们对文本生成任务至关重要。其中最重要…… -
基于transformer和相关预训练模型的任务调优
使用的环境依赖: python3.9 ''' 对应的依赖: tensorflow==2.11.0 transformers==4.26.0 pandas==1.3.5 scikit-learn==1.0.2 ''' 模型的训练代码如下: from…… -
变形金刚——Transformer入门刨析详解
Transformer是什么呢? qquad Transformer最早起源于论文Attention is all your need,是谷歌云TPU推荐的参考模型。 qquad 目前,…… -
Huggingface Trainer报错RuntimeError: Expected all tensors to be on the same device
问题描述 最近在新的机器上复现一个简单的使用Huggingface Transformers库中的Trainer模块来实现seq2seq模型时,报如下错误: Traceback (most recent call …… -
focal loss 之 pytorch 实现
# coding=utf-8 import torch import torch.nn.functional as F from torch import nn from torch.nn import CrossEntropyLoss import numpy as np class …… -
AIGC最近很火,给大家推荐一个已经有1000位开发者使用的中文aigc开源模型,包括ai画图、ai聊天
AIGC最近火得一塌糊涂! 12月16日,Science发布2022年度科学十大突破,其中AIGC作为人工智能领域的重要突破也赫然在列。 作为2022年以来AI圈最大的趋势,AIG…… -
【Python机器学习】文本特征提取及文本向量化讲解和实战(图文解释 附源码)
需要源码和数据集请点赞关注收藏后评论区留言私信~~~ 文本提取及文本向量化 词频和所谓的Tf-idf是传统自然语言处理中常用的两个文本特征。 以词频特征和Tf-…… -
Transformer实现以及Pytorch源码解读(二)-embedding源码分析
前言 本部分博客需要先阅读博客:《Transformer实现以及Pytorch源码解读(一)-数据输入篇》 作为知识储备。 Embedding使用方式 如下面的代码中所示,embed…… -
百度UIE模型的pytorch实现及ner效果测试
一、背景 最近才看到百度的UIE模型(跟不上潮流了),细节就不赘述了,可以参考下面链接。主要思路就是利用了SEL:结构化抽取语言和SSI:结构化模式提示器来……