- 修复利用Transformer类模型完成序列标注任务适配paddle1.6版本的问题
- Windows下兼容性提升为python >= 3.6
- 新增预训练模型ERNIE tiny
- 新增数据集:INEWS、BQ、DRCD、CMRC2018、THUCNEWS,支持ChineseGLUE(CLUE)V0 所有任务
- 修复module与PaddlePaddle版本兼容性问题
- 优化Hub Serving启动过程和模型加载流程,提高服务响应速度
- 新增PaddleHub Serving服务部署
- 新增hub serving命令,支持一键启动Module预测服务部署
- 新增预训练模型:
- roberta_wwm_ext_chinese_L-24_H-1024_A-16
- roberta_wwm_ext_chinese_L-12_H-768_A-12
- bert_wwm_ext_chinese_L-12_H-768_A-12
- bert_wwm_chinese_L-12_H-768_A-12
- AutoDL Finetuner优化使用体验
- 支持通过接口方式回传模型性能
- 可视化效果优化,支持多trail效果显示
- 新增超参优化Auto Fine-tune,实现给定超参搜索空间,PaddleHub自动给出较佳的超参组合
- 支持两种超参优化算法:HAZero和PSHE2
- 支持两种评估方式:FullTrail和PopulationBased
- 新增Fine-tune优化策略ULMFiT,包括以下三种设置
- Slanted triangular learning rates:学习率先线性增加后缓慢降低
- Discriminative fine-tuning:将计算图划分为n段,不同的段设置不同学习率
- Gradual unfreezing:根据计算图的拓扑结构逐层unfreezing
- 新增支持用户自定义PaddleHub配置,包括
- 预训练模型管理服务器地址
- 日志记录级别
- Fine-tune API升级,灵活性与易用性提升
- 新增阅读理解Fine-tune任务和回归Fine-tune任务
- 新增多指标评测
- 优化predict接口
- 可视化工具支持使用tensorboard
- PaddleHub支持修改预训练模型存放路径${HUB_HOME}
- PaddleHub支持离线运行
- 修复python2安装PaddleHub失败问题
- PaddleHub 新增预训练模型ERNIE 2.0
- 升级Reader, 支持自动传送数据给Ernie 1.0/2.0
- 新增数据集GLUE(MRPC、QQP、SST-2、CoLA、QNLI、RTE、MNLI)
- 安装模型时自动选择与paddlepaddle版本适配的模型
-
全新发布PaddleHub官网,易用性全面提升
- 新增网站 https://www.paddlepaddle.org.cn/hub 包含PaddlePaddle生态的预训练模型使用介绍
- 迁移学习Demo接入AI Studio与AI Book,无需安装即可快速体验
-
新增29个预训练模型,覆盖文本、图像、视频三大领域;目前官方提供40个预训练模型
- CV预训练模型:
- 新增图像分类预训练模型11个:SE_ResNeXt, GoogleNet, ShuffleNet等
- 新增目标检测模型Faster-RCNN和YOLOv3
- 新增图像生成模型CycleGAN
- 新增人脸检测模型Pyramidbox
- 新增视频分类模型4个: TSN, TSM, StNet, Non-Local
- NLP预训练模型
- 新增语义模型ELMo
- 新增情感分析模型5个: Senta-BOW, Senta-CNN, Senta-GRNN, , Senta-LSTM, EmoTect
- 新增中文语义相似度分析模型SimNet
- 升级LAC词法分析模型,新增词典干预功能,支持用户自定义分词
- CV预训练模型:
-
Fine-tune API升级,灵活性与性能全面提升
- 支持多卡并行、PyReader多线程IO,Fine-tune速度提升60%
- 简化finetune、evaluate、predict等使用逻辑,提升易用性
- 增加事件回调功能,方便用户快速实现自定义迁移学习任务
- 新增多标签分类Fine-tune任务
正式发布PaddleHub预训练模型管理工具,旨在帮助用户更高效的管理模型并开展迁移学习的工作。
预训练模型管理: 通过hub命令行可完成PaddlePaddle生态的预训练模型下载、搜索、版本管理等功能。
命令行一键使用: 无需代码,通过命令行即可直接使用预训练模型进行预测,快速调研训练模型效果。目前版本支持以下模型:词法分析LAC;情感分析Senta;目标检测SSD;图像分类ResNet, MobileNet, NASNet等。
迁移学习: 提供了基于预训练模型的Fine-tune API,用户通过少量代码即可完成迁移学习,包括BERT/ERNIE文本分类、序列标注、图像分类迁移等。