跳转至

ProtTrans

2021年 蛋白质语言模型 蛋白质语言模型预训练 进阶 (Intermediate)

ProtTrans

基于多种 Transformer 架构(T5、BERT、XLNet 等)的蛋白质语言模型集合, 在 UniRef 和 BFD 等大规模数据库上预训练。该模型可生成高质量的蛋白质 序列表征,支持迁移学习用于各种下游任务。
:material-target: 用途
多架构蛋白质语言模型预训练表征
:material-clock-fast: 时间复杂度
O(n^2 * d)
:material-memory: 空间复杂度
O(n^2)
:material-code: 实现语言
Python

相关工具

ESM-2 · Ankh · ProtGPT2

标签

[language-model](tags.md#language-model) [transfer-learning](tags.md#transfer-learning) [representation-learning](tags.md#representation-learning) [t5](tags.md#t5)

:material-folder: 分类:蛋白质语言模型 / 蛋白质语言模型预训练 | :material-identifier: ID:prottrans