|
Leveraging Pre-trained BERT for Audio Captioning
|
Aprofitament de BERT preentrenat per a subtítols d’àudio
|
|
Font: AINA
|
|
We also combine the Reinforcer with a large-scale pre-trained model and demonstrate the validity of using neighboring context in knowledge transfer scenarios.
|
També combinem el Reforçador amb un model preentrenat a gran escala i demostrem la validesa de l’ús del context veí en escenaris de transferència de coneixement.
|
|
Font: AINA
|
|
We also show that the pre-trained bi-modal encoder as a part of the bi-modal transformer can be used as a feature extractor for a simple proposal generation module.
|
També mostrem que el codificador bimodal preentrenat com a part del transformador bimodal es pot fer servir com un extractor de característiques per a un mòdul de generació de proposta simple.
|
|
Font: AINA
|
|
The visual subnetwork is a pre-trained VGG16 model followed by a bidiretional recurrent layer, while the residual audio subnetwork is based on stacked squeeze-excitation convolutional blocks trained from scratch.
|
La subxarxa visual és un model VGG16 preentrenat seguit d’una capa recurrent bidireccional, mentre que la subxarxa d’àudio residual es basa en blocs convolucionals d’excitació de compressió apilats entrenats des de zero.
|
|
Font: AINA
|