Refine hierarchical-layer.rst

avx_docs
dangqingqing 8 years ago
parent 238cc09792
commit 5590b4a2a8

@ -1,6 +1,11 @@
# 支持双层序列作为输入的Layer
###########################
支持双层序列作为输入的Layer
###########################
## 概述
.. contents::
概述
====
在自然语言处理任务中序列是一种常见的数据类型。一个独立的词语可以看作是一个非序列输入或者我们称之为一个0层的序列由词语构成的句子是一个单层序列若干个句子构成一个段落是一个双层的序列。
@ -12,55 +17,79 @@
+ 单层序列排成一列的多个元素每个元素是一个0层序列元素之间的顺序是重要的输入信息
+ 双层序列排成一列的多个元素每个元素是一个单层序列称之为双层序列的一个子序列subseqsubseq的每个元素是一个0层序列
在 PaddlePaddle中下面这些Layer能够接受双层序列作为输入完成相应的计算。
## pooling_layer
pooling_layer的使用示例如下详细见<a href = "../../../doc/ui/api/trainer_config_helpers/layers.html#pooling-layer">配置API</a>。
```python
seq_pool = pooling_layer(input=layer,
pooling_type=AvgPooling(),
agg_level=AggregateLevel.EACH_SEQUENCE)
```
pooling_layer
==============
pooling_layer 的使用示例如下,详细见 `pooling_layer`_ 配置API。
.. code-block:: bash
seq_pool = pooling_layer(input=layer,
pooling_type=AvgPooling(),
agg_level=AggregateLevel.EACH_SEQUENCE)
- `pooling_type` 目前支持两种分别是MaxPooling()和AvgPooling()。
- `agg_level=AggregateLevel.TIMESTEP`时(默认值):
- `agg_level=AggregateLevel.TIMESTEP` 时(默认值):
- 作用双层序列经过运算变成一个0层序列或单层序列经过运算变成一个0层序列
- 输入:一个双层序列,或一个单层序列
- 输出一个0层序列即整个输入序列单层或双层的平均值或最大值
- `agg_level=AggregateLevel.EACH_SEQUENCE`时:
- `agg_level=AggregateLevel.EACH_SEQUENCE` 时:
- 作用:一个双层序列经过运算变成一个单层序列
- 输入:必须是一个双层序列
- 输出一个单层序列序列的每个元素是原来双层序列每个subseq元素的平均值或最大值
## last_seq 和 first_seq
last_seq 和 first_seq
=====================
last_seq 的使用示例如下( `first_seq`_ 类似),详细见 `last_seq`_ 配置API。
.. code-block:: bash
last = last_seq(input=layer,
agg_level=AggregateLevel.EACH_SEQUENCE)
- `agg_level=AggregateLevel.TIMESTEP` 时(默认值):
last_seq的使用示例如下first_seq类似详细见<a href = "../../../doc/ui/api/trainer_config_helpers/layers.html#last-seq">配置API</a>。
```python
last = last_seq(input=layer,
agg_level=AggregateLevel.EACH_SEQUENCE)
```
- `agg_level=AggregateLevel.TIMESTEP`时(默认值):
- 作用一个双层序列经过运算变成一个0层序列或一个单层序列经过运算变成一个0层序列
- 输入:一个双层序列或一个单层序列
- 输出一个0层序列即整个输入序列双层或者单层最后一个或第一个元素。
- `agg_level=AggregateLevel.EACH_SEQUENCE`时:
- `agg_level=AggregateLevel.EACH_SEQUENCE` 时:
- 作用:一个双层序列经过运算变成一个单层序列
- 输入:必须是一个双层序列
- 输出一个单层序列其中每个元素是双层序列中每个subseq最后一个或第一个元素。
## expand_layer
expand_layer
============
expand_layer 的使用示例如下,详细见 `expand_layer`_ 配置API。
.. code-block:: bash
expand = expand_layer(input=layer1,
expand_as=layer2,
expand_level=ExpandLevel.FROM_TIMESTEP)
- `expand_level=ExpandLevel.FROM_TIMESTEP` 时(默认值):
expand_layer的使用示例如下详细见<a href = "../../../doc/ui/api/trainer_config_helpers/layers.html#expand-layer">配置API</a>。
```python
expand = expand_layer(input=layer1,
expand_as=layer2,
expand_level=ExpandLevel.FROM_TIMESTEP)
```
- `expand_level=ExpandLevel.FROM_TIMESTEP`时(默认值):
- 作用一个0层序列经过运算扩展成一个单层序列或者一个双层序列
- 输入layer1必须是一个0层序列是待扩展的数据layer2可以是一个单层序列或者是一个双层序列提供扩展的长度信息
- 输出:一个单层序列,或一个双层序列,输出序列的类型(双层序列,或单层序列)和序列中含有元素的数目同 layer2一致。若输出是单层序列单层序列的每个元素0层序列都是对layer1元素的拷贝若输出是双层序列双层序列每个subseq中每个元素0层序列都是对layer1元素的拷贝
- `expand_level=ExpandLevel.FROM_SEQUENCE`时:
- 输入layer1必须是一个0层序列是待扩展的数据layer2 可以是一个单层序列,或者是一个双层序列,提供扩展的长度信息
- 输出:一个单层序列或一个双层序列,输出序列的类型(双层序列或单层序列)和序列中含有元素的数目同 layer2 一致。若输出是单层序列单层序列的每个元素0层序列都是对layer1元素的拷贝若输出是双层序列双层序列每个subseq中每个元素0层序列都是对layer1元素的拷贝
- `expand_level=ExpandLevel.FROM_SEQUENCE` 时:
- 作用:一个单层序列经过运算扩展成一个双层序列
- 输入layer1必须是一个单层序列是待扩展的数据layer2必须是一个双层序列提供扩展的长度信息
- 输出一个双层序列序列中含有元素的数目同layer2一致。要求单层序列含有元素的数目0层序列和双层序列含有subseq 的数目一致。单层序列第i个元素0层序列被扩展为一个单层序列构成了输出双层序列的第i个subseq。
- 输入layer1必须是一个单层序列是待扩展的数据layer2 必须是一个双层序列,提供扩展的长度信息
- 输出:一个双层序列,序列中含有元素的数目同 layer2 一致。要求单层序列含有元素的数目0层序列和双层序列含有subseq 的数目一致。单层序列第i个元素0层序列被扩展为一个单层序列构成了输出双层序列的第i个 subseq 。
.. _pooling_layer: ../../../doc/ui/api/trainer_config_helpers/layers.html#pooling-layer
.. _last_seq: ../../../doc/ui/api/trainer_config_helpers/layers.html#last-seq
.. _first_seq: ../../../doc/ui/api/trainer_config_helpers/layers.html#first-seq
.. _expand_layer: ../../../doc/ui/api/trainer_config_helpers/layers.html#expand-layer
Loading…
Cancel
Save