不只是翻译，
是把外文 PDF 真正读进去

3. Model Architecture

Most competitive neural sequence transduction
models have an encoder-decoder structure. The
encoder maps an input sequence of symbol
representations (x₁, …, xₙ) to a sequence of
continuous representations z = (z₁, …, zₙ).

Given z, the decoder generates an output
sequence (y₁, …, yₘ) one element at a time,
consuming previously generated symbols.

Figure 1: The Transformer model architecture.

3. 模型架构

目前最具竞争力的神经序列转换模型均采
用编码器—解码器结构。编码器将输入符
号序列 (x₁, …, xₙ) 映射为连续向量序列
z = (z₁, …, zₙ)，供解码器使用。

解码器逐步生成输出序列 (y₁, …, yₘ)，
每一步均以自回归方式消费已生成的
符号，直至预测出终止符为止。

图 1：Transformer 模型整体架构示意图。