Как манипулировать состоянием кодировщика в многоуровневом двунаправленном режиме с помощью механизма внимания

Я реализую модель Seq2Seq с многоуровневым двунаправленным механизмом rnn и внимания, следуя этому руководству https://github.com/tensorflow/nmt Я запутался в том, как правильно манипулировать encoder_state после двунаправленного уровня.

Ссылаясь на учебник «Для нескольких двунаправленных слоев нам нужно немного манипулировать encoder_state, см. model.py, метод _build_bidirectional_rnn() для получения более подробной информации». и это соответствующая часть кода (https://github.com/tensorflow/nmt/blob/master/nmt/model.py строка 770):

encoder_outputs, bi_encoder_state = (
            self._build_bidirectional_rnn(
            inputs=self.encoder_emb_inp,
            sequence_length=sequence_length,
            dtype=dtype,
            hparams=hparams,
            num_bi_layers=num_bi_layers,
            num_bi_residual_layers=num_bi_residual_layers))

if num_bi_layers == 1:
   encoder_state = bi_encoder_state
else:
   # alternatively concat forward and backward states
   encoder_state = []
   for layer_id in range(num_bi_layers):
      encoder_state.append(bi_encoder_state[0][layer_id])  # forward
      encoder_state.append(bi_encoder_state[1][layer_id])  # backward
   encoder_state = tuple(encoder_state)

Итак, это то, что я имею сейчас:

def get_a_cell(lstm_size):
    lstm = tf.nn.rnn_cell.BasicLSTMCell(lstm_size)
    #drop = tf.nn.rnn_cell.DropoutWrapper(lstm, 
                       output_keep_prob=keep_prob)
    return lstm


encoder_FW = tf.nn.rnn_cell.MultiRNNCell(
    [get_a_cell(num_units) for _ in range(num_layers)])
encoder_BW = tf.nn.rnn_cell.MultiRNNCell(
    [get_a_cell(num_units) for _ in range(num_layers)])


bi_outputs, bi_encoder_state = tf.nn.bidirectional_dynamic_rnn(
encoder_FW, encoder_BW, encoderInput,
sequence_length=x_lengths, dtype=tf.float32)
encoder_output = tf.concat(bi_outputs, -1)

encoder_state = []

for layer_id in range(num_layers):
    encoder_state.append(bi_encoder_state[0][layer_id])  # forward
    encoder_state.append(bi_encoder_state[1][layer_id])  # backward
encoder_state = tuple(encoder_state)

#DECODER -------------------

decoder_cell = tf.nn.rnn_cell.MultiRNNCell([get_a_cell(num_units) for _ in range(num_layers)])

# Create an attention mechanism
attention_mechanism = tf.contrib.seq2seq.LuongAttention(num_units_attention, encoder_output ,memory_sequence_length=x_lengths)

decoder_cell = tf.contrib.seq2seq.AttentionWrapper(
              decoder_cell,attention_mechanism,
              attention_layer_size=num_units_attention)

decoder_initial_state = decoder_cell.zero_state(batch_size,tf.float32)
                        .clone(cell_state=encoder_state)

Проблема в том, что я получаю сообщение об ошибке

The two structures don't have the same nested structure.

First structure: type=AttentionWrapperState 
str=AttentionWrapperState(cell_state=(LSTMStateTuple(c=, h=), 
LSTMStateTuple(c=, h=)), attention=, time=, alignments=, alignment_history=
(), attention_state=)

Second structure: type=AttentionWrapperState 
str=AttentionWrapperState(cell_state=(LSTMStateTuple(c=, h=), 
LSTMStateTuple(c=, h=), LSTMStateTuple(c=, h=), LSTMStateTuple(c=, h=)), 
attention=, time=, alignments=, alignment_history=(), attention_state=)

И это имеет смысл для меня, потому что мы не включаем все выходные слои, а (я думаю) только последний слой. В то время как для состояния мы фактически объединяем все слои.

Итак, как я и ожидал, при объединении только последнего состояния слоя, как показано ниже:

encoder_state = []
encoder_state.append(bi_encoder_state[0][num_layers-1])  # forward
encoder_state.append(bi_encoder_state[1][num_layers-1])  # backward
encoder_state = tuple(encoder_state)

Запускается без ошибок.

Насколько мне известно, нет части кода, в которой они снова преобразуют encoder_state перед передачей его на уровень внимания. Так как же мог работать их код? И что более важно, нарушает ли мое исправление правильное поведение механизма внимания?


python tensorflow recurrent-neural-network attention-model bidirectional
person GioGio    schedule 17.01.2019    source источник

Ответы (1)


arrow_upward
0
arrow_downward

Вот проблема:

только кодер является двунаправленным, но вы даете двунаправленные состояния декодеру (который всегда является однонаправленным).

Решение:

Что вам нужно сделать, так это просто объединить состояния, так что вы снова манипулируете «однонаправленными данными»!

encoder_state = []

for layer_id in range(num_layers):
    state_fw = bi_encoder_state[0][layer_id]
    state_bw = bi_encoder_state[1][layer_id]

    # Merging the fw state and the bw state
    cell_state = tf.concat([state_fw.c, state_bw.c], 1)
    hidden_state= tf.concat([state_fw.h, state_bw.h], 1)

    # This state as the same structure than an uni-directional encoder state
    state = tf.nn.rnn_cell.LSTMStateTuple(c=cell_state, h=hidden_state)

    encoder_state.append(state)

encoder_state = tuple(encoder_state)
person wakobu    schedule 05.09.2019