@Michael Jaison G ответ правильный. Однако это не работает, когда вы также хотите использовать определенные session_run_hooks, которые должны оценивать части графа, например, например. LoggingTensorHook или SummarySaverHook. Пример ниже вызовет ошибку:
import tensorflow as tf
dataset_train = tf.data.Dataset.range(10)
dataset_val = tf.data.Dataset.range(90, 100)
iter_train_handle = dataset_train.make_one_shot_iterator().string_handle()
iter_val_handle = dataset_val.make_one_shot_iterator().string_handle()
handle = tf.placeholder(tf.string, shape=[])
iterator = tf.data.Iterator.from_string_handle(
handle, dataset_train.output_types, dataset_train.output_shapes)
feature = iterator.get_next()
pred = feature * feature
tf.summary.scalar('pred', pred)
global_step = tf.train.create_global_step()
summary_hook = tf.train.SummarySaverHook(save_steps=5,
output_dir="summaries", summary_op=tf.summary.merge_all())
with tf.train.MonitoredTrainingSession(hooks=[summary_hook]) as sess:
handle_train, handle_val = sess.run([iter_train_handle, iter_val_handle])
for step in range(10):
feat = sess.run(feature, feed_dict={handle: handle_train})
pred_ = sess.run(pred, feed_dict={handle: handle_train})
print('train: ', feat)
print('pred: ', pred_)
if step % 3 == 0:
print('val', sess.run(feature, feed_dict={handle: handle_val}))
Это завершится ошибкой:
InvalidArgumentError (see above for traceback): You must feed a value for placeholder tensor 'Placeholder' with dtype string
[[Node: Placeholder = Placeholder[dtype=DT_STRING, shape=[], _device="/job:localhost/replica:0/task:0/device:CPU:0"]()]]
[[Node: cond/Switch_1/_15 = _Recv[client_terminated=false, recv_device="/job:localhost/replica:0/task:0/device:GPU:0", send_device="/job:localhost/replica:0/task:0/device:CPU:0", send_device_incarnation=1, tensor_name="edge_18_cond/Switch_1", tensor_type=DT_INT64, _device="/job:localhost/replica:0/task:0/device:GPU:0"]()]]
Причина в том, что хук попытается оценить граф уже при первом вызове session.run([iter_train_handle, iter_val_handle]), который явно еще не содержит дескриптора в feed_dict.
Обходное решение состоит в том, чтобы перезаписать хуки, вызывающие проблему, и изменить код в before_run и after_run, чтобы оценивать только вызовы session.run, содержащие дескриптор в feed_dict (вы можете получить доступ к feed_dict текущего вызова session.run через run_context аргумент before_run и after_run)
Или вы можете использовать последний мастер Tensorflow (после 1.4), который добавляет функцию run_step_fn в MonitoredSession, которая позволяет вам указать следующий step_fn, который позволит избежать ошибки (за счет оценки оператора if TrainingIteration несколько раз... )
def step_fn(step_context):
if handle_train is None:
handle_train, handle_val = sess.run([iter_train_handle, iter_val_handle])
return step_context.run_with_hooks(fetches=..., feed_dict=...)
person
Max F.
schedule
04.12.2017