Модель Finetune с разным количеством классов с использованием API обнаружения объектов

Сфера

Я пытаюсь перенести изучение модели SSD MobileNet v3 (small) с помощью API обнаружения объектов, но в моем наборе данных всего 8 классов, а предоставленная модель предварительно обучена на COCO (90 классов). Если я оставлю количество классов модели неизменным, я смогу тренироваться без проблем.

Проблема

Изменение файла pipeline.config num_classes приводит к ошибке назначения, поскольку форма слоев не совпадает с переменными контрольной точки:

tensorflow.python.framework.errors_impl.InvalidArgumentError: 2 root error(s) found.
    (0) Invalid argument: Assign requires shapes of both tensors to match. lhs shape= [1,1,288,27] rhs shape= [1,1,288,273]
        [[{{node save/Assign_15}}]]
    (1) Invalid argument: Assign requires shapes of both tensors to match. lhs shape= [1,1,288,27] rhs shape= [1,1,288,273]
        [[{{node save/Assign_15}}]]
        [[save/RestoreV2/_404]]

Вопросов

  • Есть ли способ изменить количество классов и по-прежнему передавать обучение (например, загружать только переменные с подходящим размером)? Или мне нужно справляться между тренировками с нуля всего с 8 классами или тонкой настройкой с 90 классами?
  • Есть ли какой-нибудь инструмент для ручной обрезки предварительно обученных переменных контрольной точки?

Набор данных: Набор данных ITD

Модель: SSD MobileNetV3 - small (от Модельный зоопарк)

pipeline.config:

# SSDLite with Mobilenet v3 small feature extractor.
# Trained on COCO14, initialized from scratch.
# TPU-compatible.
# Users should configure the fine_tune_checkpoint field in the train config as
# well as the label_map_path and input_path fields in the train_input_reader and
# eval_input_reader. Search for "PATH_TO_BE_CONFIGURED" to find the fields that
# should be configured.

model {
  ssd {
    inplace_batchnorm_update: true
    freeze_batchnorm: false
    num_classes: 8
    box_coder {
      faster_rcnn_box_coder {
        y_scale: 10.0
        x_scale: 10.0
        height_scale: 5.0
        width_scale: 5.0
      }
    }
    matcher {
      argmax_matcher {
        matched_threshold: 0.5
        unmatched_threshold: 0.5
        ignore_thresholds: false
        negatives_lower_than_unmatched: true
        force_match_for_each_row: true
        use_matmul_gather: true
      }
    }
    similarity_calculator {
      iou_similarity {
      }
    }
    encode_background_as_zeros: true
    anchor_generator {
      ssd_anchor_generator {
        num_layers: 6
        min_scale: 0.2
        max_scale: 0.95
        aspect_ratios: 1.0
        aspect_ratios: 2.0
        aspect_ratios: 0.5
        aspect_ratios: 3.0
        aspect_ratios: 0.3333
      }
    }
    image_resizer {
      fixed_shape_resizer {
        height: 320
        width: 320
      }
    }
    box_predictor {
      convolutional_box_predictor {
        min_depth: 0
        max_depth: 0
        num_layers_before_predictor: 0
        use_dropout: false
        dropout_keep_probability: 0.8
        kernel_size: 3
        use_depthwise: true
        box_code_size: 4
        apply_sigmoid_to_scores: false
        class_prediction_bias_init: -4.6
        conv_hyperparams {
          activation: RELU_6,
          regularizer {
            l2_regularizer {
              weight: 0.00004
            }
          }
          initializer {
            random_normal_initializer {
              stddev: 0.03
              mean: 0.0
            }
          }
          batch_norm {
            train: true,
            scale: true,
            center: true,
            decay: 0.97,
            epsilon: 0.001,
          }
        }
      }
    }
    feature_extractor {
      type: 'ssd_mobilenet_v3_small'
      min_depth: 16
      depth_multiplier: 1.0
      use_depthwise: true
      conv_hyperparams {
        activation: RELU_6,
        regularizer {
          l2_regularizer {
            weight: 0.00004
          }
        }
        initializer {
          truncated_normal_initializer {
            stddev: 0.03
            mean: 0.0
          }
        }
        batch_norm {
          train: true,
          scale: true,
          center: true,
          decay: 0.97,
          epsilon: 0.001,
        }
      }
      override_base_feature_extractor_hyperparams: true
    }
    loss {
      classification_loss {
        weighted_sigmoid_focal {
          alpha: 0.75,
          gamma: 2.0
        }
      }
      localization_loss {
        weighted_smooth_l1 {
          delta: 1.0
        }
      }
      classification_weight: 1.0
      localization_weight: 1.0
    }
    normalize_loss_by_num_matches: true
    normalize_loc_loss_by_codesize: true
    post_processing {
      batch_non_max_suppression {
        score_threshold: 1e-8
        iou_threshold: 0.6
        max_detections_per_class: 100
        max_total_detections: 100
        use_static_shapes: true
      }
      score_converter: SIGMOID
    }
  }
}

train_config: {
  batch_size: 16 #512
  sync_replicas: true
  startup_delay_steps: 0
  replicas_to_aggregate: 32
  num_steps: 0
  data_augmentation_options {
    ssd_random_crop_pad_fixed_aspect_ratio {
    }
  }  
  data_augmentation_options {
    random_horizontal_flip {
    }
  }
  optimizer {
    momentum_optimizer: {
      learning_rate: {
        cosine_decay_learning_rate {
          learning_rate_base: 0.4
          total_steps: 800000
          warmup_learning_rate: 0.13333
          warmup_steps: 2000
        }
      }
      momentum_optimizer_value: 0.9
    }
    use_moving_average: false
  }
  fine_tune_checkpoint: "./model/model.ckpt"
  fine_tune_checkpoint_type: "detection"
  fine_tune_checkpoint_version: V1
  keep_checkpoint_every_n_hours: 2.0
  max_number_of_boxes: 100
  unpad_groundtruth_tensors: false
}

train_input_reader: {
  tf_record_input_reader {
    input_path: "./data/train.record"
  }
  label_map_path: "./annotations/label_map.pbtxt"
  shuffle: true
}

eval_config: {
  num_examples: 1296
}

eval_input_reader: {
  tf_record_input_reader {
    input_path: "./data/val.record"
  }
  label_map_path: "./annotations/label_map.pbtxt"
  shuffle: true
  num_readers: 1
}

person Guilherme Jacichen    schedule 15.09.2020    source источник


Ответы (1)


Да, это в основном идея сада обнаружения объектов Tensorflow для точной настройки моделей! Вам следует изменить:

fine_tune_checkpoint_type = "detection"

to :

fine_tune_checkpoint_type = "fine_tune"

а затем, когда вы вызываете object_detection / model_main * .py, вы должны быть осторожны, чтобы model_dir, который вы передаете в качестве аргумента, был пуст. Таким образом, скрипт сможет загрузить точку fine_tune_checkpoint, на которую вы указали в конфигурации, с 90 классами, и он создаст новую контрольную точку в вашем пустом каталоге модели с сохраненными весами и вашими 8 классами. После этого вы даже сможете загрузить предыдущую свою предыдущую настраиваемую контрольную точку, если ваше обучение остановлено.

РЕДАКТИРОВАТЬ: ссылка для точной настройки ввода проверьте этот ответ: https://github.com/tensorflow/models/issues/8892#issuecomment-680207038.

person dnl_anoj    schedule 16.09.2020
comment
Забавно, я думал, что только обнаружение и классификация были единственными действительными входными данными. Я нигде в документации не встречал опцию fine_tune. Я все равно попробую с помощью load_all_detection_checkpoint_vars: true, но как мне узнать, что переменные были загружены? Я уже пробовал изменить путь к modeldir, но не мог сказать, загружена ли контрольная точка. - person Guilherme Jacichen; 16.09.2020
comment
Только что сделал ваше предложение, и оно сработало! Похоже, работает даже с опцией «обнаружение». Однако изменение пути 'modeldir' действительно помогло, и я мог тренироваться с того места, где я останавливался раньше. Спасибо еще раз! - person Guilherme Jacichen; 16.09.2020
comment
Я собирался сказать, что понятия не имею, правильно ли загружены контрольные точки, но сравнивать потери с ними и без них неточно;) но рад, что это помогло! Думаю, тогда это был моделдир. Удачи! - person dnl_anoj; 16.09.2020
comment
Теперь я мог сказать, потому что получил предупреждение о том, что загруженные переменные не соответствуют форме модели, поэтому я предполагаю, что она действительно загрузила все, что нужно. - person Guilherme Jacichen; 16.09.2020