Добавить ошибку состояния модели и проверить после перенаправления на действие

а затем я делаю RedirectToAction

Это твоя проблема. При перенаправлении значения состояния модели теряются. Значения, добавленные в состояние модели (включая сообщения об ошибках), сохраняются только в течение времени существования текущего запроса. Если вы перенаправляете это новый запрос, поэтому состояние модели теряется. Обычный поток действий POST следующий:

[HttpPost]
public ActionResult Foo(MyViewModel model)
{
    if (!ModelState.IsValid)
    {
        // there were some validation errors => we redisplay the view
        // in order to show the errors to the user so that he can fix them
        return View(model);
    }

    // at this stage the model is valid => we can process it 
    // and redirect to a success action
    return RedirectToAction("Success");
}