clearTimeout не очищает переменную тайм-аута

Как написано,

• Команда setTimeout() построена неправильно.
• кажется, вы хотите открыть диалоговое окно по истечении 28 минут и автоматически закрыть его еще через 2 минуты, если не нажата кнопка «ОК»; но вы используете этот двухминутный таймер, чтобы открыть диалоговое окно, а не закрыть его.
• трудно увидеть лес за деревьями внутри timer().

timer() можно упростить:

• определение настройки диалога в функции вне timer().
• определение расчета/отображения таймера обратного отсчета в функции вне timer().
• введение третьего таймера для управления 28-минутной продолжительностью - это позволяет избежать необходимости проверки if (distance < 0) и т. д. в функции отображения времени.

Вот исправленный код:

// set up the dialog
function showDialog(callback) {
    $("#alert div").dialog('destroy').dialog({
        title: $("#alert span").length ? $("#alert span").text() : '---',
        modal: true,
        buttons: {
            Ok: function() {
                $(this).dialog('close');
                callback('ok')
            },
            Cancel: function() {
                // $(this).dialog('close'); // ?
                callback('cancel');
            }
        }
    }).dialog('open');
}

// function for calculating and displayig the countdown values
function displayCountdown(t) {
    var distance = Math.max(0, t - Date.now());
    var days = Math.floor(distance / (1000 * 60 * 60 * 24));
    var hours = Math.floor((distance % (1000 * 60 * 60 * 24)) / (1000 * 60 * 60));
    var minutes = Math.floor((distance % (1000 * 60 * 60)) / (1000 * 60));
    var seconds = Math.floor((distance % (1000 * 60)) / 1000);
    // ... display days, hours, minutes, seconds somewhere
}

// object which defines the three timers
var timers = {
    'ticker':     { 'ref': null, 't': 1000 }, // 1 second
    'stopTicker': { 'ref': null, 't': 1680000}, // 28 minutes
    'cancelDialog': { 'ref': null, 't': 120000 } // 2 minutes
}

function redirect() {
    esriId.destroyCredentials();
    window.location.replace(redirect_uri);
}

// 
function timer() {
    clearInterval(timers.ticker.ref);
    clearTimeout(timers.stopTicker.ref);
    clearTimeout(timers.cancelDialog.ref);
    timers.stopTicker.ref = setTimeout(function() {
        clearInterval(timers.ticker.ref);
        showDialog(function(outcome) {
            if(outcome === 'ok') {
                timer();
            } else {
                redirect();
            }
        });
        timers.cancelDialog.ref = setTimeout(redirect, timers.cancelDialog.t);
    }, timers.stopTicker.t);

    timers.ticker.ref = setInterval(displayCountdown.bind(null, Date.now() + timers.stopTicker.t), timers.ticker.t);
};

Обратите внимание, что redirect() будет вызываться двумя возможными способами:

1. в ответ на отмену диалога.
2. в связи с истечением 2 мин.

Обратный вызов, переданный в showDialog(), не является строго обязательным, но позволяет диалогу быть полностью независимым от последствий его результата. Вся эта логика находится в вызывающей программе timer().

Другой, возможно, более чистый подход — обещать диалог.

Здесь все остается так же, как указано выше, кроме showDialog() и timer().

// set up a promisified dialog
function showDialog() {
    return $.Deferred(function(dfrd) {
        $("#alert div").dialog('destroy').dialog({
            'title': $("#alert span").length ? $("#alert span").text() : '---',
            'modal': true,
            'buttons': {
                'Ok': dfrd.resolve, // yay!
                'Cancel': dfrd.reject // yay!
            }
        }).dialog('open');
    }).always(function() {
        $("#alert div").dialog('close');
    });
}

function timer() {
    clearTimeout(timers.ticker.ref);
    clearTimeout(timers.stopTicker.ref);
    clearTimeout(timers.cancelDialog.ref);
    timers.stopTicker.ref = setTimeout(function() {
        clearInterval(timers.ticker.ref);
        $.Deferred(function(dfrd) { // "race" pattern
            showDialog().then(dfrd.resolve, dfrd.reject);
            timers.cancelDialog.ref = setTimeout(dfrd.reject, timers.cancelDialog.t);
        }).then(timer, redirect); // yay-yay!
    }, timers.stopTicker.t);

    timers.ticker.ref = setInterval(displayCountdown.bind(null, Date.now() + timers.stopTicker.t), timers.ticker.t);
};

Например:

function open() {
  $("#alert div").dialog("open");
 }

 timeout = setTimeout(open, 120000);

Дело в том, что когда вы создаете экземпляр .dialog(), он использует span и div.

Так что вам нужно обновить их.
Я заставил это работать в этом CodePen . (я сократил время для тестов)

var alertHTML = $("#alert").html();

var title;
if ($("#alert div").length) {
  console.log("alert is present");
}else{
  console.log("alert is missing");
  $("#alert").html(alertHTML);
}
title = $("#alert span").text();