Как закрыть пользовательский диалог, который сам является действием, и получить от него данные?

Вы должны относиться к этому как к любой другой деятельности. Просто используйте намерение для отправки ваших данных из всплывающего окна в родительское действие.

Вы должны использовать data Intent в onActivityResult(int requestCode, int resultCode, Intent data) вот так во всплывающем окне:

saveButton.setOnClickListener(new View.OnClickListener() {

    @Override
    public void onClick(View view) {

        Intent intent = new Intent();
        intent.putStringArrayListExtra("popup_data", data);
        setResult(RESULT_OK, intent);
        finish();
    }
});  

И в родительском:

if (resultCode == RESULT_OK) { 
    ArrayList<String> popup_data= 
    data.getExtras().getStringArrayList("popup_data");
}

Как упоминалось выше, Activity не лучший вариант для этого.

Но просто начните свой диалог как действие для результата.

Затем, когда пользователь нажимает кнопку, возвращает результат и завершает действие.

Затем в основном действии вы получаете результат в onActivityResult

См. пример здесь или здесь

Запустить действие (в MainActivity)

 Intent intent = new Intent(this, SecondActivity.class);
        startActivityForResult(intent, REQUEST_CODE);

Установите результат (в диалоговом окне)

ExampleClickAdapter clickAdapter = new ExampleClickAdapter(yourObjects);
clickAdapter.setOnEntryClickListener(new ExampleClickAdapter.OnEntryClickListener() {
    @Override
    public void onEntryClick(View view, int position) {
        Intent intent = new Intent();
        intent.putExtra("pos", position);
        setResult(Activity.RESULT_OK, intent);
        finish();
    }
});

Получить результат (в MainActivity)

@Override
protected void onActivityResult(int requestCode, int resultCode, Intent data) {
    // Check which request we're responding to
    if (requestCode == PICK_CONTACT_REQUEST) {
        // Make sure the request was successful
        if (resultCode == RESULT_OK) {
            // The user picked a contact.
            // The Intent's data Uri identifies which contact was selected.

            // Do something with the contact here (bigger example below)
        }
    }
}

Мое пользовательское диалоговое/всплывающее окно само по себе является деятельностью. Я не использую Dialog или AlertDialog. Чтобы закрыть это диалоговое окно при нажатии кнопки «Отмена», я сделал следующее:

 cancel_button.setOnClickListener(new View.OnClickListener() {
        @Override
        public void onClick(View v) {
            finish();  // Call this method to close the dialog
        }
 });

А для доступа к данным из дочерней активности (TextDialogActivity) в родительскую (MainActivity) активность я сделал то же самое, что и @Kemo, предложенное здесь в ответах. Это код:

// From Parent activity(MainActivity) opening popup on button click
popUpButton.setOnClickListener(new View.OnClickListener() {
        @Override
        public void onClick(View v) {
            Intent intent=new Intent(getContext(), TextDialogActivity.class);
            startActivityForResult(intent, TEXTFILE);
        }
});

// From Child activity(TextDialogActivity) sending data to parent activity
save_button.setOnClickListener(new View.OnClickListener() {
        @Override
        public void onClick(View v) {
            if(!secretText.isEmpty()) {
              Intent intent = new Intent();
              intent.putExtra("popup_data", secretText);
              setResult(RESULT_OK, intent);
              finish();
            }
        }
});

Теперь мне нужен результат от дочерней активности к родительской активности, потому что я сделал это в методе onActivityResult:

// In parent activity get data on onActivityResult
if (requestCode == TEXTFILE && resultCode == getActivity().RESULT_OK){
     secretText = data.getExtras().getString("popup_data", "");
}