バージョン

Access for Microsoft 365 MSO（16.0.13328.20262）32ビット
Windows10 Pro バージョン1909 OSビルド18363.1171

やり方

フォームに読み込み解除時のイベントを登録。

そしてこいつ↓。いちいちマウスで右上の×ボタン押さなくてもCommand + Wでフォームを閉じると同時にファイルも閉じられる。

Private Sub Form_Unload(Cancel As Integer)
    Application.Quit
End Sub

だが…。このコードだとフォームを閉じたり、 デザインモードで開いた時 に問答無用でファイルを閉じる処理が走ります。
フォーム自体を編集したい場合は開発者モードで開く必要が出ます。
（開発者モードで開く = Shift + ダブルクリックでファイル開く）

ちょっとした自作ツールで、フォームにちょこちょこ手を加える事が多いなら、下記みたくするのもアリ。

Private Sub Form_Unload(Cancel As Integer)
    If MsgBox("ファイル閉じるのん？", vbYesNo + vbDefaultButton1, "確認") = vbYes Then
        Application.Quit
        Exit Sub
    End If
End Sub

デフォルトの選択肢がYesなので、通常使う時はCommand + W ⇒ Enterのキーボード操作だけでファイルを閉じられます。
フォームをデザインモードで変更したい時はダイアログでいいえを選択すればOK。