Осенью 1944 Гиммлер отдал приказ о прекращении программы «окончательного решения еврейского вопроса», надеясь, что это поможет в переговорах с западными союзниками о сепаратном мире.
19 февраля 1945 состоялась первая встреча Гиммлера с графом Фольке Бернадотом по вопросу переправки заключённых концлагерей из Скандинавии в Швецию. После этой встречи Шелленберг начал убеждать Гиммлера стать во главе Германии.
Во время следующей встречи 2 апреля он с подачи Шелленберга предложить графу стать посредником в переговорах.
Но Гиммлер всё ещё оставался верен Гитлеру. Когда он узнал, что Карл Вольф ведёт переговоры с Даллесом, Гиммлер вызвал его к себе и устроил допрос. Вольф, в свою очередь, предложил Гиммлеру и Кальтенбруннеру поехать с ним к Гитлеру. Гиммлер испугался и отказался встречаться с Гитлером, который удовлетворился объяснениями Вольфа и отпустил его.
Все больше и больше эсэсовцев стали отходить от Гиммлера.
Третья и последняя встреча 19 апреля с графом Бернадоттом закончилась ничем.
28 апреля Гитлеру, так и не дождавшемуся помощи со стороны Штайнера, принесли сводку радиоперехвата, согласно которой агентство «Рейтер» и Стокгольмское радио сообщали о переговорах Гиммлера с западными союзниками относительно его предложения о капитуляции Германии и полученном от них ответе, что они согласны вести переговоры, если к этому привлекут третьего партнёра — Россию. В тот же день Гитлер продиктовал в своём завещании:
Перед своей смертью исключаю бывшего рейхсфюрера СС Генриха Гиммлера из партии и снимаю со всех государственных постов… Геринг и Гиммлер вели тайные переговоры с врагом без моего согласия и против моей воли, а также пытались взять в свои руки власть в государстве, чем нанесли стране и всему народу невосполнимый ущерб, не говоря уже о предательстве по отношению к моей личности…
Последние дни жизни (по официальной версии)
Оставшись без фюрера, но не без иллюзий, Гиммлер начал строить новые планы. Он уже видел себя фюрером послевоенной Германии. Но с продвижением войск союзников его претензии становились все меньше и меньше: он хотел быть канцлером при рейхспрезиденте Дёнице, затем — начальником полиции и, наконец, — премьер-министром Шлезвиг-Голштейна. Однако Дёниц категорически отказался предоставить Гиммлеру хоть какой-нибудь пост.
Граф Шверин фон Крозиг посоветовал ему не прятаться, а добровольно сдаться и понести ответственность за злодеяния подчинённых. Но Гиммлер поступил как раз наоборот. Надев повязку на глаз и мундир унтер-офицера полевой жандармерии, он 20 мая направился к датской границе с чужим паспортом на имя Генриха Хицингера, незадолго до этого расстрелянного и немного похожего на Гиммлера. С собой он взял шефа III управления РСХА (СД) Отто Олендорфа, начальника своего секретариата Рудольфа Брандта, своего лечащего врача (он же — главный военный клинический врач при имперском враче СС и исполнительный президент Германского Красного Креста) Карла Гебхардта, а также адъютанта Гротмана. Им удалось переправиться через Эльбу. 21 мая 1945 у местечка Мойнштадт они были арестованы двумя бывшими советскими военнопленными В. И. Губаревым и И. Е. Сидоровым из состава патруля английской военной полиции и отправлены в сборный контрольный лагерь номер 031 под Люнебургом.
Комендант лагеря капитан Том Сильвестр сразу обратил внимание на троих из новоприбывших арестантов: «двое были высокорослыми, а третий — маленький, невзрачный и убого одетый мужчина». Отправив первых двух в отдельные камеры, он решил побеседовать с третьим. Неожиданно он снял повязку с глаза, надел очки и сказал: «Я — Генрих Гиммлер». Сильвестр тут же позвонил в секретную службу, откуда пришли два офицера, одним из которых был Хаим Герцог. Вечером прибыл Майкл Мерфи — начальник секретной службы при штабе Монтгомери. Подозревая, что Гиммлер мог иметь при себе яд для самоубийства, Мерфи приказал обыскать его. При обыске была обнаружена ампула с ядом. Затем врач заметил во рту Гиммлера посторонний предмет и решил подвести его поближе к свету. Тогда Гиммлер сжал челюсти, раскусил ампулу с цианистым калием и через несколько секунд умер.