在嚴峻的形勢面前，連黃金榮的一些門徒也起而揭發，要求靠攏共產黨，與黃老板劃清界線。這時候的黃金榮，真的成了一只過街老鼠，人人喊打。
解放初期百廢待舉，人民政府要處理的事千頭萬緒。黃金榮也過了一段安逸日子。以抽大煙來說，政府雖有明令禁止，但黃裝糊涂，照吸不誤，而且家中藏了大量上好的大煙土，據報“足夠他后半世之吸食”。
黃金榮每日享受三樣東西：吸大煙、搓麻將、下澡堂。他對人說，這“三件套”是他最大的享受，不管是國民黨當權，還是共產黨天下，都是如此，要陪他到老死。他能留在上海不走，這“三件套”也有一半功勞。
當時黃家上上下下二十多口人， 都住在龍門路均培里一號。這是黃金榮發跡后造的一幢三層洋房，有幾十個房間。黃的居室在二樓東端，附近房屋大多由他的門徒租住，可以互通聲氣，方便走動。除夏天避暑去漕河涇黃家花園住一段時間，黃金榮一直居住于此。人民政府這時還允許黃金榮照常經營他的產業，如大世界、黃金大戲院、榮金大戲院等，每月都有一筆不菲的收入。
1951年初，鎮壓反革命運動開始后，黃金榮的日子開始難過起來，市民甚至自發涌到黃宅門口，要求他接受批斗。一封封控訴信、檢舉信，如雪片般飛進市政府和公安機關，懇請政府作主，為民報仇雪恨。
實際上，對于上海的幫會人物，如何做好其工作，為我所用，黨中央在上海解放前夕，已有明確的方針，即只要他們不出來搗亂，不干擾上海解放后的社會治安，老實接受改造，就不動他們。特別是對于黃金榮、杜月笙這樣的幫會頭面人物，“觀察一個時期再說”（劉少奇語），其目的是“努力使上海不亂”（周恩來語），這樣對全國大局有利，對恢復上海經濟發展有利。
陳毅市長和分管政法工作的潘漢年副市長， 都忠實地執行了這一正確的方針政策。上海市人民政府出面召見黃金榮，向他說明既往政策不變，但希望他能寫“悔過書”公開登報，進一步向人民交代，老實認罪，以求得人民群眾在某種程度上的諒解。
1951年5月20日，上�！缎侣剤蟆�、《文匯報》刊出了《黃金榮自白書》，結果非但沒有平息群眾的憤怒，反而引出更大的風波，已如前面所述，“黃金榮可殺不可留！”的口號響徹上海灘。 黃金榮在“自白書”中，自稱“自首改過”、“將功贖罪”、“請求政府和人民饒恕”云云。上海灘第一大亨的“懺悔”，在當時轟動一時。
不用說，對穩定社會秩序，震懾幫會殘余勢力起了不少作用。隨后，黃金榮響應政府的改造號召，開始掃大街。
“黃金榮掃大街”的新聞不脛而走，傳遍世界各地。舊上海另一大亨杜月笙在香港得知這一消息，暗自慶幸自己沒有留在上海，躲過一劫。考慮到國內外的反響，對黃金榮的這項“改造”措施只是象征性的并沒有持續下去，畢竟他已是風燭殘年的老人。兩年后，這個曾在上海灘顯赫一時的人物，因發熱病倒，昏迷了幾天，就閉上了眼睛。時年86歲。
