Первая гауптвахта — почти ровесница Петербурга — была построена в 1707 году на южном берегу главного канала Петропавловской крепости, неподалёку от дома коменданта. Небольшое деревянное здание прослужило всего 30 лет, на его месте сейчас находится Комендантский дом. Позднее немного дальше от Петропавловского собора возвели новую обер-офицерскую гауптвахту, на сей раз каменную, которую перестраивали уже в 1907–1908 годах. Это помещение предназначалось для караула, а также для содержания под арестом офицеров гарнизона крепости.


Пока город и гарнизон были совсем небольшими, одной гауптвахты было вполне достаточно. По мере роста столицы в Петербург прибывали всё новые и новые полки. Гвардейцы отвечали за спокойствие в том районе, где находились их казармы. Особенно много хлопот возникало, конечно, в самых людных местах — на площадях, на рынках и возле государственных учреждений. Именно там в первую очередь возводились небольшие караульные помещения, где зачастую сиживали и «гражданские» — мошенники, мелкие воришки и просто подвыпивший люд. Строили гауптвахты и на выездах из Петербурга, к тому же в каждом полку обязательно была своя «губа» для провинившихся гвардейцев. Всего гауптвахт в городе насчитывалось свыше двадцати. Конечно, основными считались те, что располагались в Зимнем дворце, в здании Сената, в Государственном банке и при Арсенале. Например, арестованных офицеров-декабристов привозили сначала на гауптвахту Зимнего дворца или гауптвахту Главного штаба и только потом некоторых доставляли в Петропавловскую крепость.
Постепенно к концу XVIII века термин «гауптвахта» перестали использовать как название караула, а позже и как название караульного помещения. Сейчас он употребляется только для именования военных тюрем. В Петербурге так называется главная гарнизонная тюрьма, которая с 1826 года находится в доме № 3 по Садовой улице, в здании военной комендатуры Санкт-Петербургского гарнизона.