北京城位于華北大平原最西北部、太行山與燕山結合部的山前地帶。這里是從華北去往東北、西北和蒙古的諸多山間通道的共同起點,又是沿太行山麓從中原到北方的通道的終點。由于華北大平原曾經湖沼密布,只有通過這條通道才可以往來于北京與中原地區之間。在未有鐵路之時,從中原至北京必經永定河渡口,再經廣安門入城。清末修鐵路時,京漢鐵路北端也是經豐臺、馬家堡、永定門,最終至前門。這樣,元、明、清各朝來京的大批官員、舉子、商人都要經過宣武區舊城區進入京城,這一地區,因為明朝有“宣南坊”之名稱,也被稱為宣南地區。
由于此處地近內城,且鄰近繁華的前門商業區,更是因為道路的四通八達,明清時期,這里云集了全國各地大部分的會館。每條胡同里,少則三四處,多則十幾處,它們往往緊緊相鄰,形成了宣南一帶濃厚而獨特的會館文化。解放以后,這些會館失去原有的作用,有的被各式機構占用,有的改建為民居。保存至今的會館,或因歷史人物而知名,或因建筑特色如戲臺、房廈而知名。每一個會館,都住過該省進京的舉子,都出過進士,都有許多故事。宣武區菜市口十字路口東南的大吉片地區是北京現存會館的核心區。隨著會館的不斷聚集,一些商人開始在會館附近開設為士子提供書籍、紙張、文具的店鋪。會館附近逐漸繁榮起來。
這些會館中,最有名氣的是南海會館和中山會館。南海會館舊址位于米市胡同43號,始建于清道光四年(1824年)。原為董文恪(董邦達)故第,由在京海南籍官員籌資買下,后又購入一幢相鄰的房舍組成了南海會館。光緒八年(1882年),康有為來京參加會試,至1898年戊戌變法失敗,都曾住在這里。康在這里寫過許多詩文,并與維新派多次策劃變法方案。1895年4月,當日本強迫清政府簽訂喪權辱國的《馬關條約》時,康連夜起草了萬言書,并發動1200多人聯名到督察院投遞,即歷史上有名的“公車上書”。他還在會館內創辦報刊《中外記聞》,成立粵學會、保國會,強烈宣傳變法維新。維新變法失敗后,康由此出走香港,其弟弟康廣仁被捕入獄,9月28日,與譚嗣同等在菜市口刑場就義。南海會館尚存重要石刻《南海會館碑記》等。
中山會館在宣武區珠朝街5號,相傳為明代權臣嚴嵩的花園別墅,它的前身是廣東香山會館,由孫中山先生的同鄉唐紹儀創辦,后因香山縣改中山縣,香山會館也就更名為中山會館。這里很早就是有志青年進行革命活動的場所,廣東青年會在這里活動過,后來又成立了“中山少年學會”。中山會館曾是我黨的一個地下聯絡站。現在原建筑大部分還保留著,已是北京市文物保護單位。