社伝によると人皇第50代、桓武天皇の延暦12年(793)、征夷大将軍坂上田村麻呂が東征の途次、この小室の里の瑞穂の地から遙かに秀麗なる冨士の山容を拝して戦捷を祈り、数々の苦難災いを断ち四年にして大勝のうちにその功業を収めます。その報賽として当神社を創祀し、神護を謝したと伝えられています。時に、平安時代初期の大同2年(807)。

中世に於いても、大塔宮護良親王の秘史にまつわる南北朝時代からの古木で、富士吉田市文化財でもある「桂の木」の樹齢六百有余年が示すとおり、国家鎮護の大社であり、崇敬は武士、庶民の間に洽く篤く、中世は武田家の祈願所としても篤い崇敬を集めていました。

住民信仰の上でも、古くは、旧十一ヶ村中、上吉田村、下吉田村及び松山村の富士吉田市一円の総鎮守の産土大神で「後に各村で浅間明神を一祠に祀るが、今も猶上吉田には子生まれて百日の後社参するに、先ず下宮へ参詣す」と「甲斐国志」に記されています。

当神社は、現在は小室浅間神社と称されていますが、最も古い記録では社号は「宮」と記され、時代が下り近隣各村で浅間神社が祀られるようになると、元来は富士山二合目の小室浅間神社の里宮であることから「下宮浅間神社」、「富士下宮浅間宮」と呼称されていました。現行の「小室浅間神社」の呼称に収められたのは、明治の神社制度改革期まで降ってからです。昭和32年には、一宮浅間神社に次ぎ、県下で二番目の別表神社に神社本庁から指定され全国的な有名神社として益々隆昌の一途にあります。

「小室（御室）」とは、そこに神霊が常在するの意で、富士山で四囲に石柱を樹て祭祀されていた事からきており、浅間信仰中独自の位置づけを持つものとされその侭山の神、田の神信仰及び氏神信仰と重層する形で、当神社への崇敬が展開されてきたところに年間の諸祭祀が位置づけられています。又、市内の中心に位置するところから、年間の諸祭事に参詣者多く愈隆昌のうちにある由緒深き神社です。

本殿は唐破風造り、拝殿は割拝殿造りで天正年間の建造です。その後、度重なる大修理が行われ現在に至っています。

なお、御神体の御更衣祭(お召し替え)が60年ごとに行われる故実があり、前回は平成21年に斉行されました。

毎年9月19日の例大祭に奉納される流鏑馬は、一般に知られている武士の流鏑馬や、他神社等に奉納されるものと異なり、9月1日に斎行される初馬揃式から始まる多数の前儀と共に、奉仕者は一週間に及ぶ「切火」と呼ばれる厳しい潔斎（世間日常を離れ祭祀者としての資格を完成し、心身を清浄にするため籠もること）にその意義と特色があります。

特に馬の馳せた足跡による吉凶を判ずる「馬蹄占」は世襲の「占人（うらびと）」の存在と共にこの神事を著名なものにしており、日本の文化的源流を持つ貴重な祭として富士吉田市無形民俗文化財にも指定されています。

嘗ては富士山二合目鎮座の小室浅間神社の近く馬留ヶ馬場で行われており、勝山村（現冨士河口湖町勝山）と共同で奉仕されていましたが、その都度、村間の争いが激しく、度重なる流血騒ぎに迄発展することから、享禄3年(1530)、田家家臣板垣信賢の達により各自の村で行われるようになり、現在の馬場は明治初年からと伝えられています。

毎年やぶさめ祭りが終わると、氏子区域各町内それぞれに神職を招き、流鏑馬祭りでの「馬蹄占」の結果を元に「お日待ち・秋葉講」と呼ばれる祭儀を行われ、町内各家庭は御祈願の後、一枚小さな紙垂を戴き、これからの一年間町内に火事や争い事などの災いが無く無事に過ごせるよう祈願する行事が11月初旬頃まで続きます。