少林寺創建於北魏孝文帝太和十九年（公元495年）。當時天竺僧人跋陀由西域跋涉而來，得到虔信佛學的孝文帝的禮敬。跋陀見由太室山和少室山組成的嵩山很像一朵蓮花，便有意在「花」中立寺，孝文帝遂在少室山建造少林寺供養跋陀。後來又過了三十餘年，南天竺僧人菩提達摩來到少林寺，廣羅弟子，傳授禪宗，成為中國佛教禪宗的開山祖師。

　　達摩，全稱菩提達摩，南天竺人，婆羅門種姓，自稱佛傳禪宗第二十八祖。南朝梁武帝時航海到廣州。梁武帝信佛，達摩至南朝都城建業見梁武帝，面談不契，遂一葦渡江，北上北魏都城洛陽，於嵩山少林寺面壁九年，傳衣缽於慧可。後出禹門游化終身，東魏天平三年（公元536年）卒於洛濱，葬熊耳山。

　　達摩在中國始傳禪宗，「直指人心，見性成佛，不立文字，教外別傳」，經二祖慧可、三祖僧璨、四祖道信、五祖弘忍、六祖慧能等大力弘揚，終於一花五葉，盛開秘苑，成為中國佛教最大宗門，後人便尊達摩為中國禪宗初祖，尊少林寺為中國禪宗祖庭。

　　少林寺自從李世民還是秦王時就與李姓王朝結下不解之緣。少林僧兵起初只是一個為維護寺院不受社會戰亂侵擾而建立的武裝組織。至隋末唐初，隋將王世充擁兵東都稱帝，國號為鄭，並命其侄王仁則為大將軍，在柏谷莊設重兵建城池，以阻擋秦王李世民東進。唐武德三年（公元620年），高祖李淵命其子李世民統領諸路軍馬前往征討王世充，李初戰失利，此時，駐守柏谷莊的少林武僧志操、惠錫、曇宗等十三名武僧因不滿王仁則侵佔少林寺封地，「率眾以拒偽師」。曇宗等十三武僧夜間攻入鄭兵大營，生擒王仁則，獻於李世民，為秦王統一全國立下了汗馬功勞。李世民登基後對少林武僧大加封賞，賜少林寺田地四十頃，水碾一具。十三棍僧俱受封賞，封曇宗為大將軍。

　　此後歷經戰爭洗禮，少林武功日趨成熟。武則天一代時少林更是千方百計保存李氏血脈，與天策府一起成為李家的堅實後盾。光明寺一戰，少林眾僧大顯神威，少林武學正統之威重現江湖。自那以後，誰都知道要想與大唐為敵，必須先過少林寺這一關。到了楊國忠這一代，更是欲將少林這個對朝中許多大臣都有影響力的門派剷除，他一面控制神策軍打壓天策府，一面從天竺請來迦蘭高僧，以圖在信仰上將少林擊倒。