少林寺与禅宗佛教理论颇有渊源，在少林寺就能感受到禅韵。
中国禅宗宗徒，不可不知达摩慧可;追慕禅宗先贤，不可不去嵩山少林。禅宗源自南天竺菩提达摩所传禅法。禅宗之旅，当首选少林;而少林之旅，当首选达摩洞。
天竺高僧菩提达摩历经3年寒暑，远渡重洋来到中国，梁武帝迎请至金陵(南京)。《景德传灯录》记载了两人对话的情景，梁武帝以“功德”、“圣谛第一义”等问题相询，达摩以“净智妙圆，体自空寂”、“廓然无圣”相应——结果是“帝不领悟”。
于是达摩北渡，在少林寺旁的一个石洞中禅修。他每日面壁而坐，两腿曲盘，双目下视，心平如镜，入定从禅，日复一日，年复一年，一坐就是9年。
中国佛教之前没有这种禅修之法，旁人问他，他应之为“坐禅”。当时僧人则称为“壁观”，称达摩为“壁观婆罗门”。每日出定，达摩都会站起来做一些活动，他舒展筋骨的方法流传至今，称为“八段锦”，又叫做“达摩易筋经”。
这个石洞，如今被称为“达摩洞”，就在距离少林寺常住院1.3公里的五乳峰峰顶下。达摩洞面向西南，洞口由青石块砌成拱门。深约7米，高宽约3米，寒冽清冷。里面的台阶上有三尊石像，中间即为达摩祖师。洞外有明代的石坊， 外额刻分别为“默玄处”和“东来肇迹”。
达摩9年面壁，身影印入了面壁的石上，就连衣服的褶皱纹路都隐约可见，宛如一幅淡淡的水墨画。这块石头被称为“达摩面壁影石”，后来被凿下，收藏在少林寺的藏经楼上，可惜在上世纪30年代毁于战火。
沿达摩洞往下有初祖庵，正是为了纪念禅宗东土初祖达摩而建。
达摩庵三面临壑，背依五乳峰。初祖庵的建筑群规模不大，但是古老而精致。初祖庵大殿建于宋宣和七年(1125)，尽管经过了多次修整，但是仍然保持着许多原有结构的特征。之所以这么说，是因为初祖庵大殿的建筑结构，与宋代 所颁布的《营造法式》非常一致。这座大殿堪称一座艺术宝库，除古朴严谨的建筑形制值得玩味欣赏外，大殿 精美的宋代石雕，以及四壁在清代所绘的23幅禅宗祖师彩色壁画，既是难得一见的艺术珍宝，也是研究少林寺宗派源流不可多得的资料。大殿前有“六祖手植柏”，相传为六祖慧能于唐初用钵盂从广东带来的一株柏树苗，种植于此，表示对达摩的崇敬与怀念。
达摩在洞中壁观，终于等到了他的衣钵传人慧可(当时名为神光)。
《景德传灯录》记载了师徒相见时的情景：神光“晨夕参承”，但是达摩“端坐面墙，莫闻诲励”。时值冬日，天降大雪。神光“坚立不动，迟明时积雪过膝”。达摩问：“汝久立雪中，当求何事?”神光为表求道决心，取刃断左臂。“师知是法器”，赐名慧可。慧可请师安其心。达摩说：“将心来与汝安。”慧可说：“觅心了不可得。”达摩曰：“我与汝安心竟。”慧可言下大悟，最终成为达摩传法 。是为禅宗“断臂求法、臂断心安”的公案。
慧可立雪断臂后，至钵盂峰顶养伤修行。为纪念慧可，此处建有二祖庵。
二祖庵与初祖庵相对，创建于北宋，是少林地区地势最高的一座古建筑。今存的二祖庵大殿为明嘉靖年间重修，供二祖塑像。院 古柏参天，有四眼水味各异的井，相传为慧可卓锡而成，故称“卓锡井”。
庵南约500米处有一高突的山崖，即为慧可养伤的“经行处”，又称“养臂台”、“炼魔台”。此处有一块巨石，石平如桌案，慧可当时就是在这块巨石上修养栖息，面壁坐禅。
而少林寺常住院中，禅宗胜迹有很多。
进了山门，西侧即是“达摩西来堂”。“西来”寓意“佛从西方而来”， 供达摩像。自马祖道一之后，开始参究“祖师西来意”的话头——如果明白达摩祖师西来的意旨，就可以 然自得宗门心法之要。禅宗史记载，众多禅师的回答各不相同。这并非故弄玄虚，目的只是指示要害，然后让参禅者历经艰苦，自寻解悟。一旦豁然觅得，才知原是自家故物，没有须臾离开。不经历这个过程，即使辩若悬河，也不过是承虚接响，流于口头禅。
在大雄宝殿月台西侧，则有六祖殿。六祖殿始建于金代，供奉大势至、观音等五大菩萨，以及禅宗从达摩到慧能的6位祖师。
在 院北，有立雪亭，原名初祖殿，又称达摩亭，是为了纪念二祖立雪求法而建。始建于元代，明清之际多有维修。立雪亭平而近方，是少林寺常住院中 的单檐庑殿式建筑。此殿虽小，但是外形秀丽，具有极高的艺术价值。殿 悬挂有清乾隆皇帝御题的“雪印心珠”匾额，供奉着明代铜铸达摩坐像。
自慧可以来，少林禅法师承不绝，传播海内外。少林寺在晚唐五代之际，为禅宗临济宗所住;金、元以降，则成为禅宗曹洞宗道场，一直都是北方禅宗重镇。只不过因为达摩、慧可二位祖师开宗于此，其他高僧名不得显而已。
寺 历代禅宗高僧辈出，如元代福裕禅师，中兴少林，传曹洞宗正脉;明代幻休常润禅师，继席少林，力荷禅法，入室者达270人;明代文载禅师，住持少林16年，参徒云集，后人称为“嵩少祖”。这些都是各个时代极富盛名的高僧。少林寺常住院西南280米的塔林中，现存唐代以来的古塔228座，塔铭、塔额以及墓塔碑记，记载着大量佛教历史，是研究少林寺禅宗发展的珍贵资料。
达摩初祖依据大乘教义，传“教外别传、不立文字”的禅法，以探究心性本源、见性成佛为目的。从达摩到慧能的二百余年，禅宗逐渐形成;从南岳怀让、青原行思到唐末五代的二百余年，南宗禅发展到鼎盛;两宋至清代三百年，禅宗更成为中国佛教的主流，这种格局一直绵延至今。
达摩曾有预言：“吾本来兹土，传法救迷情;一花开五叶，结果自然成。”后来一一印证。追溯前因，若没有达摩面壁、慧可求法，何来今日禅宗在中国的流传!事固有必然，又岂不是人为呢?
所以说少林寺存在着很深的佛教论理，来到少林寺就能更好的感受佛教精神。
