步入山门，看到的是一通通高低参差、排列有序的石碑，号称"碑林"。
少林寺殿宇屋后，碑碣袭人，共有三百余石，不少是历代名家或中外名僧书写，是珍贵的艺术珍品和宝贵的历史资料，为我们了解少林寺、寺庙经济等提供了重要资料。如：
《大唐天后御制诗书碑》，683年立，四龙盘首，上刻武则天随唐高宗来少林寺时所作诗书，由王知敬书。时隔千年，字迹仍完好清晰，是唐代碑刻的上乘之作。
碑林中，还有唐代诗人高岑书写的《佛顶尊胜陀罗尼咒》，书法绝伦，令人抚玩良久，不忍离去。还有宜山《竹》、《兰)和宋米芾书《第一山》、明张钦书《千崖万壑》等碑，都有较好的品评价值。研究少林寺历史沿革和少室风光的重要史料载于宋《三十六峰赋碑》、元〈风林洼公禅师行状之碑》、明《定公之碑)、《松庭禅师之碑》、《从公无方碑铭》、《嵩山六十峰诗碑》，清代《重修少阳桥碑记》、《王大公祖承修少林寺工程记》等碑中。日僧德始书的《淳拙禅师施行之碑》是明代中日文化交流的珍贵文物。另外，还有反映少林寺武功的明《少林观武》、清《西来堂志善碑》等。
在碑林以东的慈云堂旧址内，今存元书法家赵孟俯的《裕公之碑》和明书法家董其昌的《道公碑铭》，字迹劲秀，有较高的书法价值。
