这时，达摩祖师才慢慢地回过头来，看了他一眼，心生怜悯，问道：“汝久立雪中，当求何事？”慧可禅师流着眼泪，悲伤地回答道：“惟愿和尚慈悲，开甘露门，广度群品。”达摩祖师道：“诸佛所开示的无上妙道，须累劫精进勤苦地修行，行常人所不能行，忍常人所不能忍，方可证得。岂能是小德小智、轻心慢心的人所能证得？若以小德小智、轻心慢心来希求一乘大法，只能是痴人说梦，徒自勤苦，不会有结果的。”听了祖师的教诲和勉励，为了表达自己求法的殷重心和决心，慧可禅师暗中拿起锋利的刀子，咔嚓一下砍断了自己的左臂，并把它放在祖师的面前，顿时鲜血红了雪地。
达摩祖师被慧可禅师的虔诚举动所感动，于是就说：“诸佛最初求道的时候，都是不惜生命，为法忘躯。而今你为了求法，在我跟前，也效法诸佛，砍断自己的手臂，这样求法，必定能成。”达摩祖师于是将神光的名字改为慧可。
慧可禅师问道：“诸佛法印，可得闻乎？”祖师道：“诸佛法印，匪（非）从人得。”慧可禅师听了很茫然，便说：“我心未宁，乞师与安。”祖师回答道：“将心来，与汝安。”慧可禅师沉吟了好久，回答道：“觅心了不可得。”祖师于是回答道：“我与汝安心竟。”慧可禅师听了祖师的回答，当即豁然大悟，心怀踊跃，原来并没有一个实在的心可得，也没有一个实在的“不安”可安，安与不安，全是妄想。
慧可禅师开悟后，继续留在达摩祖师的身边，时间长达六年之久，后继承了祖师的衣钵，成为禅宗的二祖。慧可从达摩学了六年，精究一乘的宗旨，达摩寂后，他即在黄河近边一带韬光晦迹，但因早年已名驰京畿，许多道俗前访问道，请为师范，他随时为众开示心要，因而道誉甚广。
慧可到了东魏的邺都，大弘禅法，有些学者不能理解他的学说，时常发生争辩，当时门下拥有千人的着名学者道恒，竟指慧可所说法要为“魔语”，密遣上足弟子和慧可诘难。但他的弟子听了慧可说法后欣然心服，反而不满道恒，道恒因此更加怀恨慧可，甚至贿赂官吏，企图加以暗害，其间似乎和慧可宣传宋译《楞伽》的理论有关。