마부 한 명만 데리고 성을 나온 싯달타 태자는 국경에 이르러 마부를 돌려보내면서, 보검을 빼들어 스스로 머리와 수염을 깍은 뒤, 과거의 모든 부처님 앞에 일체의 번뇌를 끊고 진리를 깨닫겠다고 굳게 서원한다. 그리고 자신의 비단옷을 거지의 누더기와 바꿔 입었다. 이렇게 하여 출가수행자가 된 태자는 인도 남쪽의 신흥국가인 마가다국으로 향했다.
그곳에는 훌륭한 종교가들이 운집해 있었기 때문이었다. 그는 당시 높은 명성을 얻고 있던 알라라 칼라마의 문하에서 그가 가르치는 무소유처정(無所有處定)이라는 수행을 배웠는데 곧 스승의 경지에 도달해 버렸다. 다시 그는 다른 스승인 웃다카 라마풋타에게 비상비비상처정(非想非非想處定)이라는 선정을 배웠다. 하지만 그 경지 역시 곧 도달해 버렸다. 태자는 여러 스승에게 배운 선정을 통해서는 생사의 고통을 벗어날 수 없음을 알았다. 그래서 그들 곁을 떠나 독자적인 수행을 시작하였다. 당시 다른 수행자들이 그러했듯이 고행의 길로 들어섰다. 태자의 고행은 실로 다른 누구도 흉내내지 못할 정도로 치열한 것이었다.
부처님의 일생을 찬탄한 《불소행찬》에는 이렇게 기록되어 있다.
'나는 실로 고행자 중에 최상의 고행자였다. 남들이 바치는 음식도 받지 않았으며 풀과 떨어진 과일만 주워 먹었다. 나는 무덤 사이에서 시체와 해골과 함께 지냈다. 머리는 길어 새들이 찾아 들었다. 나는 누구보다도 더한 고독한 수행자였다. 나는 숲에서 숲으로, 낮은 땅에서 낮은 땅으로, 사람들에게서 멀리 떠나 홀로 지냈다. 그러면서도 나는 모든 생명을 가엾이 여기는 고행자였다. 나아가거나 물러서거나 조심하여 한 방울의 물에도 불쌍히 여기는 마음이 있었다. 그것은 그 가운데 있는 눈에 보이지 않는 작은 벌레일지라도 죽여서는 안 된다고 생각했기 때문이다.'
'나는 열매 몇 개로 한 끼를 때웠으며, 하루에 한 끼, 사흘에 한 끼, 이윽고 이레에 한 끼를 먹고 보름에 한 끼를 먹었다. 그래서 내 몸은 무척 수척해졌다. 내 볼기는 마치 낙타의 발 같았고 내 갈비뼈는 마치 오래 묵은 집의 무너진 서까래 같았다. 내 뱃가죽은 등뼈에 들러붙었기 때문에 배를 만지면 척추가 만져졌다. 척추는 요철과 같이 울퉁불퉁해지고, 눈은 움푹 들어가고, 살갗은 오이가 말라비틀어진 것 같고, 손바닥으로 몸을 만지면 몸의 털이 뽑혀 나갔다. 이를 보고 사람들은 말했다. '아 싯달타 태자는 이미 목숨을 마쳤구나, 이제 곧 목숨을 다할 것이다.'라고'
이와 같이 부처님은 그 누구도 할 수 없는 고행을 하였다. 그래서 부처님은 과거의 어떤 수행자도, 미래의 어떤 수행자도 자신과 같은 고행은 할 수 없을 것이라 하실 만큼 고행에 몰입하였다. 당시 인도 사람들은 고행을 함으로써 욕망을 억제하고 정신생활의 향상을 가져올 수 있다고 믿었다. 그리고 고행을 한 사람은 신비하고도 초인간적인 힘을 가지게 된다고 생각하였던 것이다.