기원전 551년 노(魯)나라 창평향(昌平鄕) 추읍(?邑)에서 아버지 숙양홀(叔梁紇)과 어머니 안씨(顔氏) 사이에서 태어났다. 태어나면서부터 정수리가 움푹 들어가 둘레가 언덕처럼 솟아 있어 이름을 구(丘: 언 덕 구)라고 했다. 3살 때 아버지를 여의고 17살 때 어머니를 여의었으며, 19살 때 송나라 출신 여인과 혼인했다. 20살 때부터 계씨(季氏) 가문의 창고지기로 일했고 가축 사육일도 맡았지만 학문을 게을리하지 않았다. 48살 때 정치에서 물러나 본격적으로 제자를 가르치기 시작했다. 3년 뒤 양호가 망명하면서 중도(中都)를 다스리는 책임을 맡았고 다시 사공(司空) 벼슬과 대사구(大司寇) 벼슬을 지냈다. 기원전 497년 이후 여러 나라를 돌아다니다가 기원전 484년 노나라로 돌아왔다. 기원전 479년 73살 때 세상을 떠나 노나라 도성 북쪽 사수泗水(언덕)에 묻혔다.