네덜란드 개혁교회 역사의 주요 인물 중 하나로, 1560년에 네덜란드 중부 위트레흐트주 아우더봐터에서 태어났다. 선조로부터 내려오는 이름은 야코프 헤르만스존(Jacob Hermanszoon)이지만, 후일 아르미니우스 자신이 게르만식 이름을 택했고, 그 결과 오늘날 우리가 아는 바대로 그의 공식 이름은 야코부스 아르미니우스가 되었다. 일반인에게 알려진 제임스 알미니우스(James Arminius)는 그의 영어식 이름이다. 철기 제조업자였던 부친은 아내와 어린 자녀들을 두고 일찍 사망했다. 아르미니우스의 모친과 형제자매들은 1575년 스페인 학살 기간 중 사망했다. 일찍이 가톨릭 사제 테오도루스 에밀리우스에게 입양된 아르미니우스는 그의 후원 아래 초등 교육을 받았고, 레이던대학에서 수학했다. 이후 암스테르담 상인 길드와 시정부의 후원으로 그는 스위스 제네바에서 장 칼뱅의 제자인 테오도르 베자 아래서 칼뱅주의 신학을 공부하게 되었다.

1587년, 목사 안수를 받은 그는 1588년부터 15년 동안 암스테르담 개혁교회에서 목회 활동을 계속하면서 로마서를 집중적으로 연구했다. 특히 로마서 7장 14절의 요지를 논증으로 구성한 것으로 유명하다. 예정론에 대한 그의 유명한 입장 선언은 이때의 설교를 바탕으로 한다. 1603년, 레이던대학의 저명한 신학자인 프란시스쿠스 유니우스 교수가 사망함에 따라 아르미니우스가 후임으로 신학부 교수가 되었다. 아르미니우스는 칼뱅주의 예정론에 대한 반론을 제기하기 시작하면서 동료 교수인 프란시스쿠스 호마루스와 공개적인 논박과 저술을 통해 격론을 주고받았다. 1608년에는 국가회의 앞에서 입장 선언을 하기도 했다. 이후 여러 종류의 회의가 진행되던 중 1609년 10월 19일에 지병 악화로 세상을 떠났다.