加爾文1509年7月10日生於法國北部皮卡迪的努瓦榮。父親曾任主教的秘書，頗有名望。母親系堪布累一旅店主的女兒，不幸早逝。加爾文曾在努瓦榮一個貴族家庭裡受啓蒙教育。
1523年8月，努瓦榮流行鼠疫，加爾文隨貴族子弟赴巴黎，就讀於巴黎大學的馬爾奇學院。後來，他又進入拉伯雷學習過的
巴黎大學蒙太古學院深造。這時，路德宗教改革之風已吹進古老的學校校園，有人表示支持，學院領導則加以反對，鬥爭激烈。
1529年，一位支持路德的學生領袖竟被焚死。這場鬥爭不能不使加爾文受到影響。
1528年，加爾文畢業，獲文學碩士。他本想攻讀神學，迫於父命改學法律。1528年3月，加爾文進入奧爾良大學，就教於著名法學家雷圖瓦爾，並開始用人文主義觀點研究法律。1529年秋，意大利人文主義法學家阿爾恰提來法講學，加爾文長途跋涉去布爾日聽講。他依然不忘情於神學，跟隨路德的支持者、德籍教師韋爾馬爾學習希臘語，研究《新約》。
1531年5月，加爾文的父親去世，他決定去巴黎專攻神學。他在巴黎研究了希臘文、希伯來文和拉丁文《聖經》，要求按照古代基督教的面貌改造羅馬教會，逐漸傾向宗教改革。最遲不晚於1534年秋，加爾文終於成爲新教徒。有兩件事可資證明。一件事是，1533年11月1日，加爾文的密友科普在巴黎大學演講，公開引用德希德里·伊拉斯莫和路德的話爲信仰得救辯護。
巴黎當局疑惑加爾文是起草人，下令追捕和抄家。加爾文只好逃離巴黎。另一件事是，加爾文的表兄、新教徒奧立韋唐譯《聖經》爲法文，於1535年初出版。1534年秋，加爾文爲之作序，公開支持受迫害的新教徒。
1534年10月，加爾文逃到巴塞爾，化名盧卡紐斯，繼續研究路德派的著作和《聖經》。巴塞爾商業發達，學者雲集，號稱瑞士的雅典。
1536年3月，加爾文在巴塞爾出版他的名著《基督教要義》。此書初版時僅六章，到1559年最後修訂版時達八十章，篇幅爲初版的五倍。雖然加爾文對最後修訂版仍不滿意，但它不失爲他畢生研究新教和在日內瓦從事宗教政治活動的全面總結，是宗教改革時期一部影響最大的新教百科全書。
1536年4月，加爾文去意大利訪問。由於法王弗朗索瓦一世同德皇查理五世的戰爭重新爆發，加爾文打算繞道回巴塞爾或斯特拉斯堡，於1536年7月來到日內瓦。加爾文在這裡恰巧遇到老友法萊爾，經老友相勸停留下來，於是，原來只是偶然路過的日內瓦，竟成了後來加爾文宗教改革活動的大本營。此後，除了有三年多的時間（1538年4月—1541年8月）因市民中的保守分子掌握了政權，反對激進的宗教改革，加爾文被迫離開，除到斯特拉斯堡法國移民中充當牧師以外。
十六、十七世紀，歐洲資產階級剛剛興起，還不夠強大，不能建立同自己階級地位完全適應的意識形態，需要借用宗教作爲自己意識形態的外衣。資產階級曾經一度找到路德教作爲自己意識形態的外衣，但是不夠理想。路德叛變以後，資產階級繼續尋找真正適合自己階級利益的宗教外衣，於是加爾文教應運而生。
加爾文也主張信仰得救，但把它解釋成先定論。他認爲先定論是他整個宗教觀的核心，不承認先定論就是否認上帝。加爾文說：先定論“乃是上帝的永恆旨意，就是神自己決定，他對世界每一個人所要成就的。因爲人類被創造的命運都是一樣的；永恆的生命是爲某些人前定了的，對於另一些人，卻是永遠的罪刑。”
原來，成功與失敗、永生和犯罪甚至貧富榮辱，在加爾文看來，都是上帝先定的，人的意志無法改變。用先定論否定中世紀沿習已久的對教皇的盲信，否定封建主階級的出身和特權的意義，在宗教改革時期是有積極意義的。加爾文把資產階級的發家致富和勞動人民的貧困破產也說成是上帝的先定，卻掩蓋了資本主義的剝削關係。他還一再把勞動人民的反抗鬥爭、把再洗禮派，污衊爲受了魔鬼的誘惑。
所以，先定論是資產階級反對封建制度的理論，又是奴役勞動人民的工具。
加爾文把先定論說得玄而又玄，說它是神的智慧的最隱秘之處，只能崇拜，不能瞭解，更不許追究探索。想在神的話以外去了解先定論是愚蠢的，好象走進死衚衕一樣。他說只能根據《聖經》去了解先定論，神一住嘴，我們也趕快住嘴，不再追問。加爾文把先定論描寫得如此神秘是有一定道理的。
在十六世紀，世界市場開始出現，商業和價格的變化是空前的，殖民掠奪已經開始。那時候，發財和破產，成功和失敗，並不是個人的意志或行動所能決定得了的，而是取決於未知經濟力量的擺佈。人們相信，謀事在人、成事在神，這位神就是商品生產和商品交換的經濟規律，即價值規律。它使一部分生產條件較好的人，以及靠殖民掠奪擁有廉價商品的人，在競爭中處於有利地位，發財致富；使另一部分生產條件差的人，貧困破產。即少數資本家發財致富，多數勞動者貧困破產。由於當時人們並不瞭解它的秘密，只好藉助於神加以解釋。
加爾文主張大大簡化教會組織，規定教職人員從信徒中民主選舉產生，從而徹底改革了教會組織。他把複雜的天主教七禮減去五個（堅贖禮、贖罪禮、塗油禮、授職禮、婚禮），也不許望彌撒、崇拜偶象、朝聖和齋戒。
他認爲在真正的教會裡只有牧師、教師、長老和執事四種人是不可缺少的，其他人員一律精減。牧師負責執行聖誡，施行聖禮，發出規勸。教師負責講解《聖經》。執事經管信徒捐款和教會的收入，用來發放教職人員的薪俸、修理教堂和救濟窮人。長老的職責是監視每個人的行爲，對“做壞事或生活無節的人”進行勸告，並且還是權力很大的宗教法庭的成員。所以，在加爾文教裡，長老的地位十分突出，人們稱之爲宗教改革的警察，也稱加爾文教會爲長老會。有時，聲望高的教師和牧師亦稱長老。
加爾文要求長老品行高尚、完美無缺、敬畏上帝高於一切，並在精神上能夠深思遠慮。上述四種人又稱“監督”，均由信徒投票選舉產生。據加爾文說，古代基督教會原是這種民主和簡單的組織，在教皇製出現後遭到破壞，當務之急就是恢復古代的這種教會制度。當然，他舉起恢復古代教會的旗幟，並非真的要原封不動地恢復古代的教會。
他精心描繪的古代教會的圖景，實際卻是當時龐雜而腐朽的羅馬教會的對立物，是一個資產階級中意的廉價的教會。民主選舉也不是毫無限制的，候選人必須經過嚴格的審查。民主選舉和組織簡化的結果，產生了一個資產階級分子層層控制的加爾文教會。所以，加爾文教穿着古代教會這個受人尊敬的聖衣，演出的內容卻是歷史的新篇章。
加爾文的國家觀是保守的。他雖然在宗教問題上，縱橫馳騁，一往無前，但在國家問題上卻畏首畏尾，徘徊不進。他仍然囿於把基督徒分爲屬靈和屬世的兩種本質，把基督徒的自由只限於屬靈方面的成見，同時神化一切國家政權和官吏，把他們說成是代表神來進行治理的。
百姓對官吏，即使是對暴君，也只能尊敬服從，千萬不能自己動手激起騷亂。遇到暴君，羣衆首先應當“省察自己”如何違背神的旨意，神就是用苦惱來管教人們，最多對暴君的命令“置若罔聞”，千萬不能自己去“糾正暴政”。在特殊情況下，三級會議可以行使職權反對暴政，因爲它是神派來保障人民自由的。至於如何消除暴政，加爾文並沒有回答。
既然上帝的王國已經民主化、共和化，那麼人間的王國也不能從屬於君王、主教和領主，也必須民主化、共和化。加爾文的英國信徒們不久以後終於講出他本人不敢講的話，即主張王權的源泉存在於人民之中，未經人民同意的王權是非法的！原先，日內瓦處於薩伏依公爵及其代理人日內瓦主教的封建管轄下。1536年8月，即加爾文到日內瓦後一個月，日內瓦在伯爾尼的支持下打擊了教會的權威，取得了反對薩伏依公爵的勝利，成爲獨立的共和國。這給加爾文在日內瓦獲得了實踐其理想的機會。