1540年8月加爾文與伊德莉特·司徒德，一位重洗派寡婦結合。伊德莉特從前夫帶來一兒一女。1542年7月28日，他們頭生兒子雅各出生，不幸於二周後離世。加爾文在寫給朋友威雷的信中說道，主藉着我們幼子之死施予沉重苦痛的創傷。但是主自己就是一位父親，他最知道什麼是對他兒女有益的。“伊德莉特從此一直身體羸弱。他們又生了兩個孩子，孩子都在出生時或出生後不久故去。1549年3月29日，伊德莉特病逝，病因很可能是肺結核。
加爾文爲了緩解他的胃病和偏頭痛，一天只吃一頓飯，且從不加餐。有時一個月要講道二十次左右，辦神學講座十二次之多，仍然要抽時間探望病人，勉勵信徒，料理教會事物。
1537年1月，加爾文向日內瓦議會提出成立新的市政府方案，未獲批准。1541年11月，加爾文重返日內瓦時，方案被議會通過，定爲法律。方案主張成立由長老、市議員和市政官等組成的宗教法庭，密切監視每個人的生活和行動。從宗教法庭的所做所爲，同樣可以清楚地看出加爾文宗教改革的資產階級性質。
加爾文規定：長老發現幹“壞事”的人，馬上提醒教區長進行規勸，鄰居和親屬也有相勸的責任；規勸無效，就發出警告並向全體教徒公佈；如果仍然無效，則開除出教。開除出教的人被認爲是受魔鬼支配的人，可聽傳道受教育，但不能與信徒隨便交談。方案規定每個居民必須“表白和說明他們的信仰”，以便長老知曉“誰贊成福音，誰不贊成福音並喜愛教皇的王國甚於耶穌基督的王國”。
宗教法庭每星期四舉行一次例會，稱“星期四晨會”，任務是檢查有無違法亂紀現象，共同商量應當採取的補救措施。加爾文雖非宗教法庭正式成員，但經常出席法庭例會，是法庭的實際負責人。宗教法庭雖然鎮壓天主教會的反抗活動，但對羣衆的控制也很嚴，稍有不從，便施加勸告、罰款、監禁，甚至驅逐出境或活活燒死。我們從加爾文擬定的關於日內瓦郊區農村的法規，可以看到對羣衆的控制達到何等程度。
法規規定：星期天，除非遇到有人需要留在家裡照料孩子或家畜，全家人都應當去聽講道。如果有人在講道開始以後到會，予以警告。假如還不改正，罰款三個蘇銅幣。還規定：對念玫瑰經、崇拜偶像、朝聖、望彌撒、舉行天主教齋戒、遵行宗教節日以及對所謂攻擊上帝的語言或瀆神的人，根據不同情節進行勸告、監禁、以口吻地、罰款或送交法庭懲處。爲了提倡資產階級的節儉，加爾文規定：凡唱下流放蕩的歌曲、跳維羅拉舞或其它任何舞蹈者監禁三天，然後送交議會。對喝醉酒、賭博、吵架的人，也照此辦理。
許多優秀的人物，包括著名的學者、醫生和大批再洗禮派信徒，因批評加爾文的主張橫遭迫害。著名的人文主義者、教師卡斯特里奧批評加爾文後長期受迫害，只好離開日內瓦。醫生波爾賽克因爲在星期五的羣衆大會上公開批評先定論，被驅逐出境。
加爾文的神學思想在許多方面同路德宗相同，如強調聖經是基督教信仰的唯一根據和權威，認爲人類在亞當墮落之後，完全敗壞，失去意志自由；主張因信稱義，不能靠行爲得救等。加爾文還繼承發展了奧古斯丁的預定論，從上帝的至尊諭令和全能出發，認爲上帝在創世以前，即預先選定一些人得救，和決定另一些人沉淪，這種預定論是加爾文神學體系的基石。
在政教關係上，加爾文認爲政權是上帝按其神聖意志所任命的，要爲人民造福，並捍衛純正的教義和教會。關於聖餐禮，加爾文的立場介於路德和U.茨溫利兩人之間，從形式上看，似乎更接近茨溫利，但從實質上分析，應該說更接近路德。他反對天主教的變體論和路德的同體論，但也否定紀念說。他明確地肯定在聖餐中憑信心所領受的，是一種真實的，但是屬靈的身體。這種主張，後被稱爲靈性的“真實存在論”。加爾文還在可見的教會和不可見的教會之間作了明確劃分，並強調教會自治的原則。
雖然他在《基督教要義》中未另闢一章節還清楚說明他的聖靈論，但是從他的論述中可以知道他對聖靈工作的觀點。對加爾文來說，上帝的靈與上帝的工作同時進行，而促成人的“相信”，當聖靈在人心中運行光照人心，使人在讀了上帝的話而產生信心。所以人非用理性接受信仰，亦非用理性確認聖經的權威，而是聖靈那奧秘的力量所做的工作。
雖然救贖預定論是他倡導的神學遺產，但主要架構非他獨創或原創。就救贖預定論可分“救贖”及“預定”兩點來說，對於預定，加爾文認爲，得不得救在乎神的揀選，人的選擇在這件事上是毫無主權的。至於人們疑惑爲什麼有人不被撿選，他引用了申命記29：29：“隱密的事是屬耶和華我們上帝的，惟有顯明的事是永遠屬我們和我們子孫的，好叫我們遵行這律法上一切的話。”人不可能理解上帝爲什麼施恩於人，屬神的心意，人無法明白，但對於拒絕救恩，人類依然需負責任。
至於救贖他發展了馬丁·路德所提出的因信稱義之論述。這個論點起初由奧古斯丁所提出，直到馬丁·路德時發展出“法庭式的稱義”。二人不同在奧古斯丁認爲“義”是內在的，當神賜給人恩典時，“義”便成爲人的一部分。對馬丁·路德及加爾文而言，這“義”是屬外在的，是“算作”、“當作”、“歸給”，人依然是罪人，只是在人們因着信神就算我們“爲義”。而加爾文更提出“雙重恩典”說，在神的眼中算爲義是恩典之一。第二個恩典則是：當人接受耶穌與基督聯合之時，信徒便可進入更新的過程，使其內在生命更像基督。
加爾文的教會論涵蓋非常廣，包括了基督徒的自由、教會的權柄、真教會的基本特質等，其中他所認爲真教會的特質應該包括了：“傳揚聖道”及“遵行聖禮”。所以傳福音、聆聽上帝的話及遵行聖禮都是十分重要的。聖禮的定義加爾文對聖禮的定義是：“神賜恩給我們的證據，是一種外在的印志，和我們對他的敬虔之互相印證，加以確認。”
其中必要聖禮特別是指“洗禮”與“聖餐”。“洗禮”：加爾文認爲洗禮是基督徒的第一個聖禮，是加入教會的表記，好叫人們被接入基督，成爲神的兒女。加爾文反對私人洗禮，因爲他認爲洗禮與聖餐是教會的公共聖職，私人不可擅自施洗，且受洗者必須要先充分明白真理，纔可施洗。
加爾文強調通過聖餐，使得信徒得以與基督連結。他並不重視餅跟杯，他主張“在聖靈裡耶穌基督身體真實的臨在”。也就是說，人在聖靈裡改變而體驗到耶穌基督的臨在，體驗到耶穌基督的身體與血。但是在領受聖餐時，必須傳揚神的道。所以對於當時天主教保留餅和杯，給生病無法前來的信徒或是王公貴族舉行私人彌撒，這些作法加爾文並不贊成，因爲他認爲不在崇拜及充分宣揚上帝的話之場合領受聖餐，是沒有意義的。
改革宗徹底與天主教分裂，稱新教或更正教。