ジュネーヴから追放されたカルヴァンはシュトラースブルクに滞在、亡命フランス人教会の牧師として働きながら、1540〜41年ドイツ各地で行われたルター派とカトリック神学者の宗教会談に出席していた。
1541年秋、カルヴァンはジュネーヴの支持者に説得されて戻り、改革運動を再開した。最初に手がけたのは「ジュネーヴ教会規則」の制定。長老会制の確立を目指した。
ツヴィングリの改革に従ったチューリヒやベルンでも長老会制の雛形は作られていた。改革派的な謹厳実直な精神を定着させるため、婚姻裁判所（道徳裁判所）が設けられ、ゲマインデごとに牧師や市民・農民から構成される道徳裁判官が市民生活を監視していた。しかし婚姻裁判所の主導権は都市当局・政治の担当者が握り、教会は国家に従属する関係になっていた。
1541年の「ジュネーヴ教会規則」では、長老会の構成は12人の長老と5人の教職者。長老はジュネーヴの統治機関小議会から2人、60人議会から4人、200人議会から6人が選ばれ、市内の各地域に散在するように配置された。長老は一般信徒の代表とされたが、実際は各議会の代表で都市当局の意向を表していた。また長老会の権限は都市当局の権限を侵してはならないとされていて、破門権も都市当局が持っていた。スイスの他都市の婚姻裁判所と長老会制は大差なかった。

カルヴァンは長老会に自律的教会訓練（不品行者を教会から除外、または治癒・矯正する方策）を確保し、教会を国家から自律させる努力を続けることになった。しかし長い司教支配から解放されたジュネーヴ市民は再び教会の支配となりかねない長老会制に抵抗した。
1560年「ジュネーヴ教会規則」の改正が200人議会で可決され、カルヴァンは自分の主張を通せるようになった。改正は長老の選出には牧師の同意が必要とされ、旧市民と新市民の差別は撤廃された。フランスから流入していたカルヴァン支持の新市民の発言力が増大した。カルヴァンの立場・主張は支持が増え、晩年になって長老会制は確立された。1559年ジュネーヴ大学が設立され、若い布教者の活躍でフランスにも改革派が浸透していく。
ツヴィングリの死後、チューリヒの宗教改革を指導したのは若い ハインリヒ・ブリンガー。1549年に「スイス第一信仰告白」を起草し、カルヴァンの基本的な同意を得ている。カルヴァンの死後1566年に「スイス第二信仰告白」が承認され、スイスの改革派は統一して活動できるようになった。

世界各国史14　スイス･ベネルクス史　1540年代