Luego de la publicación de la Institución, en la primavera de 1536, Calvino hizo una corta visita a la corte de Ferrara, en Italia. Su estadía fue corta y seguida por una breve visita a Francia, para arreglar sus asuntos particulares y de allí seguir a Basilea y Estrasburgo, donde había pensado establecer su domicilio. Estrasburgo, pensaba él, sería un lugar adecuado para volver a estudiar y escribir, lo que creía ser su vocación. Pensaba que su mayor aportación a la nueva fe protestante, sería sus escritos y libros, con los cuales los creyentes pudieran aprender y ser fortalecidos. En su viaje a Estrasburgo, Calvino tuvo que desviarse de su ruta, para evitar los peligros de la guerra que tenía lugar en toda el área del camino hacia Estrasburgo. Fue así que llegó a Ginebra, y pidió alojamiento por una noche con la intención de proseguir su camino hacia Estrasburgo.
Una vez allí, Guillermo Farel, líder protestante que junto a un grupo de misioneros procendentes de Berna, se encontraban al frente de la vida religisosa de toda la ciudad, convenció a Calvino de que era la voluntad de Dios para él que estableciera la norma evangélica en Ginebra.
Finalmente, el argumento había hecho efecto, y Calvino determinó permanecer en la ciudad. Los próximos dos años Calvino trabajó en esta importante ciudad. Comenzó muy modestamente su obra, actuando como profesor de Biblia, y un año más tarde fue nombrado para formar parte del grupo de los predicadores. Sin embargo, ejercía gran influencia sobre Farel. Juntos trataron de hacer de Ginebra una comunidad ideal, organizada de forma tal que la Iglesia y el estado cooperasen en armonía. En 1537 presentaron al Pequeño Concilio de Ginebra una serie de artículos relativos a la reforma, de la pluma de Calvino. Se proponía la celebración mensual de la Cena del Señor, pero las caídas morales y el descuido de los servicios divinos sin excusa, producían la exclusión de la participación de la Cena. Una segunda iniciativa fue enseñar la doctrina evangélica a los niños, y con este fin Calvino compuso un catecismo. La tercera iniciativa fue la imposición de un credo a cada ciudadano.
El propósito principal de toda esta obra reformadora en Ginebra, era requerir la obediencia total a los principios y doctrinas evangélicas. Pero no todos estuvieron de acuerdo en seguir el camino de reforma que Calvino y Farel habían propuesto. Luego de poco menos de dos años, ambos fueron expulsados de Ginebra por negarse a acatar lo que entendían era intervención indebida del gobierno en la esfera de la Iglesia. Su trabajo en Ginebra parecía haber terminado en un total fracaso.
