Se han encontrado rastros de presencia humana en el término municipal de Gandía desde el Gravetiense Final, de cuyos restos debemos destacar la Cueva del Parpalló, una de las maravillas del arte prehistórico de la Península Ibérica, con sus miles de plaquetas grabadas. De la misma época también son las Cuevas del Barranc del Llop y la Cueva de las Maravillas.
En época ibérica se habitó el Cerro de San Juan desde el siglo IV a.C., como se ha comprobado tras hallarse cerámicas ibéricas y fragmentos de vasos áticos de figuras rojas y de barniz negro, a pesar de haber sido arrasadas las construcciones ibéricas por las medievales. También existen algunas monedas ibéricas dispersas por el municipio. La huella cultural de la conquista romana está bien estudiada, que indican la existencia de un asentamiento de época imperial.
Del período visigodo no se tiene constancia alguna de que hubiera un núcleo urbano en la zona, aunque los musulmanes fundan Candia. En 1249 aparece la primera mención clara de la ciudad en un texto escrito, el Llibre de Repartiment de València, en el que se menciona que esta villa fue donada por el rey Jaime I a su hijo el infante Pedro. Un hito en la historia gandiense es 1399, cuando Martín el Humano otorga el título de Duque de Gandía a Alfonso de Aragón y Foix, el cual establece una refinada corte en su feudo.
Su hijo Alfonso el Joven continúa su tarea: impulsa el cultivo de la caña de azúcar y la industria, edifica el Palacio Ducal, el Monasterio de San Jerónimo de Cotalba, reforma la colegiata y se convierte en un auténtico mecenas al estilo italiano, patrocinando a grandes literatos como Ausiàs March, que probablemente era oriundo de Gandía, Joanot Martorell, autor del celebérrimo Tirant lo Blanch, y el insigne Joan Rois de Corella, tres de los grandes autores del Siglo de Oro del Reino de Valencia.
El siguiente acontecimiento decisivo para Gandía fue el traspaso del Ducado a la familia Borja, más conocidos por su nombre italiano, Borgia. La ciudad, que había pasado a formar parte del brazo real, vuelva a manos señoriales en 1494. Ese año Juan de Borja y Cattanei establece allí una opulenta corte provinciana.
La sublevación de las Germanías trajo importantes consecuencias, puesto que tras la toma del poder en la ciudad por los agermanados en 1521, se obligó a los mudéjares a bautizarse forzosamente, convirtiéndose en moriscos o cristianos nuevos. Después del fin de la rebelión, los Borja retomaron el control de Gandía. A mediados del siglo XVI la ciudad vive una serie de transformaciones urbanísticas de gran calado como consecuencia de la actividad del Duque Francisco de Borja, más tarde jesuita, y conocido mundialmente como San Francisco de Borja. Reamuralló la ciudad para protegerla del peligro berberisco, incorporando el nuevo recinto a la zona antigua. Además, edifica dentro un colegio que en 1548 fue elevado a universidad por orden del Papa. Allí estudiaron intelectuales de la talla de Baltasar Gracián y Antonio José de Cavanilles.
La expulsión de los moriscos de 1609 postró económicamente a la ciudad, ya que aniquiló la industria azucarera, no consiguiendo recuperarse hasta la segunda mitad del Setecientos, 150 años más tarde. Los duques, por su parte, se trasladaron a Madrid, con el fin de estar cerca de la corte real. El duque se mantuvo fiel a Felipe V durante la Guerra de Sucesión, lo cual provocó que el general austracista Basset desmantelara la artillería de sus fortificaciones. A mediados del XVIII se extingue la familia Borja, y el título de Duque de Gandía pasa a los Duques de Osuna. Reinando Carlos III, la ciudad inicia una tímida industrialización, que entra en crisis en el XIX debido a la competencia extranjera y a la epidemia que acabó con el gusano de seda.
En los siglos XX y XXI, Gandía se ha convertido en uno de los referentes turísticos de la Comunidad Valenciana.