San Gimignano surgiu em um lugar habitado certamente pelos etruscos, pelo menos desde o século III a.c., como evidenciam os numerosos achados arqueológicos (principalmente túmulos) no território circunvizinho. O morro foi de certo escolhido por razões estratégicas, sendo dominante 324 m acima do nível do mar em Val d'Elsa.

A primeira referência remonta ao ano 929, enquanto no final do século X é citado no itinerário ao longo da via Francigena pelo arcebispo Segerico, que indicava o “povoado” também como ponto de intersecção com a estrada entre Pisa e Siena. Segundo a tradição o nome derivou do santo bispo de Modena, que teria defendido a aldeia da ocupação de Átila.

A primeira cintura de muralhas remonta ao ano 998 e compreendia o morro de Montestaffoli, onde já existia uma fortaleza sede do mercado de propriedade do bispo de Volterra, e o monte da Torre com o castelo do bispo.

Por volta do ano 1150, apesar da abertura de una nova rota da via Francigena, San Gimignano continuou a ser um centro emergente, com uma política de expansão territorial e um significativo crescimento da atividade comercial. Foi neste período que se formaram dois “povoados” do lado de fora das muralhas: o de San Matteo, na direção de Pisa, e o de San Giovanni, na direção de Siena, ambos ao longo de uma nova "estrada mestre", que foram incorporados nas muralhas com a nova rota concluída no ano 1214.

Em 1199, no ápice de seu esplendor econômico, a cidade ganhou a própria independência municipal em relação aos bispos de Volterra. Não faltaram lutas internas entre guelfos e gibelinos (respectivamente lideradas pelos indomáveis Ardinghelli e Salvucci), mas no século XII, sob dominação dos gibelinos, remonta o período de maior esplendor econômico, que se baseava na comercialização de valiosos produtos agrícolas, entre os quais os mais procurados eram açafrão, vendido na Itália (Pisa, Lucca, Gênova) e no exterior (França e Países Baixos, até a Síria e ao Egito[2]). Além disso, como outros centros toscanos, se difundiu a especulação financeira e a agiotagem. A sólida economia permitiu a criação de uma classe aristocrática urbana, que exprimiu a própria supremacia política e social com a construção das torres: no século XIV chegou-se a contar 72 torres (hoje restam 14).

Os abundantes capitais acumulados foram investidos ao longo do século XIII em importantes obras públicas, que deram à cidadezinha a articulação dos espaços urbanos visíveis ainda hoje.

No ano 1251 os muros englobaram Montestaffoli, mas após poucos anos, em 1255, a cidade foi tomada pelos guelfos de Florença que ordenaram a destruição das muralhas. Readquirida a independência em 1261 e retornada a supremacia gibelina após a batalha de Montaperti, a população de San Gimignano reconstruiu as muralhas compreendendo tambem o monte da Torre. Desde então a conformação da cidade foi subdividida em quatro partes, cada uma correspondente a uma porta principal: a de Piazza, de Castello, de San Matteo e de San Giovanni.

As ordens religiosas, apoiadas pelo governo, se instalaram na cidade a partir da metade do século XIII: os franciscanos fora da porta de San Giovanni (1247), os agostinianos na porta San Matteo (1280), os dominicanos em Montestaffoli (1335) e as benedetinas de San Girolamo na Porta San Jacopo (1337).

A partir de 8 de maio de 1300 a Cidade teve a honra de receber Dante Alighieri como embaixador da Liga Guelfa na Toscana.

O século XIV foi um século de crises que não poupou San Gimignano: tormentada pelas lutas internas, foi duramente atingida pela peste negra e pela fome do ano 1348, que dizimou a população. Em 1351 a cidade enfraquecida se entregou espontaneamente a Florença, renunciando à própria autonomia e a um papel político na arena toscana. Remonta àquele ano a Fortaleza de Montestaffoli, enquanto em 1358 foram reforçadas as muralhas.

Apesar do declínio econômico e político, os séculos XIV e XV foram importantes do ponto de vista artístico graças a presença na cidade de numerosos mestres, de Siena ou mais frequentemente de Florença, principalmente chamados pelas ordens religiosas para embelezar seus próprios pertences. Trabalharam em San Gimignano Memmo di Filippuccio, Lippo e Federico Memmi, Taddeo di Bartolo, Benozzo Gozzoli, Domenico Ghirlandaio, Sebastiano Mainardi (nativo de San Gimignano), il Pollaiolo, etc.

O declínio e a marginalidade da cidade nos séculos sucessivos foram as condições que permitiram a extraordinária cristalização de seu aspecto medieval.

No final do século XIX se iniciou a redescobrir a singularidade e a beleza da cidade, que em 1929 teve seus monumentos integralmente postos sob tutela.

Em 1990 foi declarada pela Unesco patrimônio cultural da Humanidade.