Il conclave
Alla morte di Leone XIII il candidato più probabile al soglio di Pietro era considerato il Segretario di Stato Rampolla. 
All'apertura del conclave il 1º agosto 1903, la sorpresa: il cardinale Puzyna, arcivescovo di Cracovia, comunica che l'imperatore d'Austria-Ungheria Francesco Giuseppe, usando un suo antico privilegio quale Sovrano di un Impero Cattolico, pone il veto all'elezione del cardinale Rampolla.
I motivi del veto sarebbero non soltanto politici, in particolare la vicinanza del Rampolla alla Francia e le idee più aperte di questo degnissimo porporato, eccellente diplomatico e uomo di governo, ma anche personali; il Rampolla quale Segretario di Stato avrebbe infatti cercato di influenzare Leone XIII a negare una sepoltura cristiana all'arciduca Rodolfo d'Asburgo-Lorena, suicidatosi durante i cosiddetti fatti di Mayerling.
Malgrado l'indignazione di molti cardinali, il conclave decise comunque di obbedire alla volontà dell'Imperatore così la candidatura di Rampolla sfumò e i suffragi si orientarono sul Patriarca di Venezia, che fu eletto il 4 agosto ed incoronato il 9. 
Prese il nome di Pio X in onore dei suoi predecessori. 
Scelse come motto del suo pontificato Instaurare omnia in Christo (Paolo di Tarso) e lo attuò con coraggio e fermezza.
Una delle prime decisioni di Pio X fu proprio l'abolizione (con la costituzione apostolica Commissum nobis) del cosiddetto veto laicale, che spettava ad alcuni sovrani cattolici e a causa del quale egli era divenuto pontefice.

Il pontificato
Il nuovo Papa, consapevole di non avere alcuna esperienza diplomatica né una vera e propria formazione universitaria, seppe scegliere dei collaboratori competenti come il giovane cardinale Rafael Merry del Val y Zulueta, di soli 38 anni, poliglotta e direttore della Pontificia accademia ecclesiastica, che fu nominato Segretario di Stato. 
Stante la propria inesperienza, Pio X lasciò a Merry del Val sostanzialmente campo libero nella conduzione della diplomazia vaticana.
Papa Pio X rimase sempre semplice e umile (come poi faranno anche papa Giovanni XXIII e Giovanni Paolo I che pure passarono dal patriarcato di Venezia al soglio di Pietro provenendo da famiglie di origine popolare) e in Vaticano visse parcamente, assistito dalle sorelle, in un appartamento fatto allestire appositamente.
Caratteristico e storicamente importante fu l'indirizzo teologico che diede alla Chiesa cattolica durante tutto il suo pontificato, la cui linea può essere definita sinteticamente come tradizionalista, in particolare per la lotta ingaggiata contro il modernismo attraverso l'enciclica Pascendi Dominici Gregis e il decreto Lamentabili Sane Exitu, a cui seguì l'approvazione personale del Sodalitium Pianum, una rete di informazione che indagava su teologi e docenti sospettati di modernismo. 
Si stava infatti diffondendo all'interno del mondo cattolico e in ampi settori della stessa gerarchia ecclesiale, una sorta di rivisitazione filosofica della teologia cattolica sotto l'effetto dello scientismo di fine '800.
Fu tuttavia Pio X ad avviare la riforma del diritto canonico, che culminerà nel 1917 con la promulgazione del Codice di diritto canonico, e a redigere il catechismo che porta il suo nome. 
Anche sul piano della gestione patrimoniale fu lui a unificare i redditi dell'obolo di San Pietro e quelli del patrimonio del Vaticano. 
Ma, soprattutto, riformò la Curia romana con la costituzione Sapienti consilio del 29 giugno 1908, sopprimendo vari dicasteri divenuti inutili. 
Raccomandò ai paesi cattolici l'uso della pronuncia ecclesiastica latina nelle scuole. 
Poco prima di morire era intento a completare gli studi preparatori di un documento (poi abbandonato dai successori) relativo alle condizioni di liceità dell'esercizio del diritto di sciopero.