Rousseau nacque a Ginevra, in Svizzera, e nel corso di tutta la sua vita si definì come cittadino della propria città natale. Sua madre, Suzanne Bernard Rousseau, morì una settimana dopo la nascita del figlio, per complicazioni post-parto; suo padre Isaac, un orologiaio fallito, lo abbandonò nel 1722, per evitare di essere imprigionato in seguito a un duello. Nella sua infanzia, Rousseau fu educato tramite la lettura delle Vite parallele di Plutarco e dei sermoni calvinisti.
Rousseau lasciò Ginevra il 14 marzo 1728, dopo diversi anni di apprendistato presso prima un notaio e poi un incisore. Incontrò dunque Françoise-Louise de Warens, una baronessa francese cattolica, che in seguito divenne la sua amante, nonostante lei fosse di dodici anni più anziana. Sotto la sua protezione, Rousseau si convertì, anche se malvolentieri, al cattolicesimo.
Trascorse quindi alcune settimane in un seminario, e, agli inizî del 1729, sei mesi presso la scuola del coro della cattedrale di Annecy. Dedicò inoltre diverso tempo al viaggio e a diverse professioni; ad esempio, all'inizio del decennio 1730, lavorò come insegnante di musica a Chambéry. Nel 1736 fu di nuovo presso i de Warens, vicino a Chambéry, un soggiorno che trovò estremamente piacevole, ma nel 1740 partì nuovamente, per Lione dove fece da tutore del giovane figlio di Gabriel Bonnet de Mably.
Nel 1742 Rousseau si spostò a Parigi, per presentare all'Accademia delle Scienze un nuovo sistema di notazione musicale, che aveva inventato, basato su una singola linea dove i numeri rappresentavano gli intervalli tra le note, mentre punti e virgole indicavano i valori ritmici. L'idea era quella di avere un sistema compatibile con la tipografia, ma l'Accademia lo respinse come inutile e privo di originalità.