La crisi economica che investe tutto il mondo nel 1857 segna una forte ascesa del movimento operaio che fece sentire anche la necessità di una unità politica internazionale. Il 22 luglio 1864 si svolge a Londra una grande manifestazione in solidarietà con la Polonia insorta contro la dominazione russa: i dirigenti operai inglesi e francesi si accordano per la costituzione di un'associazione. Il 28 settembre 1864 nella St. Martin's Hall di Londra si svolge la seduta inaugurale del congresso costitutivo dell'Associazione internazionale dei lavoratori con la partecipazione di rappresentanti inglesi, francesi, italiani, polacchi, irlandesi, svizzeri e tedeschi, tra i quali anche Marx. Viene stabilito che il congresso elegga annualmente il Consiglio generale, con sede a Londra, il quale a sua volta elegge i segretari delle sezioni nazionali.
Marx stende l'Indirizzo inaugurale dello statuto dell'Associazione, approvato all'unanimità il 1° novembre 1864, nel quale si sottolinea l'esperienza positiva del movimento operaio, con la conquista della giornata lavorativa di 10 ore in Inghilterra, lo sviluppo del sindacalismo, e delle associazioni di produzione operaia ma anche la necessità della conquista del potere politico.
Il 26 giugno 1865 presenta al Consiglio generale il saggio Salario, prezzo e profitto in cui dimostra la falsità della tesi del rapporto tra aumenti salariali e inflazione.
Presto Marx, membro del Consiglio e segretario per la Germania, l'Olanda e più tardi anche per la Russia, deve lottare contro l'influsso dei mazziniani, oweniani e soprattutto proudhoniani, favorevoli alla cooperazione ma contrari alle lotte sindacali e politiche: nel I congresso, tenuto a Ginevra il 3 settembre 1866, vengono approvate le sue Istruzioni, dove sostiene che il movimento cooperativo operaio non è in grado di mutare la situazione sociale del proletariato e condanna le tesi proudhoniane contrarie al lavoro e alla vita sociale delle donne.