A finales de la década de los años ochenta siglo XIX comenzó a resurgir la idea de la necesidad de recuperar la Internacional porque, a pesar de las distintas vías nacionales que había emprendido el socialismo europeo, los problemas de los proletarios eran idénticos en todas partes. Además, cundió la tesis de que debían coordinarse y relacionarse los partidos obreros.
En 1889, en plenas celebraciones por el centenario de la Revolución Francesa y de la Exposición Universal, se funda la II Internacional en París. La nueva Internacional se constituyó como una organización flexible, para evitar la rigidez de la I Internacional. La organización internacional respetaría la autonomía de los distintos partidos. La cohesión se mantendría a través de los Congresos que, periódicamente, se organizarían. En 1896 se acordó que solamente podrían formar parte de la Internacional las organizaciones que aprobaran la participación en la legislación y actividad parlamentaria. Así pues, la nueva Internacional sería una confederación de partidos socialistas que aceptaban el sistema democrático. Los anarquistas quedaban excluidos.
El congreso fundacional de la II Internacional acordó que el primero de mayo de 1890 se convocara a los trabajadores para reivindicar la jornada laboral de ocho horas. El 1 de mayo se convirtió en una muestra de la fuerza y la solidaridad internacional de los obreros. Su celebración se ha convertido un símbolo adoptado en casi todos los países.
En los congresos de la Segunda Internacional se dieron intensos debates teóricos en torno al marxismo, generalmente, entre dos visiones, una ortodoxa y otra revisionista. Pero, además, se discutió mucho sobre cuestiones de estrategia política. Se planteó la cuestión de la participación de los partidos socialistas en posibles gobiernos de coalición con partidos republicanos de izquierda. Otro de los temas más debatidos tuvo que ver con la postura que debían adoptar los socialistas ante la huelga general. En 1904 se llegó a una postura de compromiso que, en el fondo, supuso la renuncia a este instrumento para terminar con el capitalismo. Pero, al año siguiente, se reabrió el debate cuando estalló la Revolución rusa de 1905, iniciada con una huelga general. Por fin, en 1906, fueron derrotadas las tesis revolucionarias en el seno de la Internacional y se desechó definitivamente el empleo de la huelga general.
En la Internacional se plantearon dos cuestiones internacionales que generaron intensas polémicas. En primer lugar, estaría la cuestión colonial, en pleno auge de los imperios coloniales europeos. Los sectores más a la izquierda eran radicalmente contrarios a cualquier posibilidad de que los socialistas apoyasen la expansión imperialista en sus respectivos estados, pero los más moderados plantearon matices al rechazo del colonialismo, ya que consideraban que podía ser beneficioso para otros pueblos y tenía evidentes beneficios económicos generales para las potencias colonizadoras.
Pero el gran debate fue el de la guerra porque afectó a la propia esencia del internacionalismo. En el Congreso de Stuttgart de 1907 se acordó que había que oponerse rotundamente a la guerra porque solamente beneficiaba los intereses del capitalismo. Se aprobó, además, que había que tomar medidas para organizar o articular esta oposición pero no se detallaron y eso provocó que se reabriera el tema de la conveniencia o no de la huelga general como uno de esos medios. La guerra siguió generando debates en los siguientes congresos. En el de Basilea de 1912 hubo unanimidad al defender la paz. Pero cuando la guerra estalló en el verano de 1914, los socialdemócratas alemanes votaron los créditos de guerra en su parlamento y el resto de partidos socialistas terminaron por alinearse con sus gobiernos respectivos en detrimento del internacionalismo. La Primera Guerra Mundial supuso una grave crisis para la Segunda Internacional. En 1921 nacería la III Internacional pero con un sentido muy distinto a las anteriores. A diferencia de la defensa de la autonomía de los partidos socialistas nacionales, la nueva Internacional postulaba una disciplina rígida y la subordinación al partido bolchevique.
En la II Internacional tuvieron un destacado papel las mujeres y la lucha por la emancipación femenina, a través del Secretariado Internacional de Mujeres Socialistas que, desde 1907, estuvo dirigido por la alemana Clara Zetkin. Desde 1911 el Secretariado promovió la celebración del Día Internacional de la Mujer Trabajadora el día 8 de marzo.
