Tras una grave crisis interna, acentuada por la derrota sufrida en las generales de octubre de 1982, el 6 de noviembre de ese año Carrillo presentó su dimisión con secretario general del PCE. En 1985 se separó definitivamente del mismo y creó un nuevo grupo político, Partido de los Trabajadores-Unidad Comunista, con el que acudió a las elecciones de 1986, aunque no obtuvo escaño.
Carrillo ha recibido numerosos reconocimientos por su actuación durante la transición, sobre todo a partir del 2005, fecha de su noventa cumpleaños, como la cena homenaje, ofrecida el 16 de marzo, a la que asistieron destacadas personalidades, entre ellas el presidente del Gobierno, Rodríguez Zapatero.