El texto (cuyos capítulos, como señaló el propio escritor, se pueden leer de forma aleatoria) está estructurado en tres partes. La primera se centra en la relación imposible entre Oliveira, un expatriado argentino en París, y la Maga, una mujer uruguaya que cuida un bebé. Los dos son miembros del peculiar club de la Serpiente, ubicado en un desastrado local donde sus amigos se emborrachan, se cuentan sus añoranzas y escuchan jazz en un viejo tocadiscos. La segunda narra el viaje de Oliveira a Buenos Aires y su reencuentro con un compañero de juventud. Se gana la vida de manera precaria como vendedor de telas y convive en la habitación de un hotel barato con su antigua novia. Y en la tercera se mezclan materiales dispersos y aparentemente incoherentes, entre los que figuran recortes de periódicos, citas de libros, reflexiones filosóficas, diálogos y poemas.
La obra se articula en 155 parágrafos, cada uno de los cuales tiene sentido de forma autónoma. La prosa limpia y transparente invita a ser leída en voz alta por su gran musicalidad, no en vano Rayuela es un homenaje al jazz clásico, con referencias a intérpretes como Charlie Parker, Coleman Hawkins o Lester Young.