Durante su largo exilio en Madrid Pérez Jiménez acostumbraba pasar sus vacaciones en Palma de Mallorca, donde disponía de dos pequeños barcos: Táchira I y Táchira II, de varios apartamentos y manejaba inversiones en el negocio de la construcción. El historiados Carlos Alarico Gómez escribe: “Su exilio fue gratificante y productivo, especialmente desde el punto de vista familiar, al punto que vio casarse a todas sus hijas”, y ya a esas alturas de su vida podía rescatar como un mérito el haber sido el constructor principal de las modernas Fuerzas Armadas, cuya actualización comenzó con Juan Vicente Gómez en 1910, pero que sólo a partir del 18 de octubre de 1945 se echarían las bases de unos componentes militares verdaderamente profesionales que apuntalaron los años de las dictaduras y luego, sin traumas, entendieron su papel en el proceso democrático que duró 40 años. Sin embargo, no llegó a conocer el rumbo que después habrían de tomar en una acelerada dinámica de desnaturalización de sus objetivos históricos. Pérez Jiménez no fue un político vocacional ni tuvo pasta de caudillo como su admirado Juan Domingo Perón, pero era” un excelente planificador” según el testimonio de su amigo Pedo Estrada. En Madrid llevaba una vida silenciosa confinada a su hogar, salvo una que otra revelación sobre la vida de sus hijas en la revista ¡Hola! y una que otra vez que reservaba mesa para comer huevos estrellados en Casa Lucio en la Calle de la Cava Baja.
En vísperas de las elecciones venezolanas siempre era requerido su apoyo por algún candidato y persistía el recuerdo de la sorpresiva votación perezjimenista en la consulta de 1968. Un mes antes de la votación de 1998 fue visitado por Henrique Salas Rómer candidato de Proyecto Venezuela y quién se perfilaba como el contendor de Hugo Chávez que deja el siguiente testimonio de la visita: “Vestía un mono gris, un tanto ajustado. Lo hallé menos avejentado de lo que esperaba y sumamente elocuente. Después de las presentaciones de rigor, no sentamos en unos cómodos sillones. Le hablé sobre el motivo de la visita. Aclarándole que yo había sido uno de tantos jóvenes que en 1958 festejó su partida, pero que tenía sumo interés en conocerlo para tener una visión más completa de sus ejecutorias, mostrándole especial interés en el plan ferrocarrilero diseñado por su gobierno. Sobre el particular no abundó. Se limitó a decir que era una lástima que los adecos hubiesen frustrado un plan que le hubiese dado a Venezuela la mejor red ferrocarrilera de América Latina. El general habló de manera continua, expresándose con la fuerza característica de muchos tachirenses, dejando poco espacio para el diálogo. Pese a su lucidez, daba a veces la impresión de estar sumido en sus propios recuerdos”.
Después de las asonadas de 1992, Pérez Jiménez estuvo interesado en la evolución del cuadro militar y le pedía a sus amigos en Caracas que lo mantuvieran al día. Lógicamente entonces el personaje que más se asimilaba a su personalidad y en cierto modo a sus ideas era Hugo Chávez, quién también desde 1994 una vez en libertad se había trazado como meta establecer contacto con él como parte de sus visitas a los dictadores y ex dictadores de Argentina, Uruguay y Chile. Su estrategia electoral contemplaría luego una apelación al sustrato militarista que aún perdura sólidamente en segmentos de la población venezolana. Cuando ya era evidente que su candidatura se encaminaba hacia la victoria en diciembre del 98, se apresuró a visitarlo en su lujosa mansión de La Moraleja en Madrid, en compañía del comandante Jesús Urdaneta Hernández (entonces cónsul en Vigo) y el periodista Rafael del Naranco. Como siempre Pérez Jiménez hizo una larga exposición sobre su experiencia de gobierno; se mostró complacido de que surgieran nuevos líderes; oyó los planes de Chávez; le deseó éxito en su aventura electoral y dijo que se le abría una gran oportunidad de ser favorecido por el voto popular mientras que él tuvo que soportar el costo de haber llegado al poder mediante fórmulas de fuerza. A los días la prensa especuló que Pérez Jiménez vendría a la toma de posesión de Chávez y que incluso podría radicarse en el país. Ello no ocurrió, por el contrario enfermó y se alejó la posibilidad definitiva de su regreso-Meses antes de morir fue visitado por su amigo Carlos Enrique Tinoco, por coincidencia uno de los primeros empresarios que apoyó a Chávez al salir éste de la cárcel de Yare el 84. Ya estaba claro que no volvería a Venezuela y que su estado de salud tendía a complicarse y le comentó a Tinoco sobre el encuentro con el ya Presidente, que “Chávez era un personaje disperso” mientras que Urdaneta Hernández lo había impresionado “por sus juicios y formación militar”
Se acercaban los días finales de un dictador, que como escribe Judith Ewell, “al igual que Cipriano Castro habría de morir como un hombre sin país”. El 20 de septiembre de 2001 le sobrevino la muerte. Una escueta nota de la prensa española el día 21 dio cuenta del hecho: “Hoy serán cremados los restos mortales del ex dictador Marcos Evangelista Pérez Jiménez, quien falleciera ayer a los 87años de edad, víctima de una penosa enfermedad que desde hace 2 años lo mantenía en estado vegetativo”- El gobierno venezolano giró instrucciones para rendirle honores militares y ofreció ayuda a los familiares para agilizar los trámites de repatriación. Nada de ello ocurrió, El diario El Nacional, a manera de epitafio, tituló a tres columnas; “Murió el último dictador del siglo XX”.