Un día recordó a sus alumnos que como los franceses, judíos y comunistas son todos seres humanos, los cristianos deben amarlos. "Dios es nuestro Dios", añadió, "no Adolf Hitler. Estas declaraciones llevaron a que fuera suspendido sumariamente como profesor. A partir de entonces, el Padre Gapp atrae la hostilidad, y su seguridad ya no puede ser asegurada. En 1939, se exilió en Burdeos, Francia, donde se fundó la Sociedad de María. Poco después se fue aún más lejos, a San Sebastián, en España.

En 1942, fue al Consulado Británico en Valencia, con la esperanza de obtener un visado para Inglaterra. Aunque no obtuvo este visado, compró periódicos ingleses que le enseñaron lo que los periódicos alemanes censurados no podían, lo que ocurría dentro del Reich alemán. En estos escritos, se enteró un poco de la persecución en Alemania, sus prisiones y campos, y la condena de las atrocidades nazis por otras naciones.

Una vez en España, dos hombres que decían ser judíos le pidieron que los instruyera en la fe católica con vistas a su bautismo. El Padre Gapp estuvo de acuerdo. Un día de noviembre de 1942, los dos estudiantes "judíos" lo llevaron a un picnic cerca de la frontera francesa. Nunca regresó a casa. Los dos estudiantes llamados "judíos" lo pasaron de contrabando sin que se notara en Francia, donde agentes de la Gestapo esperaban para enviarlo a Berlín.

En la tarde del 13 de agosto de 1943, 13 años antes de que Gapp se convirtiera en marianista, escribió una carta a su superior, concluyendo: "Hoy espero comenzar la vida de felicidad eterna. Luego fue en paz a la sala de ejecución de la prisión de Plötzensee, donde fue decapitado, ganando no el honor nazi sino la gloria eterna.

Gracias al cuidado con el que la policía presentó sus informes, las respuestas del Padre Gapp a sus interrogatorios han sido preservadas. Explicó con calma que la doctrina nazi era totalmente inaceptable para un católico. Como sacerdote catholique¸ aún más, era su deber poner a Dios ante el César y denunciar el nazismo en todas las ocasiones.

Uno de los que lo interrogaron, que sigue vivo, dijo que Heinrich Himmler, jefe de la Gestapo, insistió en leer el acta de todo lo que el sacerdote marianista había dicho. Himmler señaló de pasada a uno de los jueces que si el millón de miembros del partido nazi estaban tan comprometidos con el nazismo como el P. Gapp lo estaba con el catolicismo, Alemania ganaría la guerra sin dificultad.

Sin embargo, basado en su visita al consulado británico, el tribunal que juzgó a Gapp lo condenó a muerte por traición. Jakob Gapp fue guillotinado en Berlín el 13 de agosto de 1943. La policía no estaba dispuesta a entregar su cuerpo por temor a que los católicos lo hicieran un mártir. Irónicamente, la propia Gestapo lo dice en su informe.

Uno de los alumnos del P. Gapp recuerda que enseñó, de manera aún más general, que la ley de Cristo exige que uno "debe, sin pensar en sí mismo, ayudar a cualquiera que esté pasando por una dificultad en su vida, aunque tenga ideas contrarias a las nuestras". "El padre Gapp practicaba lo que predicaba. Además de su apoyo a los despreciados, se privó de lo esencial, como el aceite para la calefacción en invierno para ayudar a los pobres.

Gapp sabía que las personas que le pedían consejos morales o enseñanzas podían ser agentes nazis, pero decidió de una vez por todas que su condición de sacerdote le exigía decir la verdad sin importar las consecuencias. Fue beatificado en 1995. Sólo podemos dejarnos arrastrar por la conducta de mártires como estos. Pero debemos preguntarnos inmediatamente: ¿cómo habríamos actuado?