Un jour, il rappelle à ses élèves que, puisque les Français, les Juifs et les Communistes sont tous de êtres humains, les chrétiens doivent les aimer. "Dieu est notre Dieu, ajoute-t-il, pas Adolf Hitler". Ces déclarations le font sommairement suspendre comme professeur. A partir de là, le P. Gapp s'attire l'hostilité, et sa sécurité ne peut plus être assurée. En 1939, il s'exile à Bordeaux, en France, lieu de la fondation de la Société de Marie. Peu de temps après, il part encore plus loin, à Saint Sébastien en Espagne.

En 1942, il se rend au consulat britannique de Valence, dans l’espoir d’obtenir un visa pour l'Angleterre. Bien qu'il n'ait pas obtenu ce visa, il achète des journaux anglais capables de lui apprendre, ce que ne pouvaient faire les journaux allemands censurés, ce qui se passait à l'intérieur du Reich allemand. Faisant la part de la propagande dans ces écrits, il y découvre un peu de la persécution en Allemagne, de ses prisons, de ses camps, ainsi que la condamnation des atrocités des Nazis par les autres nations.

Une fois en Espagne, deux hommes qui se disaient Juifs lui demandèrent de les instruire dans la foi catholique en vue de leur baptême. Le P. Gapp accepta. Un jour de novembre 1942, les deux étudiants "juifs" l'emmenèrent piqueniquer près de la frontière française. Il ne revint jamais à la maison. Les deux soi-disant étudiants juifs le firent passer sans qu’il s’en rende compte en France, où des agents de la Gestapo l'attendaient pour l'expédier à Berlin.

Le soir du 13 août 1943, 13 ans jour pour jour où Gapp était devenu marianiste, il écrivit une lettre à son supérieur, qu'il concluait ainsi :"Aujourd'hui, j'espère commencer la vie du bonheur éternel". Puis il alla en paix dans la salle d’exécution de la prison de Plötzensee, où il fut décapité, gagnant non pas l'honneur Nazi mais la gloire éternelle.

Grâce au soin avec lequel la police archivait ses rapports, les réponses du P. Gapp à ses interrogatoires ont été conservées. Il expliquait calmement que la doctrine nazie était totalement inacceptable pour un catholique. Comme prêtre catholique¸ à plus forte raison, il était de son devoir de placer Dieu avant César et de dénoncer le nazisme en toutes occasions.

L'un de ceux qui l'interrogèrent, qui est encore vivant, dit que Heinrich Himmler, chef de la Gestapo, insista pour lire le procès-verbal de tout ce que le prêtre marianiste avait dit. Himmler fit remarquer en passant à l'un des juges que si le million de membres du parti nazi était aussi engagé envers le nazisme que le P. Gapp l'était envers le catholicisme, l'Allemagne gagnerait la guerre sans difficulté.

Toutefois, en s'appuyant sur sa visite au consulat britannique, la court qui jugeait Gapp le condamna à mort pour trahison. Jakob Gapp fut guillotiné à Berlin le 13 août 1943. La police ne voulut pas livrer son corps, dans la crainte que les catholiques en fassent un martyr. Ironie du sort : c'est la Gestapo elle-même qui le dit dans son rapport.

L’un des étudiants du P. Gapp se rappelle qu’il enseignait, de manière plus générale encore, que la loi du Christ exige que l’on « doit sans penser à soi, porter secours à quiconque traverse une difficulté dans sa vie, même s’il a des idées contraires aux nôtres. » Le Père Gapp pratiquait ce qu’il prêchait. En plus de son soutien à ceux qui étaient méprisés, il se privait lui-même de l’indispensable, comme le fuel pour le chauffage en hiver afin d’aider les pauvres.

Gapp savait que les gens qui lui demandaient des conseils moraux ou des enseignements pouvaient être des agents nazis, mais il avait décidé une fois pour toutes que son statut de prêtre lui demandait de dire la vérité qu’elles qu’en soient les conséquences. Il a été béatifié en 1995. Nous ne pouvons qu’être entraînés par la conduite de martyrs tels que ceux-là. Mais il nous faut de suite nous demander: nous, comment aurions-nous agi ?