Saint Irénée, Contre les hérésies, III :
Non seulement il fut disciple des apôtres et vécut avec beaucoup de gens qui avaient vu le Seigneur, mais c'est encore par des apôtres qu'il fut établi, pour l'Asie, comme évêque dans l'Église de Smyrne. Nous-même l'avons vu dans notre prime jeunesse — car il vécut longtemps et c'est dans une vieillesse avancée que, après avoir rendu un glorieux et très éclatant témoignage [ou : par un glorieux et illustre martyre], il sortit de cette vie —. Or il enseigna toujours la doctrine qu'il avait apprise des apôtres, doctrine qui est aussi celle que l'Église transmet et qui est la seule vraie. C'est ce dont témoignent toutes les Églises d'Asie et ceux qui jusqu'à ce jour ont succédé à Polycarpe, qui était un témoin de la vérité autrement digne de foi et sûr que Valentin, Marcion et tous les autres tenants d'opinions fausses. Venu à Rome sous Anicet, il détourna des hérétiques susdits un grand nombre de personnes et les ramena à l'Église de Dieu, en proclamant qu'il n'avait reçu des apôtres qu'une seule et unique vérité, celle-là même qui était transmise par l'Église. Certains l'ont entendu raconter que Jean, le disciple du Seigneur, étant allé aux bains à Éphèse, aperçut Cérinthe à l'intérieur ; il bondit alors hors des thermes sans s'être baigné, en s'écriant : « Sauvons-nous, de peur que les thermes ne s'écroulent, car à l'intérieur se trouve Cérinthe, l'ennemi de la vérité ! » Et Polycarpe lui-même, à Marcion qui l'abordait un jour et lui disait : «Reconnais-nous», «Je te reconnais, répondit-il, pour le premier-né de Satan. » Si grande était la circonspection des apôtres et de leurs disciples, qu'ils allaient jusqu'à refuser de communier, même en paroles, avec l'un de ces hommes qui falsifiaient la vérité. Comme le dit également Paul : « L'hérétique, après un premier et un deuxième avertissement, rejette-le, sachant qu'un tel homme est perverti et qu'en péchant il est lui-même l'auteur de sa condamnation. » Il existe aussi une très importante lettre de Polycarpe écrite aux Philippiens, où ceux qui le veulent et qui ont le souci de leur salut peuvent apprendre et le trait distinctif de sa foi et la prédication de la vérité.
Saint Irénée, lettre à Florinus, citée par Eusèbe, Histoire ecclésiastique, livre V :
Je t’ai vu alors que j’étais encore enfant dans l’Asie antérieure, auprès de Polycarpe ; tu brillais à la cour impériale et tu t’efforçais d’avoir bonne réputation auprès de lui. Car je me souviens mieux des choses de ce temps-là que des événements récents. Car les choses que l’on apprend en bas âge ne font qu’un avec l’âme et s’unissent à elle, si bien que je pourrais dire en quel endroit le bienheureux Polycarpe s’asseyait pour parler, comment il entrait et sortait, quel était le caractère de sa vie, l’aspect de son corps, les entretiens qu’il avait avec le peuple, comment il racontait ses relations avec Jean et avec les autres qui avaient vu le Seigneur, comment il rapportait leurs paroles, et tout ce qu’il avait appris d’eux sur le Seigneur, sur ses miracles, sur son enseignement ; tout cela Polycarpe l’avait recueilli de ceux qui avaient vu le Verbe de Vie, et il le rapportait en conformité avec les Ecritures. Toutes ces choses, je les écoutais avec grand soin, par la grâce de Dieu, et j’en ai conservé la mémoire non sur du papier, mais dans mon cœur. Toujours par la grâce de Dieu, je les rumine fidèlement.
De saint Polycarpe nous avons son épître aux Philippiens, et nous avons le récit détaillé de son martyre dans une lettre de l’Eglise de Smyrne qui est le plus ancien des actes des martyrs, et absolument authentique. Tout cela est très émouvant, car on touche vraiment les premières générations de chrétiens après les Actes des apôtres et les épîtres de saint Paul. Au passage, on constate que le témoignage de saint Irénée (qui souligne que le Jean dont il parle est celui-là même qui reposait sur la poitrine du Seigneur et qui a écrit un Evangile pendant son séjour à Ephèse) réduit à néant, sauf à prendre Irénée pour un menteur ou un imbécile, toutes les billevesées contemporaines sur le Jean de l’Evangile qui ne serait pas l’apôtre.
(L'icône canonique de saint Polycarpe est évidemment le portrait authentique du martyr - comme le sont toutes les icônes canoniques de personnages dont on a pu faire le portrait. D'autres exemples ici. On voit que c'est bien le même personnage sur toutes les peintures.)