Hij was een apostolische vader, wat betekent dat hij een leerling was van een van de oorspronkelijke discipelen van Christus; en hij was bekend bij andere belangrijke figuren in de vroegchristelijke kerk, waaronder Irenaeus, die hem als jongeling kende, en Ignatius van Antiochië, zijn collega in de oosterse katholieke kerk.
Tot zijn overgeleverde werken behoort een Brief aan de Filippenzen, waarin hij de apostel Paulus citeert, waarvan sommige citaten voorkomen in de boeken van het Nieuwe Testament en de Apocriefen. De brief van Polycarpus is door schriftgeleerden gebruikt om Paulus te identificeren als de waarschijnlijke schrijver van deze boeken.
Polycarpus werd in 155 voor Christus door het Romeinse rijk als misdadiger berecht en geëxecuteerd en werd de 12e Christelijke martelaar in Smyrna; de documentatie van zijn martelaarschap is een belangrijk document in de geschiedenis van de Christelijke kerk.