Nascido em uma família cristã da alta burguesia no ano 69, em Esmirna, Ásia Menor, atual Turquia. Os registros sobre sua vida nos foram transmitidos pelo seu biógrafo e discípulo predileto, Irineu, venerado como o “Apóstolo da França” e sucessor de Timóteo em Lion. Policarpo foi discípulo do apóstolo João, e teve a oportunidade de conhecer outros apóstolos que conviveram com o Mestre. Ele se tornou um exemplo íntegro de fé e vida, sendo respeitado inclusive pelos adversários. Dezesseis anos depois, Policarpo foi escolhido e consagrado para ser o bispo de Esmirna para a Ásia Menor, pelo próprio apóstolo João, o Evangelista.
Foi amigo de fé e pessoal de Inácio Antioquia, que esteve em sua casa durante seu trajeto para o martírio romano em 107. Este escreveu cartas para Policarpo e para a Igreja de Esmirna, antes de morrer, enaltecendo as qualidades do zeloso bispo. No governo do papa Aniceto, Policarpo visitou Roma, representando as igrejas da Ásia para discutirem sobre a mudança da festa da Páscoa, comemorada em dias diferentes no Oriente e Ocidente. Apesar de não chegarem a um acôrdo, se despediram celebrando juntos a liturgia, demonstrando união na fé, que não se abalou pela divergência nas questões disciplinares.
Ao contrário de Inácio, Policarpo não estava interessado em administração eclesiástica, mas em fortalecer a fé do seu rebanho. Ele escreveu várias cartas, porém a única que se preservou até hoje foi a endereçada aos filipenses no ano 110. Nela, Policarpo exaltou a fé em Cristo, a ser confirmada no trabalho diário e na vida dos cristãos. Também citou a Carta de Paulo aos filipenses, o Evangelho, e repetiu as muitas informações que recebera dos apóstolos, especialmente de João. Por isto, a Igreja o considera “Padre Apostólico”, como foram classificados os primeiros discípulos dos apóstolos.
Durante a perseguição de Marco Aurélio, Policarpo teve uma visão do martírio que o esperava, três dias antes de ser preso. Avisou aos amigos que seria morto pelo fogo. Estava em oração quando foi preso e levado ao tribunal. Diante da insistência do pro cônsul Estácio Quadrado para que renegasse a Cristo, Policarpo disse: “Eu tenho servido Cristo por 86 anos e ele nunca me fez nada de mal. Como posso blasfemar contra meu Redentor? Ouça bem claro: eu sou cristão”! Foi condenado e ele mesmo subiu na fogueira e testemunhou para o povo: “Sede bendito para sempre, ó Senhor; que o vosso nome adorável seja glorificado por todos os séculos”. Mas a profecia de Policarpo não se cumpriu: contam os escritos que, mesmo com a fogueira queimando sob ele e à sua volta, o fogo não o atingiu.
Os carrascos foram obrigados a matá-lo à espada, depois quando o seu corpo foi queimado exalou um odor de pão cosido. Os discípulos recolheram o restante de seus ossos que colocaram numa sepultura apropriada. O martírio de Policarpo foi descrito um ano depois de sua morte, em uma carta datada de 23 de fevereiro de 156,enviada pela igreja de Esmirna à igreja de Filomélio. Trata-se do registro mais antigo do martirológio cristão existente.