Начал службу в
1691 году в том же
посольском приказе, где служил и его отец, Павел Филиппович, переводчиком. Впервые выдвинул его, дав титул тайного секретаря (
1704),
Ф.А. Головин, преемник которого
Г. И. Головкин переименовал его в вице-канцлера. В этом звании он в основном и управлял посольским приказом. Сопровождая Петра Великого во время его путешествий и походов, Шафиров принимал участие в заключении договора с польским королём
Августом II (
1701) и с послами седмиградского князя Ракоци. В
1711 г. Шафиров заключил с турками
Прутский мир и сам вместе с графом M. П. Шереметевым остался у них заложником.