Ревностный католик и сторонник Стюартов, он, однако, провёл почти всю свою жизнь на службе чужим интересам: в 1655—1661 годах сражался в войсках Швеции и Польши, а в 1661 году в чине майора поступил (уже навсегда) на службу России.
Способный и образованный, храбрый в битве, опытный инженер и военный администратор, честных правил, Гордон скоро выдвинулся среди других иноземцев, живших в России, и дослужился до чина полного генерала и контр-адмирала. Много лет провёл Гордон в Малороссии (1667—1686), принимая участие в военном управлении краем; воевал с турками, был с В. В. Голицыным в крымских походах Петра Великого 1687 и 1689 годов.