Яков Брюс родился 1 мая 1669 года в Москве, в семье отставного полковника Вильяма (Видимо) Брюса, нанятого на военную службу в Россию в 1647 году. Отец Якова Брюса был потомком знатной фамилии, прославившейся в период борьбы шотландского и ирландского народов за свою независимость в начале XIV века. Организатор этой борьбы Роберт Брюс (1276-1328) в 1306 году стол королем независимой от власти английских королей Шотландии, а через 10 лет его брат Эдвард провозглашается королем Ирландии. Сын Эдварда Томас получил титул лэрда, в европейской традиции - барона. Вильям Брюс этого титула уже не имел, поскольку его прадед был младшим сыном в семье седьмого лэрда, и вынужден был выехать из Англии во время Тридцатилетней войны, разразившейся в Европе в XVII веке, чтобы наняться на службу в одну из европейских армий. Так он оказался в группе офицеров, привезенных в Архангельск из Голландии в августе 1647 года. Вилим Брюс прослужил России 33 года и умер в 1680 году, оставив двух сыновей - Романа и Якова. Роман был на год старше Якова, также родился в Москве. Известен в истории России как один из сподвижников Петра, ставший в 1704 году обер-комендантом Санкт-Петербурга. В этой должности, имея звание генерал-лейтенанта, Р. В. Брюс скончался в 1720 году. Был похоронен на территории Петропавловской крепости.
        По всей вероятности, оба сына Видимо Брюса после его смерти оказались взятыми на воспитание кем-то из иностранцев, проживавших в Немецкой слободе. Во всяком случае, тот высокий уровень образования, который они имели, более нигде в России получить в то время было невозможно. Тем более что на момент смерти отца им было: Якову- 11, Роману- 12 лет.
        Свою военную службу оба брата начали в 1686 году в звании прапорщиков и приняли участие в первом Крымском походе 1687 года, за что были награждены.
        Непосредственная служба Петру Алексеевичу для Якова Брюса началась в 1689 году, когда отряд под командованием генерала Патрика Гордона прибыл в Троице-Сергиев монастырь, чтобы поддержать Петра во время стрелецкого бунта. Яков Брюс сразу оказался среди ближайших сподвижников Петра I и принял активное участие в его преобразованиях. Так, в 1693 году Брюс сопровождал Петра во время поездки в Архангельск. И был оставлен им на зиму, для помощи архангельскому воеводе Ф. М. Апраксину в закладке судоверфей и строительстве первых российских торговых кораблей. Брюс принимал участие в Азовских походах. В первом походе 1695 года он вместе с инженерами Ф. Тиммерманом, А. Вейде, А. Виниусом руководил осадой Азова. А во втором походе был командиром корабельной роты во флотилии Ф. Лефорта. Должность неслучайная, поскольку Брюс активно участвовал в создании военного флота но реке Воронеж после поражения под Азовом в 1695 году.
        Второй Азовский поход ознаменовался для Брюса выполнением особого поручения Петра I. Тогда была острая необходимость в создании карты юга европейской части России, поскольку подробных карт своей территории Россия не имела. Задача состояла в показе кратчайшего от Москвы до Черного моря, преимущественно водного пути. И вот 27-летний Яков Вилимович с блеском выполняет это поручение. Карта, составленная по замерам и описанию генерал-майора Менгдена, довольно необычна. Брюс использовал четыре вида масштабов, сетку координат и подробно показал все самые мельчайшие реки и их притоки в бассейне Дона и Днепра. Это дало повод академику В. И. Вернадскому отметить, что впервые при составлении корты в одно целое соединились старая русская и новая западноевропейская картографии. По сути, он характеризует эту карту как первую научную географическую карту России.