Бартельс родился в Брауншвейге, в семье жестянщика. Ещё в детстве проявил математические способности. Некоторое время работал в местном училище, помогал преподавателю (1783), а затем и сам стал преподавать там математику. Здесь он познакомился с юным Гауссом, который поступил в училище около 1790 года. Бартельс оценил талантливого ученика и всячески ему помогал. Особенно важно то, что Бартельс сумел выхлопотать Гауссу стипендию от герцога Брауншвейгского, которая позволила будущему «королю математиков» продолжить обучение. Гаусс всегда очень тепло относился к своему первому учителю, и дружеская переписка между ними продолжалась до 1823 года.

В 1791 году Бартельс слушает лекции по математике, физике, астрономии и другим естественным наукам — сначала в Хельмштедте, а затем в Гёттингене. С 1800 года он становится профессором в Райхенау (Швейцария).

1802: женитьба на Анне Магдалене Залуц (нем. Anna Magdalena Saluz). В 1803 году Бартельс возвращается в Германию и занимает кафедру философии в Йенском университете.

В это время в России открылся Казанский университет, и ощущалась острая нехватка преподавателей. Степан Румовский, один из первых русских академиков, пригласил Бартельса на кафедру математики, и в 1808 году начинается русский период в биографии Бартельса. В России его называют Мартин Фёдорович.

В Казани Бартельс провёл 12 лет. Он преподавал там анализ, алгебру, геометрию, тригонометрию, механику и астрономию. Почти одновременно с Бартельсом (1807) в университет поступил юный студент Николай Лобачевский, в судьбе которого Бартельс также сыграл немалую роль, способствуя расцвету его таланта и защищая своевольного студента от административного произвола.

После одной из кадровых перетрясок в университете (1821) Бартельс совершает последний в своей жизни переезд — в Дерпт (в наши дни — Тарту, Эстония), где создаёт в местном университете научную школу по дифференциальной геометрии. В должности ординарного профессора чистой и прикладной математики он оставался в Дерпте до конца жизни.

В 1823 году получил чин тайного советника. Избран членом-корреспондентом Петербургской Академии наук в 1826 году.