Мустафа Марданов родился 10 марта 1894 года в городе Меренд в Иранском Азербайджане. В 1916 году окончил Тифлисскую мужскую гимназию. С 1922 по 1924 год учился в Московском государственном институте театрального искусства.

Сценическую деятельность начал в 1910 году в Тифлисском мусульманском драматическом кружке. Первыми его ролями в театре были роли Гаджи Ганбара («Из-под дождя, да под ливень» Наджаф-бека Везирова), Карамали («Гаджи Кара» Мирзы Фатали Ахундова), Адхам («Надир-шах» Наримана Нариманова). С 1921 по 1922 год Марданов был директором Тифлисского азербайджанского театра.

С 1924 года выступает на сцене Азербайджанского государственного драматического театра. Здесь он создал ряд образов произведений азербайджанской, русской и западной драматургии. Мустафе Марданову были присущи тонкий юмор и комизм. Яркая народная комедийность сочеталась в искусстве Марданова с тонким юмором и иронией. Мустафу Марданова окружали великие актеры Азербайджана, такие как Аббас Мирза Шарифзаде, Сидги Рухулла, Агасадиг Гярайбяйли, Алескер Алекперов, от которых он многому научился. Лучшими его ролями считаются Атакиши, Имамверди («Севиль», «В 1905 году» Джафара Джаббарлы), Хлестаков («Ревизор» Николая Гоголя), Лука («На дне» Максима Горького), Шмага («Без вины виноватые» Александра Островского), Полоний («Гамлет» Уильяма Шекспира), Швандя («Любовь яровая» Константина Тренёва), Сганарель («Дон Жуан» Мольера) и др.

Мустафа Марданов был одним из первых и известных азербайджанских киноактёров. Роль "Муздур Гулу" была первой ролью М.Марданова в фильме "Бисмиллах". Этот фильм был первой режиссерской работой Аббаса Мирзы Шарифзаде, который был образцом немого кино (1925). Мустафа Марданов сыграл в таких фильмах как «Во имя Бога», «Гаджи Гара», «Севиль», «Лятиф», «Бакинцы», «Кендлиляр», «Сабухи», «Чёрные камни», «Утро», «Встреча», «Где Ахмед?» и др. Широкую популярность Марданову принесла сыгранная им роль интеллигента Гасан-бека в фильме «Не та, так эта». Первой значительной ролью М.Марданова в кино является роль Карамали в фильме "Гаджи Гара". В целом, в большинстве фильмов снятых с конца 20-ых по начало 30-ых годов М.Марданов получал роли. О высоком актерском таланте Мустафы Мардвнова свидетельствует фильм, снятый его братом известным кинорежиссером Самедом Мардановым "Крестьяне" в котором М.Марданов исполнял две противоположные друг другу роли.

В 1943 году был удостоен звания Народного артиста Азербайджанской ССР. С 1945 года — член КПСС. С 1962 по 1968 год Марданов был председателем

Азербайджанского театрального общества. Перевёл ряд пьес на азербайджанский язык. В 1959 году в Баку была издана его книга «50 лет на азербайджанской сцене (мои воспоминания)».

Скончался актёр 28 декабря 1968 года в Баку. Похоронен на Аллее почётного захоронения.