Первое выступление Муслима состоялось в Баку, когда ему было всего 15 лет. Несмотря на риск потери голоса, он решил, что его голос уже сформирован, и выступил перед публикой. В 1961 году он дебютировал в Ансамбле песни и пляски Закавказского военного округа, а в 1962 году стал лауреатом VIII Всемирного фестиваля молодёжи и студентов в Хельсинки.
Всесоюзная известность пришла к нему после выступления в Кремлёвском дворце съездов в 1963 году. В том же году он дал свой первый сольный концерт в Концертном зале имени П. Чайковского. В 1963 году стал солистом Азербайджанского театра оперы и балета имени Ахундова, продолжая выступать на концертах.
Муслим Магомаев был известен не только как певец, но и как композитор, написав более 20 песен, музыку к спектаклям, мюзиклам и кинофильмам. Он также был автором и ведущим цикла телепередач о жизни и творчестве звёзд мировой оперной и эстрадной сцены.
В последние годы жизни Муслим Магомаев жил в Москве, отказываясь от концертных выступлений. Он занимался живописью и вёл переписку с поклонниками через свой веб-сайт. Муслим Магомаев был награждён множеством орденов и званий, в том числе званием Народного артиста СССР в 1973 году.