Il était issu du clan qurayshite des Banu Abd al-Dar. Sa famille était très considérée et parmi les plus riches de son temps.  Son père, très respecté au sein de sa famille, s’appelait Umayr bin Hâshim et sa mère se nommait Hannas binti Mâlik. Mus’ab était un jeune et beau garçon connu pour aimer porter de beaux vêtements et utiliser les plus chers parfums. Il est considéré comme faisant partie des premiers musulmans à avoir embrassé l’Islam dans la maison d’Arkam bin Abi Al-Arkam (Dar Al-Arkam) durant la période de prédication secrète. Il avait complètement changé de mode de vie après s’être reconverti à l’Islam, il s’était éloigné de ses occupations et de ses intéressantes fréquentations pour se vouer complètement à la transmission de l’Islam. Les membres de sa famille qui étaient très opposés au Prophète utilisèrent tous les moyens de pression et de torture pour le contraindre à redevenir polythéiste. Sa mère avait fortement participé à ces essais de le faire revenir à leur croyance originelle. Mais Mus’ab, malgré les pressions psychologiques et financières, avait protégé sa foi et retrouvait secrètement les musulmans et priait à leurs cotés sur la trace du Prophète Muhammad (saw).

Lorsque les tortures à La Mecque devinrent insoutenables, le prophète conseilla les musulmans et plus particulièrement les plus vulnérables d’entre eux, d’émigrer vers l’Abyssinie. Mus’ab, fatigué des lourdes pressions de sa famille, avait fait partie du premier groupe, constitué de onze hommes et quatre femmes, à avoir effectué l’hégire durant la cinquième année de la prédication prophétique (615). Il avait ainsi pu vivre en compagnie des autres émigrés un moment paisible, loin des tortures de sa famille et des polythéistes. Suite à la conversion de Hamza, puis d’Omar bin Khattab, les émigrés ont supposé que la sérénité était revenue à La Mecque. Se rajouta à cela des rumeurs faisant mention que les polythéistes s’étaient soumis au Prophète (saw). C’est ainsi qu’un groupe de 38 Mouhajirounes (émigrés) décida de retourner à La Mecque. Une fois arrivé et avoir appris que toutes les informations n’étaient pas correctes, c’est-à-dire que les polythéistes ne s’étaient pas réellement soumis au Prophète (saw), certains décidèrent de retourner en Abyssinie, mais Mus’ab et d’autres entrèrent malgré tout à La Mecque pour vivre aux côtés des musulmans. Les pressions de sa famille pour le faire renoncer à sa croyance reprirent comme dans le passé. Cependant, en dépit de toutes les oppositions, Mus’ab continua à soutenir le Prophète (saw).

À la suite du premier serment d’allégeance d’Al-Aqaba, durant la 11ème année à La Mecque, le Prophète Muhammad (saw) envoya Mus’ab à Médine au côté des Ansars en tant qu’émissaire et enseignant. C’est ainsi que Mus’ab a été considéré comme le premier des Mouhajirounes ayant émigré de La Mecque à Médine. Il a été accueilli à Médine par le chef de la tribu des Hazraj, celui que l’on considère le premier musulman de Médine, As’ad  bin Zurâra. C’est avec son soutien et son aide que Mus’ab a transmis l’Islam à un grand nombre de personnes. Ensemble, ils permirent à de nombreuses personnes, tant parmi les Hazraj que les Aws, d’embrasser l’Islam. Effectivement, très rapidement des leaders issus des Aws, tels qu’Usayd bin Hudayr et S’ad bin Muâdh devinrent musulmans. Mus’ab et As’ad dirigèrent les prières quotidiennes ainsi que la prière hebdomadaire du Vendredi. La première prière du Vendredi fut dirigée par Mus’ab. La seconde fonction de grande importance qu’entreprit Mus’ab est sans aucun doute l’apprentissage du Coran à la communauté de Médine.

La prédication et les efforts de ces deux-ci donnèrent leurs fruits très rapidement. Durant la 13ème année de la prophétie eut lieu le deuxième serment d’allégeance de 75 pèlerins médinois dont deux femmes. Mus’ab a été aussi présent à Aqaba durant cet événement, ses efforts dans la prédication de l’Islam lui ont valu l’estime du Prophète (saw).  Mus’ab avait en grande partie préparé lui-même le terrain pour permettre à ce deuxième groupe de prêter allégeance. Il resta trois mois à La Mecque, puis retourna sur le territoire de sa fonction, Médine.  Une fois arrivé à Médine, avec As'ad, ils se remirent au travail et continuèrent à transmettre avec ferveur le message divin, et ce jusqu’à l’hégire du Prophète (saw). À un tel point qu’il ne restait quasiment plus aucun foyer n’ayant pas embrassé l’Islam.  La seconde fonction de Mus’ab était d’aider les premiers musulmans effectuant l’hégire de La Mecque à Médine comme il en avait été convenu durant le deuxième sermon d’Al-Aqaba ; ainsi que de nouer et faciliter le dialogue entre les Ansars et le Mouhajirounes. Sans aucun doute une autre de ses missions principales a été de préparer Médine à la venue du Prophète (saw), c’est-à-dire son hégire.

Une fois l’hégire effectuée, le Prophète (saw) dans le cadre de sa pratique de fraternisation des Mouhajirounes avec les Ansars, déclara frère Mus’ab bin Umayr avec Sa’d bin Abi Waqqas et Abou Ayyoub Al-Ansari.  En période préislamique l’honneur de porter l’étendard durant les batailles appartenait à la tribu de Mus’ab, les Banu Abd Al-Dar. Le Prophète Muhammad (saw) durant la bataille de Badr confia ainsi l’étendard des Mouhajirounes à Mus’ab. À Uhud, c’est à nouveau à lui que sera remis, cette fois-ci, l’étendard de la totalité de l’armée musulmane.  Au cours de la bataille d’Uhud, lorsque la panique s’empara de certains musulmans en raison de la négligence des archers, Mus’ab resta fermement au côté du Prophète (saw) et tint l’étendard, qui lui avait été confié, debout jusqu’à son dernier souffle. À un tel point que, lorsqu’il perdit ses deux mains par les coups d’épée d’Ibn Kamîa, qui avait blessé le Prophète (saw), il serra le drapeau entre sa poitrine et ses bras, puis une lance l’atteignit et il tomba martyr.

Une fois la bataille finie, de nombreux martyrs furent ensevelis et parmi eux, l’illustre Hamza, oncle du Prophète (saw). Le prophète montra du doigt Mus’ab et informa ses compagnons que ce jeune avait vécu à La Mecque dans une grande aisance, vêtu des plus beaux vêtements, mangeant les meilleurs repas, mais qu’il mourut de la sorte, car il préféra Allah et son prophète par-dessus tout. Puis annonça la bonne nouvelle concernant Mus’ab ainsi que tous les martyrs en récitant le verset : « Il est parmi les croyants des hommes qui ont tenu loyalement leur engagement vis-à-vis de Dieu. Certains d’entre eux ont déjà accompli leur destin (le martyr) ; d’autres attendent leur tour. Mais ils n’ont jamais rien changé à leur comportement » (33-Ahzab/23).

Le Prophète avait dit en sa mémoire: « Quand je t’ai vu pour la première fois à La Mecque, personne ne t’allait à la cheville en ce qui concerne ta beauté et la beauté de tes vêtements. Aujourd’hui, tu es un homme aux cheveux ébouriffés, portant sur soi un simple tissu pour couvrir son corps. L’envoyé de Dieu proclame avec certitude que tu seras accepté auprès d’Allah ! » Plus tard,  les musulmans eurent de nombreuses victoires, s’enrichirent et se renforcèrent énormément. Mais ils n’ont jamais pu oublier la fin de Mus’ab. Ainsi, Habbab bin Arat disait qu’ils avaient fait l’hégire pour la satisfaction d’Allah et non pas pour des intérêts mondains, mais que Dieu leur accorda les bénédictions de ce monde . Puis il rajouta que certains, tel que Mus’ab, avaient partagé les mêmes intentions sincères, mais qu’ils étaient partis dans l’au-delà sans goûter à tout cela. Et il raconta que, lorsque Mus’ab fut martyr, ils ne trouvèrent même pas de linceul pour le couvrir. Ils le recouvrirent alors de sa cape mais lorsqu’ils lui couvrirent la tête, ses pieds apparaissaient, et lorsqu’ils lui couvrirent les pieds, sa tête apparaissait.  Finalement, ils couvrirent sa tête et posèrent sur ses pieds une plante parfumée.

Mus’ab était surnommé Mus’ab al-Khayr. Il était marié à Hamna la sœur d’une des mères des croyants, Zaynab bint Jahsh. Ce qui lui donna un lien de parenté par alliance avec le Prophète (saw). Il a eu de ce mariage une fille du nom de Zaynab. Mus’ab, par le changement profond qu’a créé en lui sa reconversion, a été une légende de son temps jusqu’à nos jours. Il a été un exemple pour les musulmans quant au fait d'abandonner les biens de ce bas monde. Ce jeune riche qui vivait dans le luxe et la prospérité, qui aimait s’habiller de beaux vêtements, a été capable de quitter complètement toute cette richesse pour offrir le paradis à son âme.

Le prophète avait dit à son propos alors qu’il l’avait aperçu en train de se promener dans Médine habillé de vêtements rapiécés : « Louange à Allah ! Voilà le jeune qui vivait à La Mecque dans un luxe incomparable, mais qui a abandonné tout cela pour son amour envers Allah et son Prophète, ainsi que pour sa passion de vivre dans une grande piété (taqwa) ».