Galvanisé par la rencontre du mystique, Chou'ayb, le futur Sidi Boumediene, traverse sans hésiter le détroit qui sépare l'Andalousie du Maghreb et se retrouve à Tanger puis à Ceuta et à Marrakech. Des compatriotes andalous l'accueillent et lui proposent de se faire enrôler dans la milice : il refuse, il n'est pas venu en Afrique pour se faire soldat, mais pour chercher le savoir… Il vit quelque temps à Marrakech puis se rend à Fès où, lui a-t-on dit, professent de grands maîtres. Il va y rencontrer, en effet, le grand mystique berbère, Sidi Hirzihim, qui va l'initier aux doctrines mystiques, le tasawwuf. C'est lui qui va lui faire découvrir les grands ouvrages de ce courant, notamment ceux d'Al-Muh'asibi et sans doute d'Al-Ghazali. Chou'ayb, quand il n'est pas en train d'étudier, travaille pour gagner sa vie dans un atelier de tissage. Bien souvent, il doit se contenter d'un morceau de galette et, comme tous les étudiants pauvres de l'époque, il devait guetter les couscous qu'offraient les bonnes gens en charité. Il avait trouvé une grotte, à la sortie de la ville et il l'avait aménagée en chambre. Le jour où il s'est installé, de gros chiens ont accouru : il a pris peur; mais les animaux, loin de l'attaquer, lui font la fête et le lèchent affectueusement. Une gazelle vient aussi vers lui, elle le laisse prendre de son lait qui le désaltère.