中国与波斯阿拉伯的交往，可上溯至汉武帝派甘英出使条支。此后两国商旅来往，络绎于途。唐永徽二年，大食遣使来朝，一般认为即伊斯兰教入华之始。

唐与大食之关系甚为密切，双方遣使不断，仅开元年间即达十次，足证其频繁。宣宗时又允许色目人科考，大食人落籍者当然也就越来越多。贞观二年，并有禁番人娶妻带回之令，故凡娶妇者均滞留于中土，落地生根。

我读邓之诚《古董续记》，见卷三有云：「李珣，本蜀中土生波斯也，尹校书鹗者……遽因戏遇嘲之……曰：异域从来不乱常，李波斯强学文章，假饶持得东堂桂，胡臭熏来也不香」，知此类在中国长大的土生波斯人，在当时仍不免会遭到种族歧视，犹如现今华人在美国那样，纵为土生美国华裔ABC，也不免被白人另眼看待。可是，从另一方面说，土生波斯的数量看来一定不会少，犹如现在在南洋马来西亚等地，「土生华人」已成了一个专有名词。且李珣这位李波斯，「强学文章」的结果也很惊人。他的汉文汉文化造诣已经极好了。他们家一门数杰，其妹与花蕊夫人相熟，亦能词。李珣之词且收入《花间集》。故讥其胡臭者，自己名不见经传，李波斯则大名流芳百世。此即波斯胡落地生根之例。

在长安、广州、泉州等处，则有蕃坊，聚居波斯胡甚多。宋且于广州、泉州设蕃学。词牌中有「菩萨蛮」一阙，名义不详，或云本于梵语，或云即穆斯林之转音。虽不能确定，但伊斯兰名物于此时大量传入中土，谅亦为情理中事。

元朝统一欧亚，伊斯兰教徒之原始聚集地均画入版图，其人来往于中亚东亚，当然较前更为频繁，也更为便利。蒙古远征，也带回许多伊斯兰工匠、艺人。依蒙古律法，回回又为色目人之一，地位仅次于蒙古，故回回也乐于来华谋生求发展。许多种族共称为回回，我认为亦在此时。

其中一个例子，是犹太教。犹太教来华甚早，据向阿拉伯商人艾布˙赛统˙哈桑《中国印度见闻录》记载：黄巢破广州时，「仅寄居在城中经商的伊斯兰、犹太、基督、拜火教徒，总共就有十二万人被杀害了」，可见其时已不乏犹太教徒。元代史书称犹太人为「木忽」，这本是阿拉伯人对犹太人的称唿（Djuhua），犹太教在华则名为「一赐乐业教」，又俗称挑筋教。可是，经元到明，犹太教却越来越衰，为什么呢？因为其礼拜寺已多改称清真寺，部分人已改宗回教了。缠头用蓝布，人称蓝帽回回。开封所存三座犹太碑铭，一为弘治二年，二为康熙二年，三为康熙十八年，无一例外均自称为清真寺。其寺在明已重修，可见始建当在元代。在元不名一赐乐业教寺而混名于清真，必因回回势大，足以庇教之故。

不过纵使回回人数越来越多，其地位也高于汉人，回回与蒙之王朝的关系仍不紧密。因为蒙古王朝所信奉的仍是佛教，且毕竟有统治者与被统治者的区隔。

明朝兴起，也就是汉人联合了回回驱逐统治者蒙古人的历程。明王朝中，蓝玉、常遇春、沐英，都是回回，足徵其时回人在明王朝中所佔分量。其后郑和以一回人太监而能七下南洋，正因有此背景。

回回也因此不再是中国「境内的陌生人」，不再是客寓者。乃是这个土地、这个王朝的主人之一了。

伊斯兰教在中国，跟它在世界其他地区不同。在其他地方，它总是积极热衷地传教，甚或伴之以武力征服，可是在中国则否。他们以经商为主，也汉化学习汉文汉语，但完全不对外人传教。从七世纪中叶传进中国，到明代这一千年间，《可兰经》既无阿拉伯译本，也无印本，只用手抄方式流传。现有的十一个译本，九位译者，全都在二十世纪二十年代以后。流传也仅以阿拉伯文的型态，这当然限制了它的传布，一般汉人实在无法窥其堂奥。这又更在汉回之间形成壁垒。保障了回教的传承，但也限制了它对外的发展。

明朝以后，情况渐改观。明律禁止各色人等「本类自相嫁娶」，使得伊斯兰教徒必须与汉族等人通婚，为一大变化之原因。胡登洲（1522-1597）创办的经堂教育，则是另一个转捩点。

他所创办这种教育体制，后来影响越来越大，逐渐出现陕西派、山东派、云南派、河州派、新疆派等学派。有特殊的一套语言，也就是「经堂语」，以汉语语法去吸收运用阿拉伯波斯语彙，其型态类似现我们某些归国学人讲科学时使用一种半中不西、汉语语法混杂英文的语言那样。某些时候，受西方语法的影响，他们的汉语也会发生变化。这种经堂语，事实上正是阿拉伯等所谓天方语文要转换为汉语传播时的一个仲介、一个先声。