基督教于公元一世纪在罗马帝国东部兴起，最初主要在下层民众中传播，信徒之间平等互助，同甘共苦，信徒不拜偶像，并有着拒绝与统治者合作的倾向。因此，基督教一度遭到敌视和迫害。尽管如此，由于这种信仰深得人心，基督教在逆境中仍得到蓬勃发展，到三世纪末已经传播到罗马帝国社会各阶层。公元313年君士坦丁大帝与李锡尼乌斯共同发布“米兰敕令”，基督教在罗马帝国境内获得合法地位，392年更成为罗马帝国唯一合法的宗教。

教会史家一般认为，公元64年罗马城大火后，罗马皇帝尼禄屠杀基督徒是罗马帝国迫害基督教的开端。 据记载，尼禄起初只是下令搜捕纵火犯，后来发展为搜捕敌视罗马帝国的所有人。不敬拜罗马皇帝，只敬拜耶稣基督的基督徒被认为是社会公敌，要予以处死。 这次镇压主要发生在罗马，也蔓延到东方各行省。

罗马人相信万物有灵论，信仰类似于萨满教的万神教。主管战争、生育、农耕等的诸神各司其职，此外灶有灶神，道有道神。这些神灵被塑成形态各异的神像，供奉在罗马的万神庙中。而基督教教义则反对偶像崇拜。摩西十诫的第一条就是“除我以外，你不可有别的神”。新约马太福音中也说：“当拜主你的神，单要事奉他”。因此，基督信仰与罗马原始信仰发生冲突是必然的。

罗马帝国统治者对基督徒只信仰一个“将来的国度”感到好奇，皇帝图密善曾亲自审问两个基督徒，问他们有多少财产，两人答道:“九千银币而已，分属两人；但这笔产业不是钱，而是一块三十九亩的土地。我们从中收租，并用劳力养活自己。”图密善于是问他们，什么是基督的国度，他们回答:“那不是短暂的国，也非属地的国，而是神圣属天的国。它会在世界末日时，显现于荣耀中。神会审判活人死人，照各人所行的报应各人。”图密善觉得他们无知且愚蠢，便打发他们走了，然后下令停止迫害基督徒。

此后，图拉真皇帝开始把基督徒与犹太教徒加以区别，屠杀反抗罗马统治的犹太人，宽容愿做罗马帝国顺民的基督徒。

从2世纪末到3世纪中叶，除了202-211 年、235-238年这两段共12年曾对基督徒进行过镇压外， 罗马统治者基本上采取怀柔加限制的方针。直至狄西乌斯统治时期(249-251年在位)，情况才发生变化。

狄西乌是由军队拥立的皇帝。罗马自奥古斯都以来，就把皇帝视为“神”，大搞“皇帝崇拜”，而基督徒只崇拜上帝，这在狄西乌看来，简直是大逆不道，是叛国，是渎神。当时罗马军队中已有很多基督徒，他们能否效忠皇帝，也已成为一个很严重的问题。此外，狄西乌认为道德堕落和宗教信仰自由是罗马帝国衰落的根本原因，为了保证统治，必须在帝国内实现思想上的统一，于是开始大肆迫害基督徒。狄西乌斯明令所有基督徒必须放弃信仰，参加多神教的献祭仪式。狄西乌斯逮捕拒绝献祭的高级教士并处决了教皇法比安，要求所有人必须向诸神献祭或参加奠酒祭神仪式。那些拒绝献祭的基督徒要么被杀，要么被监禁。但在狄西乌斯死后，迫害就停止了。257 年瓦勒良又开始对基督徒进行迫害，强迫所有牧师向众神献祭。第二年他颁布了更为严厉的敕令: 处死不献祭的高级牧师，许多人殉道，包括迦太基主教塞普里安。这次迫害因瓦勒良被波斯人俘虏而中止。

284年戴克里先即位后，为巩固政治统治继续寻求思想上的统一，强化对传统多神教的崇拜，并从303年起开始对基督教进行空前迫害。他颁布了第一道敕令: 将教堂夷为平地，焚毁圣经，那些居高位的基督徒失去所有公民权利。于是，生来自由的基督徒被剥夺了罗马公民权。在政治上，这意味着基督徒不能在帝国各级政府中担任官职；在法律上，他们丧失上诉权，不再免于酷刑。戴克里先将许多基督徒从宫廷中驱逐，将坚持基督教信仰的士兵从军队中开除。

这道敕令颁布后不久，尼科米底亚皇宫发生了第二场大火，并在叙利亚发生了动乱。这导致了迫害基督徒行动的升级。宫廷中的反基督教团体将大火和内乱的发生归咎于基督徒的反抗。随后戴克里先又颁布第二道敕令：逮捕和监禁主教，强迫牧师向诸神献祭，目的是破坏基督教的教会组织，降低教会领导人的威望。结果，各地监狱人满为患，本来预备囚禁杀人犯和盗墓者的监狱住满了主教、长老、牧师和学者，再没有地方监禁那些真正的罪犯。所以，戴克里先又颁布第三道敕令: 如果被囚禁的基督徒献祭，就释放他们；如果他们拒绝献祭，就将他们长期关在狱中，让他们遭受各种酷刑，甚至将他们处死。戴克里先希望用这种方式使基督徒失去领袖，放弃基督信仰。304年戴克里先颁布第四道敕令，命令所有基督徒必须向罗马诸神献祭。

野火烧不尽，春风吹又生。尽管多次受到迫害，基督教并未被扑灭，反而得到蓬勃发展。基督教会努力在帝国上层中发展教徒，很多政府官员和皇室成员加入教会。最重要的是，基督教已经深入到军队，早在马库斯-奥理略统治时期(161-180年) ，军队中就有一支“雷鸣”军团，士兵全部信仰基督教。

那么，罗马帝国基督徒所占人口比例有多大呢？人言人殊，分歧比较大。据英国史家爱德华-吉本估计，公元3世纪末，在100万罗马城人口中，基督徒约有5万人，只占0.5%，但重要的是连皇帝戴克里先的妻子和女儿都信仰基督教。根据施陶德林的说法，基督徒占罗马帝国总人口一半，可能有点夸张；根据麦特(Matter) 的说法，占1/5；但据吉本推算，只有1/20；而拉巴斯蒂认为占1/12，这可能最接近真相。比较准确的估计是：基督徒的比例在罗马帝国西部占1/15，在帝国东部占1/10。