Năm 1659, khi Toà Thánh thành lập giáo phận Đàng Ngoài thì vùng đất Bắc Ninh đã có cứ điểm truyền giáo như Kẻ Roi, Kẻ Nê, Kẻ Mốt... 

Năm 1679, Toà Thánh phân chia giáo phận Đàng Ngoài thành hai giáo phận Đông và Tây, vùng đất Bắc Ninh thuộc giáo phận Đông Đàng Ngoài, lúc đó có 32 nhà thờ với 3.317 giáo hữu; năm 1712 số giáo dân đã là 4.516, được các cha dòng Tên và sau đó là các cha Đa Minh coi sóc. 

Năm 1848, Đức Piô IX chia giáo phận Đông Đàng Ngoài thành hai giáo phận Trung và Đông gồm các tỉnh: Hải Phòng, Hải Dương, Quảng Ninh, Bắc Ninh, Lạng Sơn, Cao Bằng, Thái Nguyên, Bắc Kạn, Vĩnh Phúc và một phần thuộc các tỉnh Tuyên Quang, Phú Thọ, Hà Giang. 

Để việc truyền giáo được phát triển, ngày 29-5-1883, Toà Thánh  thành lập giáo phận mới: Giáo phận Bắc (tức Bắc Ninh ngày nay) từ giáo phận Đông tách ra, gồm các tỉnh: Bắc Ninh, Bắc Giang, Thái Nguyên, Bắc Kạn, Vĩnh Yên, Phúc Yên, Lạng Sơn, Cao Bằng, một số huyện của các tỉnh Tuyên Quang, Phú Thọ, Hà Giang, Hưng Yên, Hải Dương, Hà Nội. 

Nhân sự giáo phận Bắc lúc đó có Đức cha Antonio Colomer Lễ (làm giám mục Bắc từ 1883-1902), 17 linh mục triều, 2 linh mục dòng Đa Minh, 3 thừa sai người Tây Ban Nha, 15 đại chủng sinh, 22 tiểu chủng sinh, 50 thầy giảng, 8 chị em dòng Mến Thánh Giá và 35.000 tín hữu trong 11 giáo xứ và 28 giáo họ.

Đức cha Maximin Valasco Khâm (làm giám mục từ 1902-1925), xây dựng Đại chủng viện Thánh Tôma tại Đạo Ngạn và tiểu chủng viện ở Kẻ Nê. 

Ngày 30-12-1913, Toà Thánh tách một phần đất thuộc giáo phận Bắc để thành lập Phủ doãn Tông toà Lạng Sơn. 

Năm 1924, giáo phận Bắc được Toà Thánh đổi tên gọi là giáo phận Bắc Ninh, theo địa danh nơi đặt toà giám mục. 

Năm 1925 Đức cha Khâm qua đời, thọ 74 tuổi, Đức cha phó Théodore Gordaliza Phúc lên kế vị (từ 1924 -1931). Năm 1928, ngài thành lập xứ Bắc Kạn và năm 1930, ngài giao cho cha Millax xây nhà chung và nhà thờ Bắc Kạn. Ngài qua đời ngày 14-10-1931. 

Ngày 6-11-1932, Toà Thánh bổ nhiệm thừa sai Eugène Artaraz Chỉnh làm giám mục hiệu toà Cotenna (từ 1932-1947). 

Năm 1939, giáo phận Bắc Ninh có 15 linh mục dòng Đa Minh, 66 linh mục triều, 120 thầy giảng, 20 đại chủng sinh, 66 tiểu chủng viện, 12 nữ tu Phaolô, 118 dì phước Đa Minh, 54.807 giáo dân, 800 dự tòng trong 7 giáo hạt, 47 giáo xứ, 312 giáo họ, 210 thánh đường. 

Ngày 31-12-1946, quân Pháp đến Bắc Ninh đưa Đức cha và một số thừa sai Tây Ban Nha về Hà Nội. 

Tháng 7-1947, Đức cha đi Roma yết kiến Đức Thánh Cha Piô XII, sau đó về Tây Ban Nha và qua đời ngày 21-12-1947. 

Đức cha Đa Minh Hoàng Văn Đoàn là giám mục Việt Nam đầu tiên coi sóc giáo phận Bắc Ninh (1950-1955).

Ngài lập lại Chủng viện Antôn Ninh Đạo Ngạn (bị giải tán từ năm 1947), xây toà giám mục, trường trung học Vinh Sơn Liêm, nhà in Chân phúc Cẩm và cử 8 cha trẻ đi du học. 

Năm 1954, Giáo phận Bắc Ninh có 68 linh mục triều (8 du học), 12 linh mục dòng Đa Minh, 28 đại chủng sinh, 62 giáo xứ, 413 nhà thờ và 68.000 giáo dân. 

Sau hiệp định Genève năm 1954, 47 linh mục và tất cả chủng sinh và gần 40.000 giáo dân di cư vào Nam. Ở lại giáo phận chỉ có 14 linh mục hầu hết già yếu, 12 thầy giảng, 11 dì phước Đa Minh và khoảng 30.000 giáo dân. 

Năm 1955, Đức cha bị tai nạn phải đi Hồng Kông chữa bệnh, ngài bổ nhiệm cha Phêrô Nguyễn Văn Lộc làm Tổng Đại diện, cha Đa Minh Đinh Huy Quảng làm cha xứ nhà thờ chính toà. 

Đức cha Phêrô Khuất Văn Tạo (Giám mục Hải Phòng) làm giám quản tông toà giáo phận Bắc Ninh từ 1956-1963. Thời gian này, ngài chỉ về kinh lý và ban phép Thêm sức được hai lần vào cuối năm 1956 và đầu năm 1957. 

Năm 1963, Toà Thánh bổ nhiệm cha Phaolô Phạm Đình Tụng, Giám đốc Tiểu chủng viện Gioan Hà Nội, làm giám mục Bắc Ninh. Ngài thụ phong giám mục ngày 15-8-1963, về nhận giáo phận ngày lễ Đức Mẹ Mân Côi 5-10-1963. 

Trong hoàn cảnh rất ít linh mục, Đức cha đã xây dựng, củng cố Ban Hành giáo, sáng lập Tu hội Đức Mẹ Hiệp Nhất, sửa và cho in Kinh bản Giáo phận Bắc Ninh, cổ vũ lòng tôn sùng Thánh Tâm Chúa. Tổ chức và kỷ niệm Bách Chu Niên giáo phận (1883-1983). Sau đó, Đức cha được thuyên chuyển về Tổng Giáo phận Hà Nội (1994) và vinh thăng Hồng y ngày 26-11-1994. 

Từ năm 1994 đến 2006, Đức cha Giuse Maria Nguyễn Quang Tuyến coi sóc giáo phận. 

Từ tháng 9-2006, giáo phận trống toà sau khi Đức cha Giuse Nguyễn Quang Tuyến qua đời. Giáo phận Bắc Ninh được Đức cha Giuse Ngô Quang Kiệt, Tổng Giám mục Hà Nội, giám quản.

Ngày 4-8-2008, ĐTC Bênêđictô XVI bổ nhiệm Cha Cosma Hoàng Văn Đạt, Dòng Tên, làm Giám mục Giáo phận.