Sau khi người Pháp đánh chiếm Bắc Kỳ và triều đình Huế ký hiệp ước Giáp Thân (1884) công nhận sự đô hộ của Pháp, Việt Nam được chia thành 3 phần: Nam Kỳ là đất thuộc địa, Bắc Kỳ nửa thuộc địa và Trung Kỳ là đất bảo hộ. Người Công giáo Việt Nam lúc đó mới thật sự được tự do tôn giáo, công khai hoạt động nhờ những điều kiện thuận lợi về mặt tinh thần cũng như vật chất. Số tín hữu tăng lên rất nhanh, các giáo phận cũng được chia nhỏ cho phù hợp với số tín hữu tăng cao. Các cơ sở vật chất như: toà giám mục, nhà thờ, nhà xứ, trường học, dưỡng lão viện, cô nhi viện được xây dựng khắp nơi. Nhiều dòng tu từ Pháp hoặc các nước khác đã đến đặt cơ sở tại Việt Nam.

   Tại Bắc Kỳ, 1895, giáo phận Tây Đàng Ngoài được chia thành Tây (Hà Nội) và Đoài (Hưng Hoá) và giáo phận Tây lại được chia nhỏ (1902) thành: Tây và Thanh (Phát Diệm). Vào năm 1913, giáo phận Bắc Đàng Ngoài lại chia nhỏ thành Bắc (Bắc Ninh) và Phủ doãn Tông toà Lạng Sơn. Ngày 3-12-1924, Toà Thánh đổi tên các giáo phận Tông toà tại Việt Nam theo địa hạt hành chính, nơi đặt toà giám mục, giống như ta đang có ngày nay. Ở Bắc có: Hà Nội, Phát Diệm, Hưng Hoá, Vinh, Hải Phòng, Bùi Chu, Bắc Ninh và Phủ doãn Lạng Sơn. Ở Nam có: Sài Gòn, Quy Nhơn, Huế, và một phần của giáo phận Nam Vang gồm mấy tỉnh đồng bằng sông Cửu Long. Tổng cộng là 12 giáo phận.

   Năm 1925, Toà Thánh thiết lập toà khâm sứ ở Đông Dương và đặt tại Phủ Cam (Huế). Sau 400 năm Tin Mừng được rao giảng trên đất Việt (1533-1933), Đức Thánh Cha đã tấn phong vị giám mục tiên khởi là Đức cha Gioan Baotixita Nguyễn Bá Tòng ngày 11-6-1933, tại Đền Thánh Phêrô ở Roma. Năm 1934, Công đồng Đông Dương với 19 giám mục, 5 bề trên dòng và 21 linh mục cố vấn, chuyên viên đã họp tại Hà Nội với nhiều điểm quan trọng nhằm tiến tới việc thiết lập Hàng Giáo phẩm Việt Nam, đào tạo và thăng tiến hàng giáo sĩ Việt Nam, cổ vũ tinh thần sống đạo và truyền đạo của giáo dân Việt Nam qua các phong trào Công giáo Tiến hành.

   Sau Công đồng Đông Dương, Giáo hội Việt Nam phát triển rất nhanh vì được định hướng rõ rệt dẫn đến việc thành lập nhiều giáo phận mới và nhiều giám mục Việt Nam được tấn phong: giáo phận Thanh Hoá (1932) từ giáo phận Phát Diệm, Thái Bình (1936) từ Bùi Chu, Vĩnh Long (1938) từ Sài Gòn và Phủ doãn Tông toà Lạng Sơn trở thành giáo phận chính toà (1939).  

   Sau thế chiến thứ I (1914-1918) và thứ II (1939-1945), dân tộc Việt Nam trải qua thời kỳ bất ổn triền miên kéo dài cho tới năm 1954. Nhiều phong trào chống Pháp với các cuộc khởi nghĩa nổ ra khắp nơi như Việt Nam Quốc Dân Đảng với Nguyễn Thái Học ở Yên Bái, Xô Viết Nghệ Tĩnh (1930) ở Nghệ An, Hà Tĩnh, Du kích Bắc Sơn tháng 9-1940, khởi nghĩa Nam Kỳ (23-11-1940) và Cách Mạng Tháng 8-1945 thành công, khai sinh Nước Việt Nam Dân Chủ Cộng Hoà. Rất nhiều tín hữu Công giáo đã tham gia vào các phong trào yêu nước này.

   Tình hình Giáo hội Việt Nam vào năm 1939: 16 giáo phận, 17 giám mục, 1.544.765 giáo dân trên tổng dân số 23.193.769 người.

THỐNG KÊ GIÁO HỘI VIỆT NAM NĂM 1939

Bắc Kỳ: dân số (ds) 12.763.769 người, 1.151.653 gd, 633 gx có lm, 200 lm.ts, 932 lm.VN.

Trung Kỳ: ds. 3.970.000 người, 170.573 gd, 178 gx có lm, 61 lm.ts, 203 lm.VN.

Nam Kỳ(và Cao Miên): ds. 6.460.000 người, 222.539 gd, 168 gx có lm, 58 lm.ts, 208 lm.VN.

Tổng cộng: ds. 23.193.769 người, 1.544.765 gd, 979 gx có lm, 319 lm.ts, 1.343  lm.VN.

(Trích bản thống kê của Niên giám Công giáo 1964, tr. 199)

   Sau chiến dịch Điện Biên Phủ, với hiệp định Genève ngày 20-7-1954, quân đội Pháp rút khỏi Việt Nam, nước Việt Nam bị chia thành hai miền. Vĩ tuyến 17 là giới tuyến tạm thời.

   Vào thời điểm này đã xảy ra cuộc di cư ào ạt vào Nam của hơn 650.000 tín hữu. Biến cố này đã tạo nên nhiều xáo trộn trong Giáo hội Công giáo ở miền Bắc và thay đổi mạnh mẽ cấu trúc của Giáo hội Công giáo ở miền Nam. Giáo hội miền Bắc còn lại 10 giáo phận với 7 giám mục, 374 linh mục và một số ít tu sĩ phục vụ 750.000 tín hữu.

   Do số tín hữu đông đảo từ miền Bắc chuyển vào, nhiều giáo phận mới ở miền Nam được thành lập: Cần Thơ (1955) từ Nam Vang, Nha Trang (1957) từ Quy Nhơn. Ngày 24-11-1960, Đức Thánh Cha Gioan XXIII đã thiết lập Hàng Giáo phẩm Công giáo Việt Nam với 3 giáo tỉnh Hà Nội, Huế và Sài Gòn. Các giám mục trước đây là hiệu toà, nay trở thành chính toà đánh dấu sự trưởng thành của Giáo hội Việt Nam. Một số giáo phận mới được thành lập trong dịp này: Long Xuyên từ Cần Thơ, Đà Lạt và Mỹ Tho từ Sài Gòn. Vào năm 1960, toàn bộ Giáo hội Việt Nam có 20 giáo phận: 10 ở giáo tỉnh Hà Nội, 4 ở Huế và 6 ở Sài Gòn. Thời điểm này, Giáo hội Việt Nam có 23 giám mục, 2.096.540 tín hữu trong số 29.200.000 dân, chiếm tỷ lệ 7,17%, 1.914 linh mục, 5.789 nam nữ tu sĩ, 1.530 đại và tiểu chủng sinh.