Giáo phận Long Xuyên trước đây lần lượt thuộc các giáo phận: Đàng Trong (1679), Tây Đàng Trong (1844), Nam Vang (1850), Cần Thơ (1955). Cha F. José García đến Hà Tiên lần đầu, đã cùng với giáo dân Hà Tiên dựng nhà thờ mới vào năm 1735. Đến năm 1743, Đức cha Armand François Lefèbvre đến ban phép Thêm Sức cho 100 người tại Hà Tiên, chứng tỏ vùng đất Long Xuyên được các thừa sai đến đây rao giảng Tin Mừng từ trước. Nhưng kể từ cha José García, dòng Phanxicô và các thừa sai đến sau, các linh mục, tu sĩ và giáo hữu Long Xuyên dần dần xây dựng giáo phận của mình.

  Từ năm 1735, khi cha José García nhận coi sóc họ đạo Chợ Quán và các tỉnh miền Tây, vùng Long Xuyên “chính thức” phát triển. Năm 1745, cha José làm lại nhà thờ rộng lớn hơn, và mở rộng nhà xứ cho 8 thừa sai ở. Theo cha A. Launay, năm 1747, các cha dòng Phanxicô phục vụ các tỉnh phía Nam và có khoảng 5.500 giáo dân. Theo đề nghị của Đức Khâm sứ Toà Thánh, năm 1749 tỉnh dòng Manila cử 8 linh mục sang giáo phận Đàng Trong, cha Pedro Medina được phân công coi sóc giáo hữu tại Hà Tiên. Từ năm 1750-1754, tại Hà Tiên có 5 cha dòng Phanxicô phục vụ. Cha José García qua đời ngày 1-11-1761, ngài là người có công lớn trong việc truyền giáo từ Sài Gòn đến Hà Tiên.

  Năm 1769, Chủng viện Thánh Giuse ở Hòn Đất được dời đến Pondichéry (Ấn Độ), cha Pigneau de Béhaine (Bá Đa Lộc) cùng đi với các chủng sinh. Ngài được tấn phong giám mục ngày 14-3-1774 tại Ấn Độ. Ngày 14-3-1776, Đức cha về Hà Tiên, khi đó Hà Tiên có khoảng 1.000 giáo dân; ngài lập thêm họ đạo Pi Nha Lu, di dời chủng viện. Đến năm 1778, Đức cha Bá Đa Lộc lại cho chuyển chủng viện đến Tân Triều (Biên Hoà). Từ Hà Tiên, các cha Phanxicô đi tới Lào và Cao Miên để truyền giáo. Năm 1790-1800, các tỉnh miền Tây, Lào và Cao Miên được thêm 6 linh mục. Đến năm 1813, khi cha Bề trên ở Manila gọi hết các cha dòng Phanxicô về, các tỉnh miền Tây đã có số giáo hữu với cơ sở vật chất khá vững mạnh như ở Bò ÓÙt, Năng Gù, Cù Lao Giêng (nơi có nhiều vị tử đạo, tiểu chủng viện, dòng Chúa Quan Phòng). Sau Công đồng Gò Thị, cha D. Lefèbvre Ngãi được tấn phong giám mục, ngài trở về Cái Nhum tiếp tục phục vụ.

  Năm 1850, theo đề nghị của Đức cha D. Lefèbvre Ngãi, Toà Thánh tách một phần đất thuộc giáo phận Tây Đàng Trong để thành lập giáo phận Nam Vang (trọn phần đất Khơ Me), đặt Đức cha J.C Miche Mịch coi sóc.

  Cuối năm 1833, dưới triều vua Minh Mạng, nhiều giáo sĩ, tu sĩ và giáo dân chịu tra tấn, lưu đày. Từ đó đến năm 1862 và thời Văn Thân, hàng giáo sĩ, tu sĩ và giáo dân phải chịu nhiều cực khổ, dùng chính sự sống để minh chứng Tin Mừng Đức Kitô tại Long Xuyên, nổi bật là cha Thánh Phêrô Đoàn Công Quý và Thánh Emmanuel Lê Văn Phụng (ông câu) lãnh triều thiên nhân chứng đức tin ngày 31-7-1859. 

  Năm 1938, An Giang có 4 giáo xứ, 30 giáo họ và 12.067 giáo dân; Kiên Giang có 3 giáo xứ, 18 giáo họ và 5.127 giáo dân; huyện Thốt Nốt (Cần Thơ) có giáo xứ Bò Ót gồm 1.807 giáo dân.

  Ngày 24-11-1960, Đức Gioan XXIII ban Sắc chỉ Christi Mandata thành lập giáo phận Long Xuyên gồm: tỉnh An Giang, Kiên Giang và một phần tỉnh Chương Thiện thuộc giáo phận Cần Thơ trong tổng giáo phận Sài Gòn và đặt Đức cha Micae Nguyễn Khắc Ngữ làm giám mục. Lúc đầu, giáo phận Long Xuyên gồm hai tỉnh Kiên Giang và An Giang (gồm cả Thốt Nốt, trước 1975 thuộc tỉnh An Giang, nhưng sau 1975, Thốt Nốt thuộc tỉnh Cần Thơ). Đức cha Nguyễn Khắc Ngữ cai quản giáo phận từ năm 1960-1997. Trước cuộc di cư năm 1954, giáo phận Long Xuyên chỉ có hơn 10 xứ đạo với khoảng 30.000 tín hữu, nhưng số giáo dân từ miền Bắc ào ạt đến định cư tại các vùng kinh Cái Sắn đã nâng số giáo dân lên rất nhanh, đồng thời cũng đặt ra nhiều yêu cầu mới về mọi mặt. Đức cha Micae đã tích cực giúp đỡ đồng bào di cư và làm cho giáo phận phát triển mạnh. Theo Niên Giám năm 1964, Long Xuyên có 93.739 giáo dân trên tổng số 1.252.705 người (chiếm 7,5%), 104 linh mục triều, 3 linh mục dòng, 185 nữ tu, 6 nam tu, 59 đại chủng sinh, 270 tiểu chủng sinh, 8 trường trung học, 78 trường tiểu học, 8 cơ sở bác ái từ thiện.

  Ngày 30-4-1975, cha G.B. Bùi Tuần được thụ phong giám mục với quyền kế vị. Giáo phận Long Xuyên được coi là một giáo phận có mức phát triển ổn định so với các giáo phận khác vì đây là vùng đồng bằng ít bị ảnh hưởng bởi cuộc chiến tranh (1963-1975). Năm 1994, giáo phận có 200.000 giáo dân trong tổng số 3.670.000 người, 179 linh mục, 250 nữ tu, 51 chủng sinh, 87 giáo xứ và 156 nhà thờ lớn nhỏ.

  Năm 1997, Đức cha Micae Nguyễn Khắc Ngữ nghỉ hưu và Đức cha phó G.B. Bùi Tuần lên làm giám mục chính toà.

  Ngày 29-6-1999, Đức cha Giuse Trần Xuân Tiếu được thụ phong và làm giám mục phó giáo phận Long Xuyên.

  Ngày 2-9-2003, Đức cha G.B. Bùi Tuần chính thức nghỉ hưu và Đức cha Giuse Trần Xuân Tiếu lên làm giám mục chính toà.