Một phân tích của tạp chí Nature cho thấy, hàng chục nghìn ấn phẩm từ năm 2025 có thể chứa các tài liệu tham khảo không hợp lệ được tạo ra bởi trí tuệ nhân tạo .
Đầu năm nay, nhà khoa học máy tính Guillaume Cabanac nhận được thông báo từ Google Scholar rằng một trong những ấn phẩm của ông đã được trích dẫn trong một bài báo được xuất bản trên Tạp chí Nha khoa Quốc tế 1. Điều đó thật bất ngờ, bởi vì nghiên cứu của ông về việc phát hiện giấy giả mạo thường không liên quan đến nha khoa. “Tôi rất ngạc nhiên khi thấy mình không thể nhận ra tài liệu tham khảo của chính mình,” Cabanac, người đang làm việc tại Đại học Toulouse ở Pháp, cho biết.
Tiêu đề trong trích dẫn giống với tiêu đề của một bản thảo chưa xuất bản chính thức mà ông đã đăng tải vào năm 2021, nhưng chưa bao giờ được công bố chính thức. Tuy nhiên, tạp chí được ghi là Nature và DOI — mã định danh duy nhất do các nhà xuất bản và kho lưu trữ bản thảo cấp — lại không dẫn đến bản thảo gốc. “Tôi rất lo lắng,” Cabanac nói thêm, và ông ngay lập tức nghi ngờ rằng trích dẫn này là do trí tuệ nhân tạo tạo ra.
Đây chỉ là một ví dụ về một vấn đề đang ngày càng trở nên nghiêm trọng. Các cuộc khảo sát và nghiên cứu liên quan đã chỉ ra rằng các nhà nghiên cứu ngày càng sử dụng các mô hình ngôn ngữ lớn (LLM) để hỗ trợ tìm kiếm tài liệu, viết bản thảo và định dạng thư mục tham khảo. Và đôi khi, các mô hình này lại tạo ra những tài liệu tham khảo học thuật không tồn tại .
Trong năm qua, các nỗ lực đã bắt đầu phát hiện ra những trích dẫn ảo như vậy trong tài liệu. Một phân tích gần 18.000 bài báo được chấp nhận bởi ba hội nghị khoa học máy tính đã phát hiện ra sự gia tăng mạnh mẽ các tài liệu tham khảo không thể truy tìm nguồn gốc từ các ấn phẩm học thuật thực sự³ . Kết quả, được báo cáo vào tháng 1, cho thấy 2,6% bài báo năm 2025 có ít nhất một trích dẫn có khả năng là ảo — tăng từ khoảng 0,3% vào năm 2024. Một phân tích khác, được công bố vào tháng 2, ước tính rằng 2–6% bài báo trong bốn hội nghị khoa học máy tính khác năm 2025 bao gồm các tài liệu tham khảo với tiêu đề được diễn đạt lại hoặc trích dẫn các ấn phẩm mà các tác giả không thể xác minh bằng cách tìm kiếm trong cơ sở dữ liệu và kho lưu trữ tạp chí⁴ .
Mặc dù quy mô của vấn đề vẫn chưa chắc chắn, nhưng rõ ràng là không chỉ các hội nghị bị ảnh hưởng. Một phân tích độc quyền do nhóm tin tức của Nature thực hiện , hợp tác với Grounded AI, một công ty có trụ sở tại Stevenage, Anh, cho thấy rằng ít nhất hàng chục nghìn ấn phẩm năm 2025, bao gồm các bài báo trên tạp chí và sách, cũng như kỷ yếu hội nghị, có thể chứa các tài liệu tham khảo không hợp lệ được tạo ra bởi trí tuệ nhân tạo.
Grounded AI là một trong những công ty cung cấp cho các nhà xuất bản công cụ để sàng lọc các bài gửi đến nhằm phát hiện các tài liệu tham khảo có vấn đề. Một số nhà xuất bản đã nói với phóng viên của Nature rằng họ đang tìm hiểu các công cụ như vậy hoặc đang phát triển các phiên bản nội bộ.
Nhưng một số nhà nghiên cứu lo ngại rằng vấn đề này sẽ sớm vượt khỏi tầm kiểm soát. “Chúng ta sẽ chứng kiến một làn sóng thư giới thiệu giả mạo”, Alison Johnston, một nhà khoa học chính trị tại Đại học bang Oregon ở Corvallis, cho biết.
Một vấn đề khác là phải quyết định xem nên làm gì với những trích dẫn giả mạo xuất hiện trong các ấn phẩm. Đó là một vấn đề mà các nhà xuất bản học thuật đang phải vật lộn giải quyết hiện nay.
Nguồn gốc lỗi
Lỗi trích dẫn không phải là điều mới mẻ trong xuất bản học thuật. “Ngay cả trước khi có AI tạo sinh, chúng ta đã gặp rất nhiều lỗi không chính xác trong trích dẫn,” Mohammad Hosseini, người nghiên cứu đạo đức và tính liêm chính trong nghiên cứu tại Trường Y Feinberg thuộc Đại học Northwestern ở Chicago, Illinois, cho biết. Các vấn đề thường bao gồm lỗi chính tả tên tác giả hoặc lỗi trong năm xuất bản, tiêu đề tạp chí hoặc DOI. Một vấn đề khác là sự khác biệt giữa thông tin trong tác phẩm được trích dẫn và các chi tiết được cung cấp bởi bài báo trích dẫn nó 5 , 6 .
“Giờ đây vấn đề không chỉ là sự thiếu chính xác, mà còn là về các trích dẫn giả mạo. Đó là những trích dẫn bịa đặt, một vấn đề hoàn toàn khác,” Hosseini nói.
Các nhà xuất bản cho biết với tạp chí Nature rằng họ đang nhận thấy sự gia tăng số lượng trích dẫn bịa đặt và không chính xác trong các bài gửi đến, và họ đang thực hiện các bước để giải quyết vấn đề này.
Johnston, đồng chủ biên của tạp chí Review of International Political Economy ( RIPE ), một tạp chí do Taylor & Francis có trụ sở tại Anh xuất bản, cho biết bà đã từ chối 25% trong số khoảng 100 bài nộp vào tháng Giêng “vì trích dẫn giả mạo”. Bà sử dụng phần mềm phát hiện đạo văn iThenticate để đánh dấu những sự trùng khớp bất thường hoặc một phần giữa các tài liệu tham khảo trong các bài nộp và các tài liệu tham khảo đã xuất bản. Sau đó, bà kiểm tra thủ công các trích dẫn đáng ngờ. Bà nói: “Hiện tại tôi đang làm những việc để cố gắng phát hiện các tài liệu tham khảo bịa đặt mà trước năm 2025 tôi chưa từng làm”.
Frontiers, có trụ sở tại Lausanne, Thụy Sĩ, đã phát triển một công cụ AI nội bộ để phát hiện các vấn đề về tính toàn vẹn ngay tại thời điểm nộp bài, bao gồm cả các tài liệu tham khảo không liên quan hoặc đã bị rút lại và các trích dẫn giả mạo. “Khoảng 5% [bản thảo] cho thấy các vấn đề tiềm ẩn liên quan đến tài liệu tham khảo được phát hiện thông qua quá trình kiểm tra của chúng tôi”, Elena Vicario, người đứng đầu bộ phận tính toàn vẹn nghiên cứu của Frontiers, cho biết. Nhưng “không phải tất cả các tài liệu tham khảo bị gắn cờ cuối cùng đều thực sự có vấn đề”, bà nói thêm. Điều đó khiến việc đưa ra một thước đo chính xác về mức độ phổ biến của bất kỳ loại vấn đề trích dẫn nào trở nên khó khăn, Vicario cho biết.
Các thí nghiệm sử dụng chatbot AI để tạo ra các bài báo đã cung cấp những hiểu biết sâu sắc về tần suất các mô hình ngôn ngữ tự động (LLM) tạo ra lỗi trích dẫn và loại lỗi mà chúng thường mắc phải. Trong một nghiên cứu, các nhà nghiên cứu đã yêu cầu LLM GPT-4o của OpenAI tạo ra sáu bài đánh giá tài liệu về ba rối loạn sức khỏe tâm thần và phân tích 176 tài liệu tham khảo trong các bài đánh giá tổng hợp đó 7. Trong điều kiện thử nghiệm này, họ phát hiện ra rằng gần 20% là tài liệu tham khảo bịa đặt và không thể liên kết với nghiên cứu thực tế. Và 45% số tài liệu tham khảo còn lại, tương ứng với các ấn phẩm chính hãng, chứa lỗi, thường là DOI không chính xác hoặc không hợp lệ.
Trong một số trường hợp, kể cả trong các tài liệu tham khảo trong các bài báo đã xuất bản, tất cả các thành phần cấu tạo đều được bịa đặt, theo Kathryn Weber-Boer, giám đốc bộ phận đo lường khoa học tại công ty Digital Science có trụ sở tại London. (Công ty này do Tập đoàn xuất bản Holtzbrinck điều hành, tập đoàn này là cổ đông chính của Springer Nature, nhà xuất bản tạp chí Nature . Nhóm biên tập tin tức của Nature hoàn toàn độc lập về mặt biên tập so với nhà xuất bản của nó.) Bà cũng cho biết thêm, trí tuệ nhân tạo (AI) còn tạo ra các DOI giả, cả trong các tài liệu tham khảo vốn dĩ là chính xác cũng như trong các tài liệu tham khảo bịa đặt.
Các nhà nghiên cứu đã nghiên cứu vấn đề này cho biết, các tài liệu tham khảo do AI tạo ra thường kết hợp các đoạn trích từ các ấn phẩm chính hãng (xem ‘Làm thế nào hàng giả có thể trông giống thật’). Joe Shockman, đồng sáng lập kiêm giám đốc điều hành của Grounded AI, gọi những tài liệu tham khảo như vậy là các trích dẫn ‘Frankenstein’, ví von cách chúng được lắp ráp giống như con quái vật hư cấu. “Nó trông có vẻ thật đối với con người, nhưng thực chất không phải là tài liệu tham khảo cho một thứ có thật”, Shockman, người sống ở Ashland, Oregon, cho biết.
Mặc dù một số loại lỗi dường như liên quan đến trí tuệ nhân tạo, nhưng các nhà nghiên cứu cho biết, những loại lỗi khác lại không rõ ràng như vậy. Weber-Boer nói: “Trong bối cảnh hiện nay, chúng ta phải nhận ra rằng có lỗi của con người và có lỗi của máy móc, và những lỗi này thường chồng chéo lên nhau”.
Các vấn đề đã được công bố
Việc xác định có bao nhiêu trích dẫn giả mạo xuất hiện trong các nghiên cứu đã được công bố vẫn còn khó khăn. Để có được ước tính này, nhóm tin tức của Nature đã hợp tác với Grounded AI, công ty đã phát triển một công cụ AI có tên Veracity, kiểm tra các trích dẫn so với các cơ sở dữ liệu học thuật và trên toàn bộ internet, gắn cờ những trích dẫn không hợp lệ, không liên quan hoặc trích dẫn các công trình đã bị rút lại .
Tạp chí Nature và Grounded AI đã hợp tác phân tích hơn 4.000 ấn phẩm từ năm ngoái, bao gồm năm nhà xuất bản hàng đầu: Elsevier, Sage, Springer Nature, Taylor & Francis và Wiley. Grounded AI đã chọn ngẫu nhiên các bài báo này từ Europe PMC — một kho lưu trữ các bài báo nghiên cứu y sinh học truy cập mở — và cơ sở dữ liệu thư mục Crossref, để đảm bảo số lượng ấn phẩm mỗi tháng từ mỗi nhà xuất bản là như nhau. Mẫu này bao gồm các bài báo đã xuất bản cũng như các chương sách và kỷ yếu hội nghị, và bao quát tất cả các lĩnh vực chủ đề trong danh mục của các nhà xuất bản này.
Công cụ của Grounded AI tìm kiếm sự trùng khớp chính xác với tài liệu tham khảo hoặc sự trùng khớp gần nhất có thể tìm thấy. Sau đó, nó gắn cờ các trích dẫn có vấn đề nghiêm trọng, chẳng hạn như tiêu đề hoặc DOI không khớp, thiếu tác giả và tạp chí không chính xác, cũng như các vấn đề nhỏ hơn. Các trích dẫn trỏ đến các bài báo không thể tìm thấy mặc dù chúng rất dễ tìm – ví dụ như vì tạp chí được đề cập đã được lập chỉ mục trong các cơ sở dữ liệu học thuật – được đánh dấu là đặc biệt có vấn đề.
Sau khi xử lý các ấn phẩm bằng công cụ này, Grounded AI đã gán điểm rủi ro cho mỗi bài báo đã xuất bản, dựa trên số lượng tài liệu tham khảo có vấn đề nghiêm trọng và khả năng những vấn đề đó do AI tạo ra. Grounded AI đã xác định khả năng này bằng cách sử dụng dữ liệu thu thập được từ một phân tích riêng biệt, sử dụng hai mô hình AI để tạo ra 20.000 bài báo tổng hợp; điều này cho phép công ty xác định các loại lỗi trích dẫn phổ biến nhất mà AI thường mắc phải.
Tạp chí Nature đã kiểm tra thủ công 100 ấn phẩm đáng ngờ nhất và xác nhận rằng 65 ấn phẩm chứa ít nhất một tài liệu tham khảo không hợp lệ, nghĩa là nó trỏ đến một ấn phẩm dường như không tồn tại (xem phần ‘Tìm kiếm những thông tin bịa đặt’). Tuy nhiên, 22 trong số 100 bài báo đáng ngờ nhất lại có các tài liệu tham khảo trỏ đến các ấn phẩm có thật.
Đối với 13 bài báo còn lại, không rõ liệu tất cả các trích dẫn của chúng có đều dẫn đến các nghiên cứu đã có hay không. 13 bài báo này bao gồm các tài liệu tham khảo đến các bài báo được cho là đã xuất bản trên các tạp chí khu vực bằng các ngôn ngữ khác ngoài tiếng Anh , và các tài liệu tham khảo có sự không khớp trong siêu dữ liệu trông giống như lỗi do con người gây ra.
Phân tích này, dựa trên danh sách tài liệu tham khảo từ Crossref và toàn văn từ các ấn phẩm của Europe PMC, không tìm thấy xu hướng rõ ràng nào giữa các nhà xuất bản. Mỗi nhà xuất bản được chọn đều có hơn năm ấn phẩm với các tài liệu tham khảo mà việc kiểm tra thủ công không thể xác thực.
Theo ước tính sơ bộ, nếu tỷ lệ 65 ấn phẩm có ít nhất một tài liệu tham khảo không hợp lệ trong số khoảng 4.000 ấn phẩm được phân tích là đúng trong toàn bộ tài liệu học thuật, điều đó cho thấy hơn 110.000 trong số khoảng 7 triệu ấn phẩm học thuật từ năm 2025 có chứa tài liệu tham khảo không hợp lệ.
Nick Morley, đồng sáng lập kiêm giám đốc sản phẩm của Grounded AI, cho biết các loại vấn đề về trích dẫn được thấy vào năm 2025 khác với những vấn đề mà nhóm của ông đã phát hiện trước khi các mô hình học máy (LLM) trở nên phổ biến. Ông nói rằng thực tế này cho thấy việc sử dụng AI là một trong những nguyên nhân chính.
Weber-Boer cho rằng, số lượng tài liệu tham khảo ảo thực tế gần như chắc chắn cao hơn, bởi vì phân tích tập trung vào các nhà xuất bản lớn, những nhà xuất bản có nhiều nguồn lực hơn để kiểm tra trích dẫn một cách có hệ thống so với các nhà xuất bản nhỏ hơn. Các lĩnh vực như khoa học máy tính, nơi đã chứng kiến sự gia tăng việc sử dụng phần mềm LLM để tạo ra các bản thảo 8 , có thể bị ảnh hưởng nhiều hơn các lĩnh vực khác. Hơn nữa, phân tích Grounded AI đã phát hiện thêm vài trăm ấn phẩm có nguy cơ trích dẫn ảo, cho thấy rằng việc kiểm tra thủ công bổ sung sẽ giúp phát hiện thêm nhiều trích dẫn như vậy.
Người phát ngôn của cả năm nhà xuất bản cho biết họ kiểm tra nguồn tham khảo như một phần của quy trình sàng lọc và biên tập, và họ dự định điều tra các ấn phẩm bị phân tích bởi tạp chí Nature . Người phát ngôn của Taylor & Francis cho biết một số ấn phẩm bị nêu tên đã được nhóm đạo đức và liêm chính của họ điều tra.
Khi nói đến các trích dẫn không chính xác, Chris Graf, giám đốc về tính toàn vẹn nghiên cứu của Springer Nature, cho biết: “Đã có những trường hợp tác giả có thể ghi lại rõ ràng những vấn đề phát sinh trong quá trình biên soạn bản thảo, ví dụ như khi sử dụng công cụ dịch thuật, và chứng minh rằng phần còn lại của bài báo vẫn đáng tin cậy, trong trường hợp đó bài báo sẽ được sửa chữa”. Nhưng, ông nói thêm, thường thì những trích dẫn này phản ánh những vấn đề rộng hơn về nội dung.
Shockman cho biết số lượng trích dẫn có khả năng gây vấn đề được Veracity gắn cờ lớn hơn gấp mười lần khi nó được sử dụng trong các chương trình thí điểm để sàng lọc các bài gửi thay mặt cho các nhà xuất bản so với khi nó phân tích các ấn phẩm. Điều này cho thấy các nhà xuất bản đang phát hiện ra một phần lớn các trích dẫn như vậy trước khi chúng có thể được đưa vào tài liệu khoa học.
Sự hợp tác giữa Nature và Grounded AI cũng đã làm nổi bật, như nhiều chuyên gia đã lưu ý, rằng việc phát hiện các trích dẫn không hợp lệ bằng các công cụ tự động không phải lúc nào cũng chính xác. Một trong những thách thức là các tạp chí có nhiều cách định dạng tài liệu tham khảo khác nhau, và các công cụ AI có thể không nhận ra được tài liệu tham khảo do cách định dạng của chúng. Những vấn đề này đã xuất hiện trong số các trích dẫn mà việc kiểm tra thủ công xác định là hợp lệ mặc dù đã bị Grounded AI gắn cờ.
Weber-Boer cho biết thêm, một vấn đề khác là các cơ sở dữ liệu thư mục quy mô lớn có thể không lập chỉ mục các tài liệu tham khảo không thể xác minh, nghĩa là siêu dữ liệu của chúng có thể không khớp với những gì xuất hiện trên trang web của nhà xuất bản. Một số tài liệu tham khảo không chứa DOI tương ứng, điều này gây khó khăn cho các công cụ tự động trong việc xác định bài báo được trích dẫn, Weber-Boer nói thêm. “Chúng ta đang bắt đầu hiểu rõ hơn về đặc điểm của vấn đề này, đây là bước tiền đề để hiểu được quy mô của nó,” bà nói.
Các thành viên nhóm Grounded AI thừa nhận rằng không phải tất cả các tài liệu tham khảo mà công cụ của họ gắn cờ đều là kết quả chính xác, nhưng họ cho biết họ đang tiếp tục cải thiện hiệu suất của nó. Kim Eggleton, trưởng bộ phận đánh giá ngang hàng và tính toàn vẹn nghiên cứu, cho biết IOP Publishing, có trụ sở tại Bristol, Anh, hiện đang sử dụng công cụ của Grounded AI để sàng lọc các bài nộp nhằm phát hiện các trích dẫn có vấn đề trên tất cả các tạp chí độc quyền của mình. Bà nói: “Chúng tôi biết đó là một vấn đề, chúng tôi chỉ không biết vấn đề đó lớn đến mức nào”.
Nguồn bài viết: Naddaf, M., & Quill, E. (2026). Hallucinated citations are polluting the scientific literature. What can be done? Nature, 652, 26–29. https://doi.org/10.1038/d41586-026-00969-z
Người dịch: Nguyễn Mai Đức Hiếu
Tài liệu tham khảo
1. Duane, B., Ashley, P. & Larkin, J. Int. Dent. J. 76, 103979 (2026).
2. Cabanac, G., Labbé, C. & Magazinov, A. Preprint at arXiv https://doi.org/10.48550/arXiv.2107.06751 (2021).
3. Sakai, Y., Kamigaito, H. & Watanabe, T. Preprint at arXiv https://doi.org/10.48550/arXiv.2601.18724 (2026).
4. Bienz, A., Pearson, C. & Garcia de Gonzalo, S. Preprint at arXiv https://doi.org/10.48550/arXiv.2602.05867 (2026).
5. Baethge, C. & Jergas, H. Res. Integr. Peer Rev. 10, 13 (2025).
6. Cobb, C. L., Crumly, B., Montero-Zamora, P., Schwartz, S. J. & Martínez, C. R. Jr Am. Psychol. 79, 299–311 (2024).
7. Linardon, J. et al. JMIR is lying. Health 12, e80371 (2025).
8. Liang, W. et al. Nature Hum. Behav. 9, 2599–2609 (2025).
9. Subscriber, D. Preprint at arXiv https://doi.org/10.48550/arXiv.2602.15871 (2026).
10. Resnik, D. B. & Hosseini, M. Account. Res. https://doi.org/10.1080/08989621.2026.2645390 (2026).
◉ 0 Thảo luận Khoa học