Ối dồi ôi, chuyện này nghe xong mà giật mình luôn á! Một công trình nghiên cứu "xịn sò" được tài trợ hơn 17 tỷ đồng vừa bị phát hiện chứa đầy "trích dẫn fake do AI bịa đặt ra". Đây là lần đầu tiên một tạp chí khoa học uy tín phải rút bài vì lý do này đó nha!
Câu chuyện là thế này: Một bài nghiên cứu được liệt kê trên hệ thống KCI (tức là các tạp chí khoa học uy tín của Hàn Quốc do Quỹ Nghiên cứu Quốc gia Hàn Quốc - NRF quản lý), vốn được ngân sách Chính phủ tài trợ gần 900 triệu won (khoảng hơn 17 tỷ đồng) đã bị "đá" ra khỏi danh sách. Lý do? Người ta phát hiện bài viết này trích dẫn cả đống tài liệu giả do AI tạo ra luôn!
Đây là case đầu tiên một bài báo nghiên cứu nhận tiền từ Quỹ Nghiên cứu Quốc gia Hàn Quốc (cơ quan nhà nước đó) bị thu hồi vì drama liên quan đến AI. Tưởng AI giúp đời nhưng hóa ra lại "hại đời" thế này sao?
Bài báo do một nhóm tác giả từ một trường đại học trong nước Hàn Quốc thực hiện, nội dung phân tích về hệ sinh thái ngành công nghiệp vũ trụ của Trung Quốc và cơ chế hợp tác dân sự - quân sự ở đó. Công trình này đã nhận được khoản tài trợ khủng gần 900 triệu won từ Quỹ Nghiên cứu Quốc gia Hàn Quốc (thuộc Bộ Khoa học và CNTT) và được đăng trên tạp chí thuộc danh mục KCI - hệ thống được công nhận về độ uy tín tại Hàn Quốc.
Nhưng mà giờ thì văn bản gốc của bài báo đã có dòng chữ "Retracted" (Đã bị thu hồi) đóng dấu nổi bật rồi nha! Nguyên nhân là vì người ta phát hiện ra cả tá sai sót trong danh mục tài liệu tham khảo.
Nghe qua mấy case lỗi mà cười ra nước mắt luôn: Một bài báo về chiến lược không gian lại đưa tài liệu về "chính sách chăm sóc sức khỏe mắt" của Chính phủ Trung Quốc vào danh mục tham khảo Có bài thì tiêu đề chẳng liên quan gì đến nội dung thực tế. Trong khoảng 40 trường hợp được kiểm tra, có tận 17 trường hợp mắc lỗi liên quan đến nguồn tài liệu tham khảo như vậy đó!
Sự thật được hé lộ: Các tác giả đã dùng AI tạo sinh để tổng hợp danh mục tài liệu tham khảo nhưng lại... chỉ copy-paste các "tài liệu tham khảo ảo" do AI bịa ra. Bruh moment thật sự! Đây là lần đầu tiên một bài báo trên tạp chí thuộc danh mục KCI, vốn được Quỹ Nghiên cứu Quốc gia Hàn Quốc tài trợ trong vòng 5 năm qua, bị thu hồi vì vấn đề liên quan đến AI.
Tuy bài báo được xuất bản từ tháng 3 năm ngoái, nó vẫn "nằm im" trong danh mục KCI và được các bài báo khác trích dẫn trong hơn một năm, cho đến khi một trợ lý của hiệp hội học thuật phát hiện ra các sai sót thì mới bị rút lại.
Nghị sĩ Lee Ju Hee từ Đảng Dân chủ Hàn Quốc (Ủy ban Khoa học, CNTT, Phát thanh và Truyền thông thuộc Quốc hội) lên tiếng: "Vấn đề chỉ được phơi bày khi hiệp hội học thuật tiến hành rà soát đạo đức nghiên cứu sau khi sự việc đã xảy ra. Chúng ta cần xem xét kỹ lưỡng các vấn đề về quy trình và những lỗ hổng thể chế trong quy trình xét duyệt đưa vào danh mục KCI".
Tác giả họ Jeong thì giải thích rằng AI chỉ được dùng để hỗ trợ tìm kiếm tài liệu tham khảo thôi, và khẳng định các sai sót chỉ là lỗi "vô ý" trong quá trình biên tập. Nhưng mà cuối cùng thì bài báo vẫn bị kết luận là vi phạm đạo đức nghiên cứu, và tác giả bị cấm gửi bài cho tạp chí đó trong vòng 3 năm luôn. Ăn ban cmnr!
Khi việc sử dụng AI bùng nổ trong lĩnh vực nghiên cứu thì những lo ngại về vi phạm đạo đức nghiên cứu cũng tăng theo. Các nhà phê bình chỉ ra rằng các hướng dẫn sử dụng AI tạo sinh để ngăn chặn vấn đề này thực chất chỉ là "nói cho có" và không có tính ràng buộc. Vì vậy, cần phải triển khai các biện pháp hiệu quả hơn, ví dụ như tăng cường quy trình kiểm chứng trong quá trình thẩm định bài báo.
Bài học rút ra: Đừng tin AI quá mức nha các bạn! Luôn phải double-check kỹ càng, không thì 17 tỷ bay màu như chơi đó!
Nguồn: svvn.tienphong.vn