Năm 2023, hai luật sư ở New York nộp cho toà án một bản lập luận trích dẫn sáu vụ án làm tiền lệ. Thẩm phán và luật sư phía bên kia đi tìm và không thấy vụ nào. Cả sáu đều do ChatGPT bịa ra, có tên các bên, có số hồ sơ, có cả đoạn trích phán quyết nghe rất chuyên nghiệp. Một luật sư còn đã hỏi lại ChatGPT rằng các vụ này có thật không, và nhận được câu trả lời chắc nịch là có. Toà phạt hai người cùng văn phòng của họ 5.000 USD.
Câu chuyện đó đến nay vẫn là bài học cơ bản nhất về AI: sự tự tin trong câu trả lời không nói gì về độ đúng của nó. Mô hình đời mới đã bớt bịa nhiều so với năm 2023, nhưng chưa hết. Bài này đưa ra những kỹ thuật kiểm chứng cụ thể, dùng được ngay.
Vì sao AI "ảo giác"
Hiện tượng AI tạo ra thông tin sai nhưng nghe hợp lý được gọi là ảo giác (hallucination). Nguyên nhân gốc nằm ở cách mô hình ngôn ngữ hoạt động: nó dự đoán chuỗi chữ hợp lý nhất dựa trên những gì đã học, không tra cứu một cơ sở dữ liệu sự thật. Khi không "biết", nó vẫn có thể tạo ra một câu trả lời có hình dạng giống câu trả lời đúng. Bài chatbot AI làm việc thế nào giải thích kỹ hơn cơ chế này.
Ảo giác xuất hiện nhiều nhất ở những chỗ sau:
- Trích dẫn cụ thể: tên sách, bài báo, điều luật, số hiệu văn bản, đường link.
- Con số: thống kê, ngày tháng, giá cả, dân số, tỷ lệ phần trăm.
- Người và nơi ít nổi tiếng: tiểu sử một nhà khoa học Việt Nam, lịch sử một ngôi làng.
- Sự kiện gần đây, khi mô hình không tìm kiếm web.
- Câu hỏi có tiền đề sai: "Vì sao Nguyễn Du viết Truyện Kiều năm 1850?" Mô hình đôi khi chiều theo tiền đề thay vì sửa nó.
Kỹ thuật 1: mở nguồn, đừng chỉ nhìn nguồn
Bật chế độ tìm kiếm web hoặc yêu cầu "trả lời kèm đường link nguồn". Sau đó làm bước mà phần lớn người dùng bỏ qua: bấm vào link và tìm đúng câu chứa thông tin đó.
Bạn sẽ gặp ba trường hợp. Link không tồn tại hoặc dẫn đến trang lỗi: dấu hiệu bịa. Link tồn tại nhưng nội dung không nói điều AI khẳng định: AI hiểu sai hoặc ghép thông tin. Link đúng và nói đúng: tốt, nhưng xem thêm nguồn đó có đáng tin không, cập nhật năm nào.
Mẹo nhanh: dùng Ctrl+F (trên điện thoại là "Tìm trong trang") với một con số hay từ khoá đặc trưng để tìm câu cần kiểm tra trong trang nguồn.
Kỹ thuật 2: đọc ngang, thay vì đọc sâu
Người kiểm chứng tin chuyên nghiệp có một thói quen gọi là đọc ngang (lateral reading): thay vì đọc kỹ một nguồn để đánh giá, họ mở thêm tab khác để xem các nguồn độc lập nói gì về cùng thông tin đó.
Áp dụng với AI: chép khẳng định quan trọng nhất trong câu trả lời, dán vào Google, xem các trang uy tín có xác nhận không. Với thông tin về Việt Nam, ưu tiên trang của cơ quan nhà nước, báo chí chính thống, trang của trường đại học. Với luật, tra văn bản gốc trên cổng thông tin pháp luật chính thức, xem văn bản còn hiệu lực không, có bị sửa đổi không.
Một cách bổ sung là hỏi chéo nhiều mô hình: đưa cùng câu hỏi cho ChatGPT, Claude và Gemini. Nếu ba câu trả lời khác nhau về một con số, chắc chắn có ít nhất hai cái sai. Nếu giống nhau, khả năng đúng cao hơn, nhưng chưa chắc chắn, vì các mô hình có thể học cùng một thông tin sai trên mạng.
Kỹ thuật 3: đặt câu hỏi khiến AI khó bịa
Cách hỏi ảnh hưởng nhiều đến tỷ lệ ảo giác. Vài câu nên thêm vào yêu cầu:
- "Nếu không chắc chắn, hãy nói rõ là không chắc, đừng đoán."
- "Phân biệt rõ điều nào là sự thật đã kiểm chứng, điều nào là suy luận của bạn."
- "Chỉ trả lời dựa trên tài liệu tôi gửi. Nếu tài liệu không có thông tin, hãy nói là không có."
- "Trích nguyên văn đoạn trong tài liệu làm căn cứ cho mỗi ý."
Câu cuối đặc biệt hiệu quả khi làm việc với hợp đồng, báo cáo, văn bản luật. Bạn đối chiếu đoạn trích với tài liệu gốc trong vài giây. Công cụ như NotebookLM được thiết kế quanh ý tưởng này, xem bài dùng NotebookLM để học tài liệu.
Tránh câu hỏi có tiền đề cài sẵn. Thay vì "Vì sao cà phê gây ung thư?", hỏi "Nghiên cứu khoa học hiện nay nói gì về mối liên hệ giữa cà phê và ung thư?"
Kỹ thuật 4: bắt AI tự phản biện
Sau khi nhận câu trả lời, hỏi tiếp: "Hãy rà soát lại câu trả lời trên. Điểm nào có thể sai hoặc thiếu căn cứ?" Mô hình thường chỉ ra được vài chỗ yếu mà lần đầu nó bỏ qua.
Nhưng có một cái bẫy: đừng ép AI bằng cách khăng khăng "bạn sai rồi" khi chính bạn không chắc. Các chatbot có xu hướng chiều lòng người dùng, nên có thể xin lỗi rồi đổi sang một đáp án còn sai hơn. Câu hỏi trung tính ("hãy kiểm tra lại") tốt hơn câu hỏi định hướng ("có phải là X không?"). Những thói quen tương tự có trong bài dùng AI mà không bị AI dắt mũi.
Kỹ thuật 5: kiểm tra phép tính và mã
Mô hình ngôn ngữ tính nhẩm không đáng tin bằng máy tính bỏ túi, dù đã tiến bộ nhiều. Với phép tính quan trọng (lãi vay, thuế thu nhập, chia tiền), yêu cầu AI trình bày từng bước, rồi tự bấm lại một hai bước bằng máy tính. Với bảng tính, thử công thức trên vài dòng mà bạn biết sẵn kết quả.
Nhiều chatbot hiện có thể chạy mã để tính toán. Khi thấy nó viết và chạy mã, kết quả số học thường đáng tin hơn tính nhẩm. Nhưng hãy kiểm tra nó hiểu đúng đề bài, vì lỗi phổ biến là tính đúng một bài toán khác với bài bạn hỏi.
Khi nào không nên dựa vào AI
Có những lĩnh vực mà sai một lần là quá đắt: liều thuốc, chẩn đoán bệnh, thủ tục pháp lý có thời hạn, quyết định đầu tư, an toàn điện và gas. Ở đó, AI chỉ nên giúp bạn hiểu thuật ngữ và chuẩn bị câu hỏi, còn câu trả lời phải đến từ bác sĩ, dược sĩ, luật sư, cơ quan có thẩm quyền.
Năm 2024, một toà án ở Canada buộc hãng hàng không Air Canada bồi thường cho một hành khách vì chatbot của hãng tư vấn sai chính sách vé. Hãng lập luận chatbot "tự chịu trách nhiệm" và bị bác bỏ. Bài học đúng với cả người dùng cá nhân: bạn dùng thông tin, bạn chịu hậu quả.
Hãy coi câu trả lời của AI như lời một đồng nghiệp thông minh nhưng hay nói quá: đáng nghe, nhưng phải kiểm tra trước khi ký tên.
Một bài tập để hiệu chỉnh trực giác: hỏi AI về một điều bạn biết rất rõ, như lịch sử trường cấp ba của bạn, đặc sản quê bạn, hay chi tiết nghề bạn đang làm. Đếm số chỗ sai. Con số đó sẽ cho bạn cảm giác thực tế hơn mọi bài viết về việc nên tin AI đến đâu.




Bình luận (0)
Chưa có bình luận nào. Hãy là người đầu tiên!