Hallucination là gì và vì sao xảy ra
AI tạo câu trả lời bằng cách dự đoán từ tiếp theo cho hợp lý, không phải bằng cách tra một kho sự thật. Vì vậy khi thiếu dữ liệu, nó có xu hướng "điền vào chỗ trống" bằng nội dung nghe rất trôi — một mức giá, một quy định pháp luật, một tên dự án — mà không hề báo cho bạn biết nó đang đoán. Hiện tượng này gọi là hallucination (ảo giác). Nó không phải lỗi hiếm gặp; nó là tính chất cố hữu phải luôn đề phòng, kể cả ở các công cụ trả phí mới nhất.
Vùng rủi ro cao nhất với môi giới
Ba loại nội dung tuyệt đối không tin AI nói chay: SỐ LIỆU thị trường (giá, nguồn cung, tỉ lệ) — chỉ dùng số bạn tự thu thập và nạp vào; PHÁP LÝ (điều luật, thuế, phí, thủ tục) — AI có thể trích dẫn quy định đã hết hiệu lực hoặc không tồn tại, mọi nội dung pháp lý phải đối chiếu văn bản gốc hoặc hỏi người có chuyên môn; THÔNG TIN DỰ ÁN cụ thể (tiến độ, quy hoạch, chủ đầu tư) — kiểm tra kênh chính thức. Nói sai với khách một trong ba thứ này, xin lỗi cũng khó lấy lại niềm tin.
Quy trình kiểm chứng 3 lớp
Lớp 1 — ép AI khai nguồn: thêm câu "Điều nào bạn không chắc chắn, hãy nói rõ là không chắc" vào prompt; AI được phép nói "tôi không biết" sẽ bịa ít hơn đáng kể. Lớp 2 — đối chiếu chéo: dữ kiện quan trọng phải tìm thấy ở ít nhất một nguồn độc lập đáng tin (văn bản pháp luật, kênh chính thức của dự án, dữ liệu nội bộ). Lớp 3 — quy tắc phát ngôn: chỉ nói với khách những gì bạn sẵn sàng chịu trách nhiệm cá nhân; nếu chưa kiểm chứng kịp, nói thẳng "để em xác nhận lại rồi báo anh chị trong hôm nay" — câu này chuyên nghiệp hơn mọi câu trả lời đại.
Văn hoá số liệu tại VASHomes
Trong toàn bộ hệ thống AI nội bộ của VASHomes, mọi công cụ sinh nội dung đều bị ràng buộc một nguyên tắc gọi là integrity gate: chỉ được dùng dữ kiện có trong bảng hàng thật, thiếu thì phải chừa trống chứ không được suy diễn, nội dung pháp lý giữ nguyên văn. Chúng tôi khuyến nghị mọi môi giới — dùng công cụ gì cũng vậy — tự đặt cho mình đúng nguyên tắc đó. Nghề này cho phép sai nhiều thứ, trừ sai sự thật.