Rất có thể, thứ đang 'học' từ dữ liệu không chỉ là ngữ pháp mà còn là cả một hệ thống niềm tin.
Bài toán dữ liệu của AI chatbot không chỉ là kỹ thuật, mà còn là địa chính trị. Và khi một mô hình 'vô tình' lặp lại thông điệp của một chiến dịch tuyên truyền có chủ đích, vấn đề không còn nằm ở 'lỗi code' nữa.
Context: Khi dữ liệu không trung tính
Khi audit các hợp đồng thông minh, tôi thường nói: 'Mã nguồn không bao giờ nói dối, nhưng dữ liệu đầu vào thì có thể.' Với AI cũng vậy. Một mô hình ngôn ngữ lớn (LLM) là sản phẩm của hàng nghìn tỷ token đầu vào. Nếu dữ liệu đó chứa đựng các thông điệp tuyên truyền có tổ chức, mô hình sẽ 'học' và tái tạo chúng như những sự thật hiển nhiên.
Khác với tấn công trực tiếp vào giao thức blockchain – nơi bạn có thể kiểm tra từng dòng code để tìm lỗi – vấn đề này nằm ở lớp dữ liệu (data layer). Nó mờ, khó đo lường, và gần như không thể vá bằng một bản cập nhật phần mềm đơn giản.
Core: Phân tích từ góc nhìn kỹ thuật
Hãy tưởng tượng bạn huấn luyện một chatbot trên tập dữ liệu The Pile. Một phần đáng kể trong đó là nội dung từ các trang web có thiên hướng chính trị rõ rệt. Mô hình của bạn sẽ học rằng 'cách nói chuyện của các trang này là chuẩn mực'. Kết quả: khi được hỏi về một sự kiện lịch sử, chatbot trích dẫn các nguồn đó như thể chúng là tài liệu tham khảo trung lập nhất.
Điều này còn nguy hiểm hơn một lỗi overflow trong smart contract. Bởi vì: 1/ Nó không gây sập hệ thống, nên khó bị phát hiện. 2/ Nó ăn sâu vào kiến thức nền tảng của mô hình, khó loại bỏ bằng fine-tuning. 3/ Người dùng ban đầu tin tưởng AI, do đó độ tin cậy của thông tin sai lệch được gia tăng một cách giả tạo.
Từ kinh nghiệm audit của tôi, một trong những kỹ thuật phát hiện lỗi hiệu quả nhất là 'fuzzing' – đưa vào các đầu vào bất thường và xem hệ thống phản ứng thế nào. Với AI, kỹ thuật tương đương là 'red-teaming': cố tình đặt các câu hỏi về chủ đề nhạy cảm, nhưng với các từ ngữ trung lập, để xem mô hình có 'trượt' vào ngôn ngữ tuyên truyền không.
Điểm mấu chốt: Sự khác biệt giữa một mô hình 'an toàn' và một mô hình 'dễ bị lợi dụng' không nằm ở kiến trúc Transformer hay số lượng tham số, mà nằm ở chất lượng của bộ lọc dữ liệu đầu vào và kỹ thuật alignment.
Một giải pháp kỹ thuật đang được thảo luận nhiều là 'data provenance tracking' – gắn thẻ nguồn gốc cho từng phần dữ liệu trong tập huấn luyện, tương tự như cách chúng ta audit nguồn gốc tài sản trên blockchain. Nếu biết được rằng 0.01% dữ liệu đến từ một nguồn tuyên truyền đã biết, ta có thể giảm trọng số của nó hoặc loại bỏ hoàn toàn. Đây là một ứng dụng thú vị của khái niệm 'proof of origin' trong AI.
Tuy nhiên, giải pháp này có một trade-off lớn: nó làm tăng đáng kể chi phí xử lý và lưu trữ. Với các tập dữ liệu hàng trăm TB, việc duy trì một bảng ánh xạ nguồn gốc chi tiết là một bài toán hạ tầng không nhỏ. Nó giống như việc yêu cầu mọi giao dịch trên Ethereum đều phải kèm theo bằng chứng Merkle về nguồn gốc – khả thi về mặt kỹ thuật, nhưng đắt đỏ về mặt kinh tế.
Contrarian: Điểm mù của cộng đồng bảo mật
Chúng ta thường vội vàng đổ lỗi cho các mô hình AI 'có vấn đề' hoặc yêu cầu các công ty phải 'tốt hơn'. Nhưng tôi cho rằng điều này bỏ qua một khía cạnh quan trọng: bản thân khái niệm 'trung lập' trong dữ liệu là một ảo tưởng.
Trong blockchain, chúng ta có khái niệm 'giao thức trung lập' – một giao thức không thiên vị bất kỳ ai. Nhưng dữ liệu đào tạo AI thì không bao giờ trung lập. Nó là sản phẩm của văn hóa, lịch sử, và quyền lực. Một tập dữ liệu lấy từ Internet Anh ngữ sẽ mang thiên kiến của phương Tây. Một tập dữ liệu từ mạng xã hội Trung Quốc sẽ mang thiên kiến khác. 'Loại bỏ tuyên truyền' không phải là loại bỏ một thứ độc hại, mà là chọn lọc một phiên bản của 'sự thật'.
Điểm mù thực sự là: bằng cách tập trung vào 'vô tình' lan truyền thông tin sai lệch, chúng ta đang tạo ra một cái cớ hoàn hảo cho các hành vi có chủ đích. Một tác nhân nhà nước có thể dễ dàng 'vô tình' đưa dữ liệu thiên vị vào một tập huấn luyện mã nguồn mở, và sau đó đổ lỗi cho 'lỗi mô hình' khi thông tin sai lệch xuất hiện. Không có một 'chữ ký' nào trong code để truy vết hành vi đó.
Nếu muốn audit một AI chatbot về độ tin cậy, bạn không thể chỉ kiểm tra output của nó. Bạn phải kiểm tra toàn bộ pipeline: từ nguồn dữ liệu gốc, quá trình lọc, đến phương pháp alignment. Đây là một bài toán khó hơn nhiều so với audit smart contract.
Takeaway: Dự báo về một cuộc khủng hoảng niềm tin
Trong vòng 2 năm tới, tôi dự đoán sẽ xuất hiện ít nhất một vụ bê bối lớn, nơi một chatbot nổi tiếng bị phát hiện 'vô tình' tái tạo nội dung tuyên truyền của một quốc gia có chủ quyền. Hệ quả: làn sóng yêu cầu minh bạch dữ liệu huấn luyện, tương tự như 'proof of reserves' trong crypto, sẽ trở thành yêu cầu pháp lý bắt buộc.
Liệu các công ty AI có sẵn sàng công bố 'proof of data provenance' cho mô hình của mình? Hay họ sẽ chọn cách im lặng, và đánh đổi niềm tin của người dùng?
ZK proof: im lặng nhưng vạn lời.