1178 nhà khoa học AI kêu gọi ‘phanh khẩn’: Liệu ngành có đang chạy quá nhanh trước khi hiểu mình đang làm gì?
Hôm qua, một bức thư ngỏ với chữ ký của 1178 nhà nghiên cứu và kỹ sư hàng đầu trong lĩnh vực trí tuệ nhân tạo (AI) đã gây chấn động toàn cầu. Bức thư, được công bố bởi tổ chức phi lợi nhuận ‘Center for AI Safety’ và được theo dõi bởi nền tảng phân tích ‘Beating’, kêu gọi các chính phủ, đặc biệt là Hoa Kỳ, dẫn đầu việc thiết lập một ‘cơ chế chậm lại quốc tế’ (international slowdown mechanism) đối với việc phát triển các mô hình AI tiên tiến. Động thái này không chỉ là một lời cảnh báo, mà là một tín hiệu cho thấy sự lo ngại sâu sắc về tốc độ phát triển không kiểm soát của AI, và đặt ra câu hỏi cốt lõi: Khi nào thì sự đổi mới trở thành sự liều lĩnh?
Bối cảnh: Một sự đồng thuận chưa từng có
Bức thư ngỏ này không phải là lời kêu gọi đầu tiên về sự thận trọng trong AI, nhưng nó mang một trọng lượng chưa từng có. Trong danh sách ký tên, chúng ta thấy sự hiện diện của các nhân vật chủ chốt trong hệ sinh thái AI: Dario Amodei (CEO của Anthropic), Ilya Sutskever (đồng sáng lập và cựu trưởng nhóm khoa học của OpenAI), Yann LeCun (trưởng nhóm AI tại Meta) và nhiều nhà nghiên cứu cấp cao khác. Đây không phải là những tiếng nói bên lề; đây là những kiến trúc sư trưởng của kỷ nguyên AI hiện đại. Sự tham gia của họ cho thấy mối lo ngại về ‘rủi ro hiện sinh’ (existential risk) từ AI đã lan rộng từ các nhóm hoạt động an toàn tới các nhà điều hành và nhà khoa học chịu trách nhiệm xây dựng các hệ thống này.
Sự khác biệt chính của bức thư này là nó không chỉ dừng lại ở lời kêu gọi, mà còn đưa ra một sự thừa nhận đau đớn: các công ty AI, khi hành động đơn lẻ, không thể tự nguyện chậm lại. ‘Không một công ty riêng lẻ nào sẵn sàng chậm lại trước các đối thủ, bởi vì điều đó sẽ tạo ra bất lợi cạnh tranh’, bức thư viết. Đây là sự thừa nhận rõ ràng về một ‘thế lưỡng nan của nhà tù’ (prisoner’s dilemma) trong ngành: mỗi công ty đều có lý do để chạy nhanh nhất có thể, bất chấp rủi ro, bởi vì nếu họ dừng lại, người khác sẽ vượt qua. Chính phủ, với tư cách là người điều hành, được kỳ vọng sẽ phá vỡ thế lưỡng nan này bằng cách áp đặt các quy tắc chung.
Phân tích kỹ thuật: Chìa khóa của ‘tự động nghiên cứu’
Trọng tâm của lời kêu gọi này là một tuyên bố gây tranh cãi: ‘Các mô hình tiên tiến có thể sớm có khả năng tự động thực hiện phần lớn các nghiên cứu AI’. Tuyên bố này, nếu đúng, sẽ thay đổi hoàn toàn cục diện. Nếu AI có thể tự cải thiện, sự tăng tốc của sự phát triển sẽ là theo cấp số nhân, vượt quá khả năng kiểm soát của con người. Liệu điều này có thực tế không?
Dựa trên dữ liệu trên chuỗi và các nghiên cứu gần đây, tôi cho rằng mối lo ngại này không phải là không có cơ sở. Các hệ thống ‘Agent’ (tác tử) hiện tại, chẳng hạn như GPT-4 với Code Interpreter, AutoGPT, hoặc Devin từ Cognition AI, đã chứng minh khả năng thực hiện các nhiệm vụ nghiên cứu phức tạp và đa bước. Chúng có thể đọc tài liệu, viết code, chạy thí nghiệm và phân tích kết quả. Một nghiên cứu gần đây cho thấy GPT-4 có thể thực hiện một quy trình học máy từ đầu đến cuối, từ việc xử lý dữ liệu đến huấn luyện mô hình, với hiệu quả không thua kém một nhà nghiên cứu cấp thấp. Hơn nữa, các phương pháp ‘tự cải thiện’ (Recursive Self-Improvement) như ‘Self-Rewarding Language Models’ (Altizer et al., 2024) đang được khám phá, nơi một mô hình sử dụng đầu ra của chính nó để tạo ra dữ liệu huấn luyện chất lượng cao hơn. Đây chính là nền tảng của một vòng lặp phản hồi tự động có thể dẫn đến sự tăng tốc bùng nổ.
Tuy nhiên, cần có một sự phân biệt quan trọng. Khả năng ‘tự động thực hiện các bước nghiên cứu’ khác xa với ‘khả năng tự động khám phá các ý tưởng mới’. Các AI hiện tại xuất sắc trong việc lặp lại và tối ưu hóa, nhưng chúng vẫn thiếu khả năng sáng tạo thực sự, tư duy phản biện và hiểu biết sâu sắc về nhân quả – những yếu tố cần thiết cho một khám phá khoa học đột phá. Do đó, tuyên bố ‘phần lớn’ trong bức thư có thể chỉ là một sự phóng đại chiến lược để gây áp lực lên các nhà hoạch định chính sách. Nhưng ngay cả khi vậy, sự tiến bộ trong các nhiệm vụ ‘thường ngày’ cũng đã đủ để tạo ra một chu kỳ tăng tốc đáng lo ngại.
Phân tích đối nghịch (Contrarian Angle): Tương quan không phải là nhân quả
Mặc dù bức thư ngỏ dựa trên những dữ liệu và xu hướng thực tế, nó có thể đang mắc phải một lỗi logic cơ bản: đánh đồng khả năng kỹ thuật với sự sụp đổ không thể tránh khỏi. Câu chuyện rằng AI sẽ nhất định vượt khỏi tầm kiểm soát nếu chúng ta không chậm lại là một sự đơn giản hóa quá mức. Các nhà phát triển AI không phải là những kẻ mù quáng. Họ liên tục xây dựng các lớp bảo vệ, đào tạo mô hình về sự an toàn, và thực hiện các bài kiểm tra thâm nhập (red-teaming). Thực tế, sự tiến bộ trong lĩnh vực an toàn AI (AI safety) cũng đang diễn ra song song với sự phát triển của sức mạnh mô hình. Việc chậm lại có thể phản tác dụng nếu nó kìm hãm sự đổi mới trong các kỹ thuật bảo vệ.
Hơn nữa, bức thư bỏ qua một điểm mù quan trọng: trách nhiệm và khả năng của các chính phủ. Việc kêu gọi ‘Hoa Kỳ dẫn đầu’ là một giả định đầy rủi ro. Các chính phủ thường hành động chậm chạp và bị chi phối bởi các lợi ích chính trị ngắn hạn. Một thỏa thuận quốc tế (như một hiệp ước về AI) có thể mất nhiều năm để đàm phán, và kết quả có thể là một bộ quy tắc lỏng lẻo, không hiệu quả, thậm chí tạo ra một ‘vùng trũng an toàn’ (safety haven) cho các công ty không tham gia hoặc đặt trụ sở ở các quốc gia khác. Trong trường hợp này, nỗ lực của các nhà khoa học có thể vô tình tạo ra một sân chơi bất bình đẳng, nơi những kẻ thiếu trách nhiệm nhất sẽ chạy nhanh nhất, gây ra rủi ro lớn hơn.
Một góc nhìn khác là bức thư này, dù có thiện chí, có thể được xem như một hành động ‘định vị thương hiệu’ (brand positioning) của các công ty lớn. Bằng cách kêu gọi sự chậm lại, các công ty như OpenAI và Anthropic đang thể hiện mình là những ‘người chơi có trách nhiệm’, sẵn sàng chịu sự giám sát. Điều này có thể tạo ra một rào cản gia nhập cao cho các startup nhỏ hơn, những người không có đủ nguồn lực để tham gia vào cuộc đua tuân thủ và vận động hành lang. Đây là một chiến lược kinh doanh tinh vi, được ngụy trang dưới lớp vỏ của sự lo ngại về an toàn.
Kết luận và tín hiệu cho tuần tới
Bức thư ngỏ của 1178 nhà khoa học AI là một cột mốc quan trọng. Nó cho thấy sự đồng thuận về rủi ro hiện sinh đã đạt đến một cấp độ chưa từng có trong ngành. Dữ liệu về các tác tử AI và khả năng tự cải thiện đang củng cố mối lo ngại này. Tuy nhiên, là một ‘thám tử dữ liệu’, tôi phải nhấn mạnh: sự tương quan không phải là nhân quả. Khả năng kỹ thuật gia tăng không tự động dẫn đến thảm họa. Các cơ chế bảo vệ và sự giám sát của con người cũng đang phát triển.
Trong tuần tới, thị trường sẽ chú ý đến phản ứng chính thức của chính phủ Hoa Kỳ. Một tuyên bố ủng hộ từ Nhà Trắng sẽ là một tín hiệu tăng giá (bullish) cho các cổ phiếu an toàn AI nhưng là giảm giá (bearish) cho các dự án AI tập trung vào tăng trưởng tốc độ cao. Tôi sẽ theo dõi sát sao các giao dịch bất thường trên các quỹ ETF tập trung vào AI, vốn thường phản ứng nhanh hơn so với dữ liệu on-chain của các dự án cá nhân. Liệu thị trường có đang định giá đúng rủi ro này không? Câu trả lời sẽ đến từ những con số.