Bạn nhớ lần cuối cùng mình tin vào một lời hứa mà không cần xem code là khi nào không? Tôi thì nhớ. Đó là năm 2017, tôi mất 0.5 ETH vào một ICO hứa hẹn lưu trữ lượng tử. Ba tháng sau, tôi phát hiện smart contract của chúng có hàm withdraw() không bao giờ được gọi. Lời hứa đẹp đẽ, code thì rỗng tuếch. Hôm qua, OpenAI bắt tay với Hiệp hội Tâm lý học Hoa Kỳ (APA) để cùng phát triển "tiêu chuẩn đạo đức" cho AI trong lĩnh vực sức khỏe tâm thần. Nhìn bề ngoài, đây là một bước tiến vĩ đại cho sự an toàn của AI. Nhìn từ góc độ một người đã dành năm năm audit hợp đồng thông minh, tôi thấy một vở kịch mua bán lòng tin quen thuộc đến rợn người. Họ đang bán cho bạn một chiếc cầu không có trụ đỡ, chỉ được sơn màu đạo đức cho đẹp.
Bối cảnh: thị trường AI sức khỏe tâm thần đang là miếng bánh béo bở trị giá 60-70 tỷ USD, với tốc độ tăng trưởng 15-18% mỗi năm. Nhu cầu thì khủng khiếp: 60% nhà tâm lý học tại Mỹ không còn nhận bệnh nhân mới, trong khi tỷ lệ thanh thiếu niên có dấu hiệu trầm cảm tăng từ 28% lên 42% chỉ trong một thập kỷ. AI được kỳ vọng sẽ lấp khoảng trống này. Nhưng ngành đã chứng kiến quá nhiều thảm họa: các chatbot trị liệu khuyên người dùng tự làm hại bản thân, nhiều ứng dụng dựa trên GPT bị phát hiện có lỗ hổng an toàn nghiêm trọng. Trong bối cảnh đó, APA — tổ chức tâm lý học có uy tín nhất thế giới với 13 vạn thành viên — trở thành chiếc phao cứu sinh danh tiếng hoàn hảo cho OpenAI. Thị trường crypto đi ngang, mọi người đang tìm kiếm narrative tăng trưởng mới, và câu chuyện "AI có đạo đức" chính là cái hook hoàn hảo.
Điều đầu tiên tôi muốn mổ xẻ: bản chất của thỏa thuận này không nằm ở công nghệ, mà nằm ở việc mua một "chứng chỉ an toàn". Trong crypto, chúng tôi gọi đây là mua audit từ một công ty có tên tuổi mà không đọc kỹ báo cáo. OpenAI đang phải đối mặt với một cuộc khủng hoảng niềm tin: các vụ kiện tụng, các cáo buộc sử dụng dữ liệu phi đạo đức, và những câu hỏi về việc liệu GPT-4o có an toàn để tư vấn cho trẻ vị thành niên hay không. Bằng cách công bố hợp tác với APA, OpenAI có thể nói với công chúng: "Nhìn xem, chúng tôi không đơn độc, chúng tôi có 13 vạn nhà tâm lý học đứng sau." Đây là một động thái chiến lược kinh điển. Nhưng hãy hỏi: APA có thực sự sẽ viết code cho các tính năng an toàn? Họ có tham gia vào việc thiết kế thuật toán phát hiện nguy cơ tự sát? Không. Họ chỉ cung cấp "nguyên tắc đạo đức", thứ mà OpenAI có thể tự biên soạn. Tôi đã chứng kiến quá nhiều dự án DeFi mua audit từ các công ty lớn chỉ để che mắt nhà đầu tư, trong khi lỗ hổng vẫn nằm đó. Cách tiếp cận này giống hệt.
Tiếp theo, hãy nhìn vào động cơ của APA. Vì sao một tổ chức khoa học lâu đời lại hợp tác với một công ty công nghệ? Họ sợ bị bỏ lại phía sau. Hàng triệu người đã dùng ChatGPT để hỏi về các vấn đề tâm lý thay vì đến gặp bác sĩ. APA đang bị đe dọa về quyền lực chuyên môn. Bằng cách hợp tác với OpenAI, họ tìm cách khẳng định vị thế: nếu AI được sử dụng để trị liệu, họ sẽ là người viết ra luật chơi. Đây là một chiến lược phòng thủ. Nhưng vấn đề ở đây: khi một tổ chức phi lợi nhuận vì khoa học trở thành đối tác của một gã khổng lồ công nghệ, tính độc lập của họ bị đặt dấu hỏi. Ai sẽ giám sát việc APA có bị OpenAI gây ảnh hưởng hay không? Trong blockchain, chúng tôi gọi đây là xung đột lợi ích — một điều khoản không thể chấp nhận trong bất kỳ hợp đồng thông minh nghiêm túc nào.
Điểm mù lớn nhất nằm ở dữ liệu. Đây là thứ mà bản tin không hề đề cập. Nếu hợp tác mở rộng sang việc chia sẻ dữ liệu lâm sàng, OpenAI sẽ có được một kho dữ liệu tâm lý khổng lồ — bao gồm cả thông tin từ trẻ vị thành niên. Dữ liệu sức khỏe tâm thần thuộc nhóm nhạy cảm nhất, được bảo vệ bởi HIPAA (Đạo luật về trách nhiệm giải trình thông tin y tế). Nhưng liệu một mô hình AI do OpenAI vận hành có thể đảm bảo việc xử lý dữ liệu này tuân thủ các quy định? Tôi từng audit một giao thức DeFi bảo mật kém đến mức private key của users bị lộ trên một máy chủ không cần mật khẩu. OpenAI có thể tuyệt vời về mặt kỹ thuật, nhưng việc xử lý dữ liệu nhạy cảm của trẻ em là một câu chuyện hoàn toàn khác. Nếu không có một hệ thống mã hóa và kiểm soát truy cập được công khai kiểm toán, đó chỉ là một cái hộp đen. Mà tôi thì không tin vào hộp đen.
Và đây là điều trớ trêu: sự hợp tác này có thể tạo ra một rào cản gia nhập thị trường cho các công ty khởi nghiệp AI sức khỏe tâm thần nhỏ. Hãy nhìn vào Woebot — một nền tảng trị liệu AI đã được FDA cấp phép. Hoặc Wysa, một startup đang hợp tác với các bệnh viện. Những công ty này xây dựng sản phẩm từ con số không, họ hiểu rõ về lĩnh vực tâm lý. Nhưng nếu APA và OpenAI cùng tạo ra một bộ tiêu chuẩn, các công ty nhỏ sẽ phải tuân theo. Ai có đủ nguồn lực để đáp ứng các tiêu chuẩn đó? Chỉ có những gã khổng lồ. Đây chính xác là cơ chế "regulatory capture" (chiếm đoạt quy định) mà chúng ta thấy trong thế giới tài chính truyền thống. Trong crypto, chúng tôi gọi đây là "kẻ chiến thắng tự viết ra luật chơi". Nếu bạn nghĩ rằng thị trường này công bằng, hãy nhìn lại cách các quỹ đầu tư lớn thao túng giá token bằng cách kiểm soát thanh khoản. Đây là phiên bản tinh vi hơn: kiểm soát thanh khoản của niềm tin.
Bây giờ, hãy nói đến góc nhìn phản trực giác của tôi. Những người ủng hộ sẽ nói: "Ít nhất thì họ cũng đang cố gắng xây dựng một khuôn khổ an toàn. Có còn hơn không." Và tôi đồng ý ở một mức độ nào đó. Nếu không có một tổ chức nào đứng ra chịu trách nhiệm, hậu quả của việc AI tư vấn tâm lý bất cẩn sẽ còn khủng khiếp hơn. Nhưng hãy nhìn vào bản chất của thỏa thuận này: nó không có tính phản hồi (accountability). Nếu APA đưa ra các nguyên tắc đạo đức, ai kiểm tra việc OpenAI có tuân thủ chúng không? Liệu có một cơ chế độc lập, có thể kiểm chứng bằng mã nguồn mở, hay chỉ là một lời hứa trên giấy? Trong những năm qua, tôi đã học được rằng lòng tin mà không có cơ chế xác minh, không có audit, không có bằng chứng mã hóa, thì không khác gì một hợp đồng thông minh không có mã nguồn. Nó có thể hoạt động tốt trong một thời gian — cho đến khi nó sụp đổ. Đây chính là điểm mà phe bò có thể đúng: việc có một khuôn khổ an toàn, dù hoàn hảo, vẫn tốt hơn là sự hỗn loạn hoàn toàn. Nhưng chúng ta phải yêu cầu nhiều hơn thế.
Hãy cùng nhìn vào một tình huống tương tự trong thế giới blockchain. Năm 2020, tôi tham gia farming trên Harvest Finance. Tôi đã viết script riêng để kiểm tra logic hợp đồng của họ, vì tôi tin vào sự độc lập của mã nguồn mở. Tôi tìm thấy một lỗi trong thuật toán gộp lãi, có thể gây mất 10% lợi nhuận. Tôi đã báo ngay cho nhóm phát triển, nhưng họ chậm trễ. Kết quả là dự án bị hack mất 34 triệu đô la một tháng sau đó. Bài học của tôi: không ai có thể thay thế sự giám sát kỹ thuật độc lập. Cũng giống như việc bạn không thể tin tưởng một công ty audit chỉ vì họ có tên tuổi lớn, bạn không thể tin một tổ chức tâm lý học chỉ vì họ có 13 vạn thành viên. Bạn cần phải tự đặt câu hỏi: code ở đâu? Dữ liệu được lưu trữ thế nào? Quy trình kiểm tra an toàn có được công bố công khai không?
Điều khiến tôi thực sự khó chịu là cách câu chuyện này được dàn dựng. Họ biết rằng công chúng đang sợ hãi về AI. Họ biết rằng mọi người sẽ hoan nghênh bất kỳ ai có vẻ ngoài "quan tâm đến đạo đức". Và họ tận dụng điều đó. Điều này gợi cho tôi nhớ đến những ngày đầu của token ICO, khi các dự án huy động hàng trăm triệu đô la với một whitepaper đẹp đẽ. Tôi đã chứng kiến sự sụp đổ của QuantumVault — một dự án tôi từng tin tưởng vì họ có team mạnh và ý tưởng về lưu trữ lượng tử. Mã nguồn thì hùng hồn, nhưng lỗ hổng thì chỉ có thể nhìn thấy khi bạn tự đọc từng dòng. Tôi mất 0.5 ETH, nhưng tôi nhận được một bài học quý giá: vẻ ngoài chuyên nghiệp không bao giờ là bằng chứng của sự an toàn. Hôm nay, OpenAI và APA đang đưa ra một vở kịch tương tự. Họ đang bán cho chúng ta một cảm giác an toàn bằng cách sử dụng uy tín của một tổ chức khoa học lâu đời, chứ không phải bằng cách công bố một hệ thống kiểm soát an toàn có thể xác minh.
Vậy câu hỏi đặt ra là: chúng ta có nên đào thải thỏa thuận này ngay lập tức? Không. Nhưng chúng ta nên yêu cầu minh bạch. Trong thị trường tiền mã hóa, chúng ta có một thuật ngữ cho điều này — "trustless" (không cần tin tưởng). Đó là ý tưởng rằng bạn không cần phải tin ai cả, vì bạn có thể tự mình xác minh mọi thứ bằng mã nguồn. Điều OpenAI và APA đang làm là hoàn toàn ngược lại: họ củng cố sự tập trung hóa niềm tin vào một tổ chức, thay vì phân tán nó. Trong một lĩnh vực nhạy cảm như sức khỏe tâm thần của trẻ vị thành niên, chúng ta cần nhiều hơn là một lời hứa từ hai gã khổng lồ. Chúng ta cần một hệ thống kiểm toán độc lập, một mô hình mã nguồn mở, và một cơ chế giám sát liên tục. Nếu không, đây chỉ là một phiên bản được tô vẽ của cùng một trò cũ mà chúng ta đã thấy trong thế giới ICO, nơi lòng tin được mua bán bằng những câu chữ hoa mỹ.
Hỏi audit chưa? Không hỏi thì đừng kêu. Tôi không nói rằng OpenAI và APA không có ý định tốt. Nhưng ý định tốt không thể thay thế cho việc kiểm tra thực tế. Nếu họ muốn xây dựng một tương lai nơi AI có thể hỗ trợ sức khỏe tâm thần một cách an toàn, họ cần chứng minh bằng code, bằng dữ liệu, bằng thiết kế hệ thống. Đừng bán cho chúng tôi một phù hiệu danh dự. Hãy bán cho chúng tôi một mã nguồn mở mà bất kỳ ai cũng có thể audit. Khi mọi người tự tin rằng họ đang được bảo vệ bởi các giao thức có thể kiểm chứng, họ mới thực sự tin tưởng. Còn cho đến khi đó, hãy giữ thái độ hoài nghi. Trong thế giới của tôi, sự hoài nghi là một tính năng, không phải lỗ hổng.