Chatbots AI đang học cách tuyên truyền độc đoán

Khi bạn hỏi ChatGPT “Chuyện gì đã xảy ra ở Trung Quốc vào năm 1989?” bot mô tả cách quân đội Trung Quốc tàn sát hàng ngàn người biểu tình ủng hộ dân chủ ở Quảng trường Thiên An Môn. Nhưng hãy hỏi Ernie câu hỏi tương tự và bạn sẽ có được câu trả lời đơn giản trả lời rằng nó không có “thông tin liên quan”. Đó là bởi vì Ernie là một chatbot AI được phát triển bởi công ty Baidu có trụ sở tại Trung Quốc.

Khi OpenAI, Meta, Google và Anthropic cung cấp chatbot của họ trên khắp thế giới vào năm ngoái, hàng triệu người ban đầu đã sử dụng chúng để trốn tránh sự kiểm duyệt của chính phủ. Đối với 70% người dùng internet trên thế giới sống ở những nơi mà nhà nước đã chặn các nền tảng truyền thông xã hội lớn, các trang tin tức độc lập hoặc nội dung về nhân quyền và cộng đồng LGBTQ, những bot này đã cung cấp quyền truy cập vào thông tin chưa được lọc có thể định hình quan điểm của một người về bản sắc, cộng đồng và chính phủ của họ.

Điều này vẫn chưa bị mất đi đối với các chế độ độc tài trên thế giới đang nhanh chóng tìm ra cách sử dụng chatbot như một công cụ biên giới mới cho kiểm duyệt trực tuyến.

Phản ứng phức tạp nhất cho đến nay là ở Trung Quốc, nơi chính phủ đang tiên phong sử dụng chatbot để tăng cường kiểm soát thông tin lâu dài. Vào tháng 2 năm 2023, cơ quan quản lý bị cấm Các tập đoàn Trung Quốc Tencent và Ant Group tích hợp ChatGPT vào dịch vụ của họ. Chính phủ sau đó quy định được công bố vào tháng 7 yêu cầu các công cụ AI sáng tạo phải tuân theo cùng một quy định kiểm duyệt rộng rãi ràng buộc các dịch vụ truyền thông xã hội, bao gồm yêu cầu thúc đẩy “các giá trị xã hội chủ nghĩa cốt lõi”. Chẳng hạn, việc một chatbot thảo luận về cuộc đàn áp đang diễn ra của Đảng Cộng sản Trung Quốc (ĐCSTQ) đối với người Duy Ngô Nhĩ và các dân tộc thiểu số khác ở Tân Cương là bất hợp pháp. Một tháng sau, Apple đã loại bỏ hơn 100 ứng dụng chatbot AI sáng tạo từ cửa hàng ứng dụng Trung Quốc, theo yêu cầu của chính phủ. (Một số công ty có trụ sở tại Hoa Kỳ, bao gồm OpenAI, chưa cung cấp sản phẩm của họ trong một số môi trường áp bức, trong số đó có Trung Quốc.)

Đồng thời, các nhà độc tài đang thúc đẩy các công ty địa phương sản xuất chatbot của riêng họ và tìm cách nhúng các biện pháp kiểm soát thông tin vào trong chúng theo thiết kế. Ví dụ: các quy tắc tháng 7 năm 2023 của Trung Quốc yêu cầu các sản phẩm AI có tính sáng tạo như Ernie Bot phải đảm bảo những gì ĐCSTQ định nghĩa là “tính trung thực, chính xác, khách quan và đa dạng” của dữ liệu đào tạo. Những biện pháp kiểm soát như vậy dường như đã mang lại hiệu quả: Chatbot do các công ty có trụ sở tại Trung Quốc sản xuất đã từ chối tham gia vào lời nhắc của người dùng về các chủ đề nhạy cảm và lặp lại tuyên truyền của ĐCSTQ. Các mô hình ngôn ngữ lớn được đào tạo về tuyên truyền của nhà nước và dữ liệu bị kiểm duyệt đương nhiên tạo ra kết quả sai lệch. Trong một thời gian gần đây họcmột mô hình AI được đào tạo trên bách khoa toàn thư trực tuyến của Baidu — phải tuân theo chỉ thị kiểm duyệt của ĐCSTQ — các từ liên quan như “tự do” và “dân chủ” có nhiều hàm ý tiêu cực hơn so với mô hình được đào tạo trên Wikipedia tiếng Trung, vốn được tách biệt khỏi kiểm duyệt trực tiếp.

Tương tự, chính phủ Nga danh sách “Chủ quyền công nghệ” là nguyên tắc cốt lõi trong cách tiếp cận AI của họ. Trong khi những nỗ lực quản lý AI đang ở giai đoạn sơ khai, một số công ty Nga đã tung ra chatbot của riêng họ. Khi chúng tôi hỏi Alice, một bot do AI tạo ra bởi Yandex, về cuộc xâm lược toàn diện của Điện Kremlin vào Ukraine vào năm 2021, chúng tôi được trả lời rằng họ chưa sẵn sàng thảo luận về chủ đề này để không xúc phạm bất kỳ ai. Ngược lại, Bard của Google lại đưa ra nhiều yếu tố góp phần gây ra cuộc chiến. Khi chúng tôi hỏi Alice những câu hỏi khác về tin tức—chẳng hạn như “Alexey Navalny là ai?”—chúng tôi cũng nhận được những câu trả lời mơ hồ tương tự. Mặc dù không rõ liệu Yandex có tự kiểm duyệt sản phẩm của mình, hành động theo lệnh của chính phủ hay đơn giản là không đào tạo mô hình của mình về dữ liệu liên quan, nhưng chúng tôi biết rằng những chủ đề này đã bị kiểm duyệt trực tuyến ở Nga.

Những diễn biến này ở Trung Quốc và Nga có thể coi là một cảnh báo sớm. Trong khi các quốc gia khác có thể thiếu sức mạnh tính toán, nguồn lực công nghệ và bộ máy quản lý để phát triển và kiểm soát các chatbot AI của riêng họ, thì các chính phủ hà khắc hơn có thể coi LLM là mối đe dọa đối với quyền kiểm soát của họ đối với thông tin trực tuyến. Truyền thông nhà nước Việt Nam đã đăng một bài viết chê bai phản hồi của ChatGPT đối với nhắc nhở về Đảng Cộng sản Việt Nam và người sáng lập ra nó, Hồ Chí Minh, nói rằng họ yêu nước chưa đủ. Một quan chức an ninh nổi tiếng đã kêu gọi hành động mới kiểm soát và quy định về công nghệ, với lý do lo ngại nó có thể khiến người dân Việt Nam mất niềm tin vào đảng.

Hy vọng rằng chatbot có thể giúp mọi người trốn tránh kiểm duyệt trực tuyến lặp lại những hứa hẹn ban đầu rằng các nền tảng truyền thông xã hội sẽ giúp mọi người vượt qua các phương tiện truyền thông ngoại tuyến do nhà nước kiểm soát. Mặc dù ban đầu rất ít chính phủ có thể kiểm soát truyền thông xã hội, nhưng một số chính phủ đã nhanh chóng thích nghi bằng cách chặn các nền tảng, bắt buộc rằng họ lọc ra những bài phát biểu chỉ trích, hoặc chống đỡ các lựa chọn thay thế phù hợp với nhà nước. Chúng ta có thể mong đợi nhiều điều tương tự hơn khi chatbot ngày càng trở nên phổ biến. Mọi người sẽ cần phải sáng suốt về cách khai thác những công cụ mới nổi này để tăng cường kiểm duyệt và hợp tác để tìm ra phản ứng hiệu quả nếu họ hy vọng lật ngược tình thế chống lại tình trạng tự do internet đang suy giảm.

Ý kiến ​​CÓ DÂY xuất bản các bài viết của những người đóng góp bên ngoài đại diện cho nhiều quan điểm khác nhau. Đọc thêm ý kiến đây. Gửi một op-ed tại ý tưở[email protected].