Reddit Nâng Cấp Quyền Lực AI Trong Việc Kiểm Duyệt Nội Dung

Reddit đã chính thức công bố một hệ thống kiểm duyệt mới có tên gọi Rules Hub, mang đến khả năng mạnh mẽ hơn cho các quản trị viên trên nền tảng. Đặc biệt, AI không chỉ đơn thuần cảnh báo mà còn có thể tự động xóa bài viết và bình luận vi phạm quy định, nếu được sự đồng ý từ quản trị viên.

Trước khi có Rules Hub, Reddit chủ yếu dựa vào đội ngũ quản trị viên tình nguyện và công cụ Automoderator để kiểm duyệt nội dung. Hệ thống Automod hoạt động dựa theo các quy tắc đã thiết lập, tự động kích hoạt khi phát hiện từ khóa hoặc mẫu nội dung nhất định.

Trong thời gian gần đây, Reddit đã bắt đầu tích cực ứng dụng AI vào quy trình kiểm duyệt. Một ví dụ tiêu biểu chính là tính năng Post Check, sử dụng mô hình ngôn ngữ lớn để cảnh báo người dùng nếu nội dung nháp của họ có nguy cơ vi phạm quy định, nhưng vẫn cho phép họ đăng tải nếu muốn.

Với sự ra mắt của Rules Hub, AI giờ đây đã được giao thêm các quyền hạn mới. Theo thông tin từ The Verge, hệ thống này có khả năng đánh giá xem một bài viết hoặc bình luận có phù hợp với tinh thần của các quy định hay không, chứ không chỉ dừng ở việc tìm kiếm từ khóa cố định như trước đây.

Reddit cho biết rằng cách tiếp cận này giúp AI hiểu tốt hơn ngôn ngữ tự nhiên và ngữ cảnh, đồng thời nhận diện những trường hợp đặc biệt không chứa các từ khóa đã thiết lập trong quy định.

Dù AI đóng vai trò quan trọng, nhưng quyền quyết định cuối cùng vẫn thuộc về các quản trị viên. Họ có thể lựa chọn cho phép AI đánh dấu nội dung vi phạm, tự động xóa nó hoặc không thực hiện bất kỳ hành động nào.

Theo thông báo từ Reddit, Rules Hub đã trải qua thử nghiệm trong vài tháng qua tại hơn 700 cộng đồng, với sự tham gia của nhiều quản trị viên, từ mới đến dày dạn kinh nghiệm, bao gồm cả những thành viên trong Mod Council Network.

Hiện tại, công cụ này đã được triển khai cho tất cả các subreddit mới được tạo và Reddit hy vọng sẽ mở rộng Rules Hub ra toàn bộ nền tảng vào năm 2026, tuy nhiên chưa công bố thời điểm cụ thể.

Phản hồi đầu tiên từ các quản trị viên về hệ thống này đang có sự trái chiều. Một số người cho rằng hiệu quả của Rules Hub không đồng đều, trong khi đó một số khác cho biết rằng họ chưa thể hoàn toàn tin tưởng vào khả năng tự động xử lý nội dung của AI, mà chỉ sử dụng nó như một công cụ hỗ trợ để gắn cờ nội dung.

Về lâu dài, Reddit cho biết Rules Hub có thể thay thế nhiều công việc mà Automod hiện đang đảm nhiệm. Tuy nhiên, công ty cũng nhấn mạnh rằng AI không thể thay thế vai trò của quản trị viên, những người vẫn phải chịu trách nhiệm trong việc xây dựng quy định cộng đồng, cấu hình hệ thống và xem xét các quyết định do AI đưa ra.

Động thái này diễn ra trong bối cảnh Reddit phải đối mặt với phản ứng từ cộng đồng quản trị viên do các thay đổi chính sách hạn chế khả năng của bot trong việc tự động cấm người dùng dựa trên hoạt động của họ trên các subreddit khác.