Facebook ra mắt công cụ kiểm duyệt AI mới để lọc hàng tỷ tài khoản giả

DEC là mô hình học máy không chỉ tính đến hoạt động của tài khoản nghi phạm, mà nó cũng đánh giá tất cả các thông tin xung quanh, bao gồm các hành vi của các tài khoản và trang mà bị nghi ngờ là vi phạm. Facebook cho biết họ ước tính đã giảm 27% số lượng tài khoản spam và lừa đảo.

Cho đến nay, DEC đã giúp Facebook ngăn chặn hơn 6,5 tỷ tài khoản giả mà những kẻ lừa đảo khác đã tạo hoặc cố gắng tạo vào năm ngoái. Phần lớn các tài khoản đó thực sự bị phát hiện bởi các hệ thống tự động của Facebook trước khi chúng được báo cáo bởi người dùng thực.

Tuy nhiên, Facebook ước tính rằng khoảng 5% trong tổng số 2,89 tỷ người dùng hoạt động hàng tháng hiện tại trên nền tảng này là các tài khoản giả thuộc về những gì công ty coi là người vi phạm các điều khoản dịch vụ của mình. Đây là lúc DEC xuất hiện. Nó sẽ tiếp cận tinh vi và toàn diện để phân tích hành vi người dùng với khoảng 20.000 tính năng trên mỗi hồ sơ. Chẳng hạn, nó sẽ tính đến hoạt động kết bạn của một tài khoản mà tài khoản đáng ngờ và có khả năng giả mạo đã gửi yêu cầu kết bạn đến.

Theo thời gian, Facebook cho biết những kẻ gửi thư rác sẽ ngày càng làm tốt hơn trong việc giả vờ là người dùng thực, ít nhất là theo cách các hệ thống tự động của Facebook đánh giá. DEC được cho là sẽ tận dụng lợi thế đó bằng cách xem xét sâu hơn về cách các tài khoản tương tác với hoạt động trên nền tảng.

Theo theverge