AI của Facebook đang lọc bớt các tài khoản giả mạo

Theo mô tả, thuật toán mang tên SybilEdge này sẽ phát hiện các tài khoản giả mạo đã lách được bộ lọc chống lừa gạt của Facebook vào thời điểm tạo tài khoản, nhưng lại không kết bạn với đủ nhiều người để thực hiện lừa gạt lâu dài. Mục tiêu của công ty là để giảm thiểu khả năng tấn công những người dùng khác của các tài khoản này, bằng cách so sánh cách mà những người dùng khác kết bạn để mở rộng mạng xã hội của mình.

SybilEdge – vốn có thể phát hiện các tài khoản Facebook giả được lập dưới một tuần và có ít hơn 20 lời mời kết bạn – đã ngay lập tức trình báo cho nền tảng để giải quyến làn sóng lan truyền tin giả về dịch COVID-19. Một phân tích do Viện Reuters về Báo chí tại Đại học Oxford đã cho thấy, trong số những người từng thấy các loại thông tin sai lệch về COVID-19 trên mạng xã hội, 33% trong số đó là từ Twitter, Facebook và YouTube.

Khi xây dựng SybilEdge, đội ngũ phát triển cho biết những kẻ gian phải kết nối với mục tiêu để lừa gạt – tức là, chúng sẽ phải tìm thấy mục tiêu, gửi cho họ lời mời kết bạn và được chấp nhận kết bạn.

Có thể điều này cũng không có gì ngạc nhiên, vì nghiên cứu nội bộ của Facebook cũng tiết lộ những tài khoản không lừa gạt có sự khác biệt trong cách họ chọn bọn bè và cách những bạn bè đó phản hồi với lời mời kết bạn của họ: lời mời từ tài khoản giả thường bị từ chối nhiều lần hơn so với hơn lời mời từ tài khoản thật. Thêm vào đó, tài khoản giả mạo thường cẩn thận trong việc chọn mục tiêu để gởi lời mời kết bạn, nhằm tăng tối đa khả năng lời mời của chúng được chấp nhận.

Facebook đã rèn luyện để SybilEdge tiến hành phân tích và kiểm chứng các tài khoản qua nhiều bước, và công ty cũng xác nhận tỉ lệ phát hiện tài khoản giả mạo chính xác của SybilEdge là 90% đối với các tài khoản có 15 lời mời kết bạn hoặc ít hơn, và 80% đối với các tài khoản có 5 lời mời kết bạn.

“SybilEdge giúp chúng tôi xác định những kẻ lừa gạt nhanh hơn và làm theo cách có thể giải thích cũng như phân tích được. Trong tương lai gần, chúng tôi có kế hoạch tìm thêm những phương pháp bổ sung để giúp tăng tốc quá trình phát hiện tài khoản giả mạo, và giúp đưa ra quyết định còn nhanh hơn cả SybilEdge. Chúng tôi định thực hiện bằng cách phối hợp những mô hình dựa trên tính năng và dựa trên hành vi”, Facebook cho biết trong blog của mình.

Facebok hiện cũng đang liên tục rèn luyện khả năng tự học tập cho các AI của mình để chúng có thể phân tích dữ liệu chính xác hơn. Một mô hình khác của Facebook là Phân loại thực thể chuyên sâu (DEC) cũng là nguyên nhân khiến số tài khoản giả mạo trên mạng xã hội này giảm đến 20% trong suốt 2 năm qua kể từ khi nó được khởi động.

Nguồn: venturebeat