Google ra mắt SynthID Detector: Công cụ xác định nội dung do AI tạo ra

Đây là một bước tiến quan trọng trong nỗ lực tăng cường tính minh bạch và độ tin cậy cho không gian số, trong bối cảnh trí tuệ nhân tạo ngày càng có vai trò lớn trong việc tạo ra ảnh, văn bản, âm thanh và video.

SynthID Detector là gì và hoạt động như thế nào

Theo ông Pushmeet Kohli, Giám đốc tại Google DeepMind, SynthID Detector được mô tả như một “cổng xác thực”, cho phép người dùng kiểm tra một nội dung bất kỳ như hình ảnh, âm thanh, video hoặc văn bản có được tạo ra bởi công cụ AI của Google hay không. Điểm đặc biệt của SynthID Detector là khả năng phát hiện các watermark ẩn được nhúng trong nội dung. Khi người dùng tải lên một tập tin, công cụ sẽ quét và phát hiện các dấu hiệu không thể nhìn thấy bằng mắt thường nhưng được nhúng bởi các hệ thống như Gemini, Imagen, Lyria hoặc Veo.

Nếu công cụ phát hiện watermark SynthID, nó sẽ đánh dấu rõ phần nội dung bị ảnh hưởng. Với hình ảnh, đó có thể là một vùng cụ thể. Với âm thanh và video, hệ thống sẽ xác định đoạn thời gian chứa watermark. Đối với văn bản, công cụ có thể chỉ ra từng dòng nghi vấn có thể được tạo bởi AI. Điều này mở ra khả năng kiểm tra toàn diện trên nhiều định dạng nội dung khác nhau, từ đó tăng độ tin cậy cho các nền tảng số.

Hiện tại, SynthID Detector mới chỉ được cung cấp cho một nhóm người dùng thử nghiệm sớm. Google đang tiến hành thu thập phản hồi để tinh chỉnh công cụ trước khi mở rộng triển khai ra công chúng. Người dùng quan tâm có thể đăng ký vào danh sách chờ để tiếp cận công cụ trong các giai đoạn tiếp theo.

Động thái này cho thấy Google đang thận trọng nhưng quyết tâm trong việc phát triển các công cụ bảo vệ tính xác thực của nội dung số. Thay vì đơn thuần cảnh báo người dùng, SynthID Detector cung cấp một lớp xác minh kỹ thuật số tinh vi hơn, góp phần kiểm soát sự lan truyền của nội dung giả mạo do AI tạo ra.

Không giống các công cụ hiện tại chỉ tập trung vào hình ảnh, SynthID Detector mở rộng phạm vi xác minh đến cả văn bản, âm thanh và video. Điều này biến nó trở thành một trong những giải pháp toàn diện đầu tiên nhằm đối phó với thách thức từ nội dung tổng hợp bởi AI. Trong bối cảnh AI ngày càng dễ dàng tạo ra nội dung khó phân biệt với con người, việc xác định nguồn gốc trở nên cấp thiết để chống lại thông tin sai lệch và bảo vệ tính xác thực trên môi trường trực tuyến.

Việc Google đầu tư mạnh vào SynthID không chỉ thể hiện trách nhiệm công nghệ mà còn là lời tuyên bố về tầm nhìn dài hạn trong việc đảm bảo sự minh bạch và an toàn cho thế giới số. Khi công cụ này được triển khai rộng rãi hơn, nó có thể trở thành một phần quan trọng trong hệ sinh thái công nghệ AI đáng tin cậy của Google, góp phần định hình chuẩn mực mới cho tương lai nội dung kỹ thuật số.

Nguồn: The Verge