Ảo giác AI là gì và tại sao hiện tượng này lại khiến các hãng công nghệ lớn đau đầu?

Ảo giác AI không phải là hiện tượng AI thực sự "nhìn thấy" những thứ không tồn tại như con người bị ảo giác, mà là khả năng đáng sợ của các hệ thống AI khi tạo ra những thông tin hoàn toàn sai lệch nhưng lại trình bày chúng một cách cực kỳ thuyết phục và logic.

Điều đáng lo ngại nhất không phải là AI "nói sai", mà là cách chúng "nói sai một cách đầy tự tin". Không giống như con người khi không chắc chắn thường thể hiện sự do dự, AI lại trình bày những thông tin bịa đặt với giọng điệu khẳng định, khiến người dùng dễ dàng tin tưởng mà không hề nghi ngờ. Chính đặc điểm này đã khiến ảo giác AI trở thành một trong những thách thức lớn nhất mà ngành công nghệ đang phải đối mặt.

Hiện tượng ảo giác AI là gì?

Khi nhắc đến câu hỏi "ảo giác AI là gì", các chuyên gia trong lĩnh vực trí tuệ nhân tạo định nghĩa đây là hiện tượng các mô hình AI, đặc biệt là các mô hình ngôn ngữ lớn (LLM), tạo sinh ra những thông tin không chính xác, bịa đặt hoặc không có cơ sở thực tế, nhưng lại trình bày chúng dưới hình thức có vẻ hợp lý, mạch lạc và đáng tin cậy.

Theo nghiên cứu của Khmaïess Al Jannadi, ảo giác AI được phân chia thành hai loại chính: ảo giác nội tại và ảo giác ngoại tại. Ảo giác nội tại xuất phát từ chính các hạn chế cấu trúc bên trong của mô hình AI, trong khi ảo giác ngoại tại thường bắt nguồn từ các yếu tố bên ngoài như dữ liệu đầu vào thiếu sót hoặc các truy vấn phức tạp vượt quá khả năng xử lý của hệ thống.

Điều đặc biệt nguy hiểm của hiện tượng này là bản thân mô hình AI không có khả năng tự nhận diện hoặc đánh giá tính đúng sai của những thông tin mà nó tạo ra. Chúng vẫn sẽ trình bày những thông tin sai lệch với phong cách diễn đạt tự tin, logic như thể đó là chân lý đã được kiểm chứng, khiến người dùng dễ dàng "sập bẫy" nếu không có sự thẩm định cẩn trọng.

Các dạng biểu hiện phổ biến của ảo giác AI

Khi tìm hiểu sâu hơn về ảo giác AI là gì, chúng ta có thể nhận thấy hiện tượng này thể hiện qua nhiều hình thức khác nhau, mỗi dạng đều mang theo những rủi ro riêng biệt. Dạng biểu hiện phổ biến nhất là việc AI tự tin tạo ra những tuyên bố nghe có vẻ thuyết phục nhưng lại hoàn toàn không chính xác. Điều này thường xảy ra khi mô hình hiểu sai hoặc diễn giải sai các mối quan hệ giữa các khái niệm trong cơ sở dữ liệu nội tại của nó.

Một biểu hiện đáng lo ngại khác là việc AI bịa đặt các chi tiết hoặc thực thể không tồn tại. Chẳng hạn, các mô hình AI có thể sáng tạo ra các vụ án pháp lý hoàn toàn không có thật nhưng lại trình bày chúng với đầy đủ quy chuẩn đặt tên và thuộc tính như thể chúng thực sự tồn tại. Hiện tượng này đã được minh chứng rõ ràng trong vụ việc một luật sư New York sử dụng ChatGPT để viết bản tóm tắt pháp lý, kết quả là AI đã bịa ra một vụ án hoàn toàn không tồn tại, gây ra hậu quả nghiêm trọng trong phòng xử án.

Ngoài ra, AI còn thường xuyên đưa ra những giải thích sai sáng tạo bằng cách kết hợp các khái niệm không liên quan nhằm xây dựng nên những câu chuyện hoặc lời giải thích có vẻ logic nhưng không đúng bản chất. Ví dụ, khi được yêu cầu mô tả một quy trình kỹ thuật, mô hình có thể trộn lẫn các khái niệm kỹ thuật không tương thích với nhau, từ đó tạo ra một mô tả có vẻ hợp lý về hình thức nhưng thực tế lại sai lệch về nội dung chuyên môn.

Nguyên nhân sâu xa khiến AI bị "ảo giác" một cách đáng lo ngại

Vấn đề căn cốt từ dữ liệu huấn luyện

Để hiểu rõ ảo giác AI là gì và tại sao nó lại xảy ra, chúng ta cần nhìn vào nguồn gốc của vấn đề: dữ liệu huấn luyện. Các chuyên gia nhận định rằng thiếu sót trong dữ liệu đầu vào là nguyên nhân lớn khiến AI sinh ảo giác. Khi các bộ dữ liệu không đầy đủ, thiếu hụt thông tin hoặc mất cân bằng, mô hình sẽ gặp phải khoảng cách thông tin, điều này khiến nó không thể tổng hợp và xử lý dữ liệu một cách chính xác.

Nguyên nhân sâu xa khiến AI bị "ảo giác" một cách đáng lo ngại

Vấn đề trở nên nghiêm trọng hơn khi các mô hình AI được huấn luyện trên một lượng lớn dữ liệu từ internet, nơi chứa cả thông tin chính xác, thông tin lỗi thời, thành kiến và cả những thông tin hoàn toàn sai lệch. Khi dữ liệu đầu vào không chính xác, thì cũng không tránh khỏi thông tin đầu ra sai lệch. AI có thể vô tình tái tạo lại những thông tin sai mà nó đã học được từ các nguồn không đáng tin cậy trên mạng.

Điều đáng lo ngại là các hệ thống AI cũng chủ động đưa ra những ước đoán vô lý dựa trên các dữ liệu đã học và truy vấn của người dùng. Khi nhận được yêu cầu nằm ngoài phạm vi kiến thức hoặc dữ liệu không đủ, thay vì trả lời "Tôi không biết", AI sẽ cố gắng "điền vào chỗ trống" bằng cách tự suy luận và tạo ra thông tin mới. Đây chính là lúc ảo giác dễ xảy ra nhất.

Bản chất xác suất thống kê của mô hình AI

Một khía cạnh quan trọng khác khi tìm hiểu ảo giác AI là gì chính là bản chất hoạt động của các mô hình ngôn ngữ lớn. Tiến sĩ Đặng Trần Thái, Trưởng phòng Xử lý ngôn ngữ tự nhiên thuộc công ty VinBigdata, nhận định rằng các nhà phát triển hiện nay chỉ có thể cố gắng để giảm thiểu tính ảo giác của các mô hình ngôn ngữ lớn chứ không thể triệt tiêu hoàn toàn được do bản chất cố hữu của mô hình xác suất thống kê.

Các mô hình ngôn ngữ lớn như ChatGPT không phải là một cơ sở dữ liệu để tra cứu sự thật mà là những cỗ máy dự đoán từ ngữ dựa trên xác suất. Chúng tính toán xem từ nào có khả năng xuất hiện tiếp theo để tạo ra một câu văn nghe có vẻ tự nhiên, chứ không phải để đảm bảo tính chính xác của thông tin. Emily Bender, Giám đốc Phòng thí nghiệm Ngôn ngữ học tính toán - Đại học Washington giải thích rằng với mô hình ngôn ngữ, từ "cat" chỉ là chuỗi ký tự nên nó có thể lấy thông tin những từ ngữ, chuỗi ký tự xuất hiện cùng, không phải dựa trên hiểu biết thực sự về ý nghĩa.

Điều này phản ánh đặc điểm xác suất trong cơ chế hoạt động của mô hình: nó ưu tiên tối ưu hóa sự lưu loát của ngôn ngữ thay vì đảm bảo tính chính xác về mặt thông tin. Chính vì vậy, AI có thể tạo ra những câu chuyện có vẻ liền mạch, trôi chảy về mặt ngôn ngữ nhưng lại hoàn toàn sai lệch về mặt thực tiễn.

Xem thêm: Originality.ai có đáng dùng không? Review chi tiết từ A-Z

Hiện tượng overfitting và những thiếu sót trong kiến trúc mô hình

Khi phân tích sâu hơn về ảo giác AI là gì, chúng ta không thể bỏ qua hiện tượng overfitting - một vấn đề kỹ thuật nghiêm trọng trong machine learning. Khi một mô hình AI học quá kỹ từ một tập dữ liệu huấn luyện cụ thể, nó có thể phát sinh hiện tượng quá khớp, nghĩa là mô hình đã "học thuộc lòng" các chi tiết cụ thể trong dữ liệu mà không thể tổng quát hóa tốt cho các tình huống mới.

Mô hình quá khớp dẫn đến việc tạo ra các kết quả không chính xác, nhưng do mô hình đã "học thuộc" quá tốt, nó vẫn thể hiện những thông tin sai lầm một cách tự tin. Điều này khiến người sử dụng dễ dàng bị thuyết phục bởi những thông tin mà AI đưa ra, mặc dù chúng là sai lệch.

Bên cạnh đó, các vấn đề trong thiết kế kiến trúc mô hình cũng góp phần gây ra ảo giác AI. Thiết kế kiến trúc mô hình chưa tối ưu khiến hệ thống khó đạt được sự hiểu biết sâu sắc về ngữ cảnh và logic. Phương pháp đào tạo thiếu sót cũng dẫn đến sự khái quát hóa quá mức hoặc học lệch từ các mẫu dữ liệu không đại diện. Hơn nữa, biểu diễn thông tin không đầy đủ hoặc xung đột trong mạng nơ-ron khiến mô hình không thể điều hòa các mâu thuẫn ẩn trong dữ liệu huấn luyện.

Xu hướng điền vào chỗ trống của AI

Một yếu tố khác cần xem xét là xu hướng "điền vào chỗ trống" của AI. Yann LeCun, Giám đốc AI tại Meta, giải thích rằng ảo giác AI xảy ra khi mô hình ngôn ngữ "điền vào chỗ trống" bằng thông tin không chính xác hoặc không liên quan, thay vì thừa nhận rằng nó không biết câu trả lời. Đây chính là đặc điểm thiết kế cơ bản của các mô hình hiện tại - chúng được lập trình để luôn đưa ra phản hồi thay vì thừa nhận sự không biết.

Tạm kết

Hiện tượng ảo giác AI đang đặt ra những thách thức lớn không chỉ cho các nhà phát triển công nghệ mà còn cho toàn xã hội. Điều quan trọng là người dùng cần có nhận thức đúng đắn về khả năng và giới hạn của AI, luôn duy trì thái độ thận trọng khi tiếp nhận thông tin từ các hệ thống AI và có cơ chế kiểm chứng độc lập khi áp dụng AI vào các công việc đòi hỏi độ chính xác cao. Chỉ khi nào chúng ta hiểu rõ ảo giác AI là gì và cách thức hoạt động của nó, chúng ta mới có thể tận dụng được những ưu điểm tuyệt vời của trí tuệ nhân tạo mà vẫn tránh được những rủi ro tiềm ẩn.

Để luôn cập nhật những thông tin mới nhất về công nghệ AI và các xu hướng phát triển, bạn có thể tham khảo các dòng smartphone và laptop hiện đại tại FPT Shop. Những thiết bị này không chỉ giúp bạn trải nghiệm các ứng dụng AI tiên tiến mà còn hỗ trợ hiệu quả trong việc nghiên cứu, học tập và làm việc với các công nghệ mới.

Laptop AI

Xem thêm: