Hà Nội 31oC
Thứ bảy, 03/06/2023

Câu hỏi đánh lừa mọi AI

22/05/2023 1:00 PM (GMT+7)

Nếu muốn AI trả lời sai, người dùng chỉ cần đặt câu hỏi nhiều mệnh đề ở thể phủ định.


Câu hỏi đánh lừa mọi AI - Ảnh 1.

Câu hỏi nhiều mệnh đề phủ định có thể đánh lừa các chatbot AI mạnh nhất hiện nay. Ảnh: EandT.

Cách đây gần 5 năm, Google phát hành một chatbot có tên là BERT. Đây là mô hình ngôn ngữ lớn (LLM) đầu tiên của Google được đào tạo bằng một khối lượng lớn dữ liệu trực tuyến, và có vẻ như BERT có thể giao tiếp bằng văn bản giống như con người.

Kể từ đó, các LLM liên tục được cải thiện về quy mô và khả năng. Tuy nhiên, chúng vẫn thường xuyên mắc lỗi khi xử lý những câu phức với những từ phủ định như “không”, trong khi những câu này dễ hiểu đối với con người.


Điểm yếu của LLM

LLM là các thuật toán thống kê đánh giá mức độ liên quan của các đối tượng. Với các chatbot AI, đối tượng là các từ. Ví dụ, qua quá trình đào tạo chatbot sẽ đánh giá “chuột” liên quan nhiều hơn đến “loài gặm nhấm” hơn là “bánh pizza”. LLM dựa trên mức độ liên quan này để dự đoán từ tiếp theo trong một khối văn bản. Tập dữ liệu được sử dụng để đào tạo càng lớn, khả năng dự đoán càng tốt.

“Nhưng vấn đề là dự đoán không tương đương với hiểu", Allyson Ettinger, nhà ngôn ngữ học máy tính tại Đại học Chicago, cho biết.

Vào năm 2019, Ettinger đã cho BERT thử làm các bài kiểm tra khả năng ngôn ngữ của con người. Với các câu phủ định, BERT liên tục gặp khó khăn. Ví dụ, với câu "Một con chim cổ đỏ không phải là ...", BERT đã dự đoán từ còn thiếu là "chim cổ đỏ" và “chim".

Đây là một lỗi sai ngớ ngẩn với con người, nhưng lại rất hợp lý với LLM. “Trong nhiều bối cảnh, 'chim cổ đỏ' và 'chim' sẽ mang tính dự đoán lẫn nhau vì các từ này thường xuất hiện cùng nhau", Ettinger giải thích. Đây là điều chatbot đã học được và điền vào câu, trong khi con người có thể thấy sự mâu thuẫn trong câu phủ định.


Câu hỏi đánh lừa mọi AI

Đến năm 2023, ChatGPT của OpenAI và Bard của Google đã được cải thiện đủ để dự đoán những mệnh đề phủ định đơn giản như trên. Nhưng chỉ cần làm cho câu phủ định phức tạp hơn, chatbot sẽ lại mắc lỗi.


Câu hỏi đánh lừa mọi AI - Ảnh 2.

ChatGPT sẽ trả lời sai khi được hỏi "Con vật nào không có chân hay đẻ trứng, nhưng có cánh". Ảnh: Phương Lâm.

Với câu hỏi "Con vật nào không có chân hay đẻ trứng, nhưng có cánh", Bard phản hồi "Không có con vật nào" hoặc không thể đưa ra câu trả lời. ChatGPT trả lời chính xác là dơi, nhưng đưa ra thêm đáp án là sóc bay và vượn cáo bay, trong khi 2 loài vật này không đáp ứng tiêu chí có cánh.

"Ngay cả khi mô hình lớn hơn, chúng vẫn thường xuyên mắc lỗi với các câu phủ định", Ettinger nói.

Các từ phủ định như "không", "không bao giờ" được coi là các từ dừng, cùng nhóm với "a", "the" trong tiếng Anh hay "cái", "này" trong tiếng Việt. Các từ dừng có ý nghĩa chức năng, không có ý nghĩa mô tả hay tự tạo ra nội dung, và thường bị các bộ lọc tìm kiếm và xử lý ngôn ngữ bỏ qua.

Mô hình cũng không thể học được ý nghĩa của các từ dừng, vì chúng hoạt động dựa trên thống kê và mức độ liên quan giữa các từ chứ không dựa trên việc hiểu ý nghĩa như con người. LLM có thể nói về "hoa hồng" vì từ này thường xuất hiện cùng "hoa", "đỏ" và "mùi". Các từ phủ định như "không" không thể được học theo cách này.

Nora Kassner, nhà nghiên cứu học máy tại Đại học Munich (Đức), cho biết dữ liệu đào tạo cũng là nguyên nhân. Câu khẳng định là dạng xuất hiện chủ yếu trong các tập dữ liệu, vì đây là cách mọi người thường giao tiếp. “Các mô hình khó tạo ra các câu phủ định chính xác, vì chúng chưa thấy nhiều câu như vậy", Kassner nói.


Theo Zing

Bình luận của bạn
(*) Nội dung bắt buộc cần có
Bình luận
Xem thêm bình luận

Nhập thông tin của bạn

Những chiếc ô tô điện nhỏ nhất phù hợp chạy trong thành phố

Những chiếc ô tô điện nhỏ nhất phù hợp chạy trong thành phố

Lái xe điện (EV) trong thành phố là điều hợp lý và những chiếc EV nhỏ này có thể dễ dàng chinh phục các tuyến đường trong thành phố.

Bí quyết nâng cao tuổi thọ xe máy

Bí quyết nâng cao tuổi thọ xe máy

Để xe máy được hoạt động ở trạng thái tốt nhất và đảm bảo an toàn khi lưu thông, ngoài từ bỏ thói quen xấu dưới đây người dùng nên thường xuyên bảo dưỡng, chăm sóc đặc biệt cho xe.

Các mẫu xe tiền tỷ của cầu thủ Việt

Các mẫu xe tiền tỷ của cầu thủ Việt

Mức lương cao cùng khoản lót tay hậu hĩnh giúp nhiều cầu thủ Việt có điều kiện sở hữu ôtô hạng sang tiền tỷ.

Mẫu xe ga một lít xăng đi gần 45km

Mẫu xe ga một lít xăng đi gần 45km

Mẫu xe nằm trong phân khúc tay ga đô thị với dung tích 125cc. Yamaha Cygnus Gryphus 2023 được xem là đối thủ tiềm năng của SH Mode, Air Blade.

BMW X5 đại hạ giá, mức giảm gần bằng một chiếc Toyota Vios mới

BMW X5 đại hạ giá, mức giảm gần bằng một chiếc Toyota Vios mới

Nhân viên tư vấn bán hàng tại một đại lý ở khu vực Hà Nội hiện báo giá chỉ 3,4xx tỷ đồng cho BMW X5 bản xDrive40i M Sport và 3,6xx tỷ đồng cho bản xDrive40i xLine.

Apple khai phá thị trường Việt Nam: Dấu chấm hết cho những chiếc iphone vênh giá hàng chục triệu đồng

Apple khai phá thị trường Việt Nam: Dấu chấm hết cho những chiếc iphone vênh giá hàng chục triệu đồng

Hãng tin CNN nhận định, việc Apple mở cửa hàng trực tuyến tại Việt Nam là một dấu hiệu khẳng định tầm quan trọng ngày càng lớn tại thị trường mới nổi này.