Công ty cho biết họ đã phát hiện ra rằng công cụ này có thể vượt trội hơn con người trong một số nhiệm vụ tấn công mạng và an ninh mạng, điều này đã dẫn đến các cuộc thảo luận giữa các cơ quan quản lý, nhà lập pháp và các tổ chức tài chính về những nguy hiểm mà nó có thể gây ra cho các dịch vụ kỹ thuật số.

Một số "ông lớn" công nghệ đã được cấp quyền truy cập vào Mythos thông qua một sáng kiến có tên là Project Glasswing, được thiết kế để tăng cường khả năng chống chịu trước chính Mythos.

Tuy nhiên, cũng có ý kiến cho rằng Anthropic có lợi ích khi khẳng định công cụ của mình sở hữu những năng lực chưa từng có, vì vậy - như thường thấy với AI - việc phân biệt giữa tuyên bố có cơ sở và sự cường điệu là không hề dễ dàng.

Claude Mythos là ai?

Mythos là một trong những mô hình mới nhất của Anthropic, được phát triển như một phần của hệ thống AI rộng lớn hơn có tên là Claude. Nó bao gồm trợ lý AI và các mô hình thuộc cùng dòng sản phẩm của công ty, cạnh tranh với ChatGPT của OpenAI và Gemini của Google.

Anthropic đã tiết lộ thông tin này vào đầu tháng Tư với tên gọi "Mythos Preview".

Các nhà nghiên cứu chuyên kiểm tra cách các mô hình AI xử lý các yêu cầu hoặc nhiệm vụ cụ thể, được gọi là "đội đỏ", cho biết trong một báo cáo rằng Mythos "có khả năng đáng kinh ngạc trong các nhiệm vụ an ninh máy tính".

Họ phát hiện ra rằng công cụ này có thể định vị các lỗi tiềm ẩn trong mã nguồn có tuổi đời hàng chục năm và dễ dàng khai thác chúng.

Vì vậy, thay vì cung cấp rộng rãi cho người dùng Claude, Anthropic đã cấp quyền truy cập cho 12 công ty công nghệ thông qua Dự án Glasswing, mà họ mô tả là "một nỗ lực nhằm bảo vệ phần mềm quan trọng nhất thế giới".

Trong số đó có người khổng lồ điện toán đám mây Amazon Web Services, các nhà sản xuất thiết bị Apple, Microsoft và Google, cùng các nhà sản xuất chip Nvidia và Broadcom.

Crowdstrike, công ty từng gây ra sự cố mất điện toàn cầu nghiêm trọng vào tháng 7 năm 2024 do bản cập nhật phần mềm lỗi, cũng là một trong số các đối tác của dự án. Anthropic cho biết họ cũng đã cấp quyền truy cập vào Mythos cho hơn 40 tổ chức chịu trách nhiệm về phần mềm quan trọng.

Trong một video được phát hành cùng với sự ra mắt của Dự án Glasswing, ông Dario Amodei, giám đốc của Anthropic, cho biết công ty đã đề nghị hợp tác với các quan chức chính phủ Hoa Kỳ để "giúp phòng chống rủi ro từ các mô hình này".

Tại sao lại có những lo ngại?

Anthropic cho biết trong các thử nghiệm, họ nhận thấy mô hình này rất giỏi trong các nhiệm vụ an ninh mạng và tấn công mạng, vượt trội hơn cả con người.

"Mythos Preview đã phát hiện ra hàng nghìn lỗ hổng bảo mật nghiêm trọng, bao gồm cả một số lỗ hổng trong mọi hệ điều hành và trình duyệt web chính" - Anthropic tuyên bố hôm 7/4 .

"Với tốc độ phát triển của trí tuệ nhân tạo, sẽ không lâu nữa những khả năng như vậy sẽ lan rộng, có thể vượt ra ngoài phạm vi những người cam kết triển khai chúng một cách an toàn".

Công ty này cho biết họ có thể xác định - mà không cần nhiều sự giám sát - các lỗi nghiêm trọng cần được khắc phục ngay lập tức trong các hệ thống cũ, bao gồm cả một lỗ hổng đã tồn tại trong hệ thống suốt 27 năm, và đề xuất các cách khai thác chúng.

Nỗi lo ngại của công chúng về khả năng của trí tuệ nhân tạo đã dẫn đến một cuộc biểu tình ở San Francisco vào tháng Ba.

Một số bộ trưởng tài chính, thống đốc ngân hàng trung ương và các nhà tài chính đã bày tỏ mối lo ngại nghiêm trọng về mô hình này, lo sợ rằng nó có thể làm suy yếu sự an toàn của hệ thống tài chính.

Bộ trưởng Tài chính Canada François-Philippe Champagne nói với BBC rằng dự luật Mythos đã được thảo luận tại cuộc họp của Quỹ Tiền tệ Quốc tế (IMF) ở Washington DC tuần này.

"Chắc chắn đây là vấn đề đủ nghiêm trọng để cần sự quan tâm của tất cả các bộ trưởng tài chính," ông nói, mô tả công nghệ này là một "điều chưa biết".

Thống đốc Ngân hàng Anh, Andrew Bailey, nói với BBC rằng "chúng ta hiện phải xem xét rất kỹ xem sự phát triển mới nhất về trí tuệ nhân tạo này có thể ảnh hưởng như thế nào đến nguy cơ tội phạm mạng".

Trong khi đó, EU cho biết họ cũng đang thảo luận với Anthropic về những lo ngại liên quan đến Mythos.

Các chuyên gia an ninh mạng đã nói gì về vấn đề này?

Ciaran Martin, cựu giám đốc Trung tâm An ninh mạng Quốc gia Anh, đã nói với BBC hồi đầu tuần này rằng tuyên bố Mythos có thể phát hiện ra các lỗ hổng nghiêm trọng nhanh hơn nhiều so với các mô hình AI khác đã "thực sự gây chấn động dư luận".

"Điều thứ hai là ngay cả với những điểm yếu hiện có mà chúng ta đã biết, nhưng các tổ chức có thể chưa vá lỗi, có thể chưa có biện pháp phòng vệ tốt, thì đó chỉ đơn giản là một hacker giỏi," ông nói.

Nhiều nhà phân tích và chuyên gia an ninh mạng độc lập vẫn chưa thể tự mình kiểm tra và một số người vẫn còn hoài nghi về hiệu năng của Mythos.

Viện An toàn Trí tuệ Nhân tạo của Anh mới đây đã kết luận rằng, mặc dù là một mô hình rất mạnh mẽ, mối đe dọa lớn nhất của nó sẽ đến từ các hệ thống dễ bị tổn thương và có khả năng phòng thủ yếu.

"Chúng tôi không thể khẳng định chắc chắn liệu Mythos Preview có khả năng tấn công các hệ thống được bảo vệ tốt hay không" - các nhà nghiên cứu cho biết .

Vì vậy, về lý thuyết, hy vọng mô hình này sẽ bị ngăn chặn ở những nơi có an ninh mạng tốt.

Chúng ta có nên lo lắng về điều đó không?

Nỗi lo ngại liên quan đến trí tuệ nhân tạo không phải là điều mới mẻ.

Các mô hình và công cụ mới liên tục xuất hiện, và thường đi kèm với những lời hứa hẹn sẽ cách mạng hóa cuộc sống của chúng ta, dù tốt hay xấu.

Việc tận dụng sự kết hợp giữa nỗi sợ hãi và sự hào hứng về trí tuệ nhân tạo (AI) và tác động trong tương lai của nó cũng đã trở thành đặc điểm nổi bật của lĩnh vực này và các chiến lược tiếp thị trong những năm gần đây.

Đối với trường hợp của Mythos, chúng ta vẫn chưa biết đủ thông tin để đánh giá xem những hy vọng hay lo ngại này có chính đáng hay chỉ là sự phản ánh của sự thổi phồng quá mức xung quanh ngành công nghiệp này.

Trong cả hai trường hợp, theo NSCS, điều quan trọng nhất chúng ta có thể làm lúc này là không hoảng loạn mà thay vào đó tập trung vào việc đảm bảo an ninh mạng cơ bản.

Xét cho cùng, hầu hết các hacker không cần đến những công cụ trí tuệ nhân tạo siêu việt để xâm nhập hệ thống khi mà những cuộc tấn công đơn giản hơn thường là đủ.

"Đối với một số người, đây là một sự kiện mang tính tận thế, còn đối với những người khác, nó dường như chỉ là sự thổi phồng quá mức" - Martin nói với BBC.

Nhưng ông nói rằng dù đó là công cụ này hay những công cụ tiếp theo do Anthropic hoặc các đối thủ của họ tạo ra, bên cạnh rủi ro còn có cơ hội để xây dựng một thế giới trực tuyến an toàn hơn.

"Trong trung hạn, có cơ hội sử dụng những công cụ này để khắc phục nhiều lỗ hổng bảo mật tiềm ẩn trên internet" - ông nói.