Trong những ngày sau khi con trai 16 tuổi qua đời vì tự tử, ông bà Matt và Maria Raine cho biết họ đã lục tìm trong điện thoại của con, tuyệt vọng tìm kiếm manh mối về điều gì có thể đã dẫn đến bi kịch.

Họ nghĩ sẽ tìm thấy các đoạn trò chuyện trên Snapchat, lịch sử tìm kiếm trên internet hoặc một giáo phái kỳ lạ nào đó, nhưng họ chỉ tìm ra câu trả lời khi mở ChatGPT.

Cha mẹ của Adam nói rằng trong những tuần cuối đời, cậu đã sử dụng chatbot trí tuệ nhân tạo này như một sự thay thế cho tình bạn, tâm sự về nỗi lo âu và khó khăn trong việc trò chuyện với gia đình. Nhật ký trò chuyện cho thấy bot đã đi từ việc giúp Adam làm bài tập đến trở thành “huấn luyện viên tự tử” của cậu.

“Nếu không có ChatGPT thì nó vẫn còn ở đây. Tôi tin 100% như vậy” - Matt Raine nói.

Trong đơn kiện mới nộp hôm thứ Ba 26/8, gia đình Raine cáo buộc rằng “ChatGPT đã chủ động giúp Adam tìm hiểu các phương thức tự tử”. Đơn kiện dài khoảng 40 trang nêu tên OpenAI - công ty đứng sau ChatGPT, cùng CEO Sam Altman là bị đơn. Đây là lần đầu tiên có bậc cha mẹ trực tiếp cáo buộc công ty về một vụ tự sát.

“Dù đã nhận thấy nỗ lực tự tử của Adam và việc cậu nói rằng ‘một ngày nào đó sẽ làm lại,’ ChatGPT vẫn không kết thúc phiên trò chuyện hay khởi động bất kỳ giao thức khẩn cấp nào” - đơn kiện nộp tại Tòa Thượng thẩm California ở San Francisco nêu rõ.

Trong vụ kiện, gia đình Raine cáo buộc OpenAI về hành vi gây chết người sai trái, thiết kế sản phẩm có khuyết tật và không cảnh báo rủi ro liên quan đến ChatGPT. Họ yêu cầu “cả khoản bồi thường cho cái chết của con trai và các biện pháp ngăn chặn để điều tương tự không bao giờ xảy ra nữa”.

“Khi tôi vào được tài khoản của nó, tôi thấy đây là một công cụ mạnh mẽ và đáng sợ hơn nhiều so với những gì tôi từng biết, và con trai tôi đã sử dụng nó theo những cách mà tôi không ngờ tới” - Matt Raine nói. “Tôi nghĩ hầu hết cha mẹ đều không biết công cụ này có khả năng gì”.

Việc ChatGPT được công khai ra mắt vào cuối năm 2022 đã châm ngòi cho làn sóng bùng nổ AI tạo sinh, dẫn đến việc các chatbot AI được ứng dụng nhanh chóng và rộng rãi chỉ trong vài năm - từ trường học, nơi làm việc đến nhiều ngành công nghiệp, bao gồm cả y tế. Các công ty công nghệ đang chạy đua phát triển AI với tốc độ chóng mặt, làm dấy lên lo ngại rằng các biện pháp an toàn không theo kịp.

Khi ngày càng nhiều người tìm đến chatbot AI để tìm sự hỗ trợ tinh thần và lời khuyên cuộc sống, những sự cố gần đây đã làm nổi bật khả năng chúng củng cố ảo tưởng và tạo cảm giác gắn bó, quan tâm giả tạo. Cái chết của Adam càng làm dấy lên câu hỏi về mức độ chatbot có thể gây hại trong đời thực.

Sau khi đơn kiện được nộp, người phát ngôn của OpenAI cho biết công ty “rất đau buồn trước sự ra đi của Adam, và chia buồn sâu sắc với gia đình”.

“ChatGPT có các biện pháp bảo vệ như hướng người dùng đến đường dây nóng hỗ trợ khủng hoảng và các nguồn lực ngoài đời thực” - phát ngôn viên nói. “Tuy nhiên, những biện pháp này hoạt động tốt nhất trong các trao đổi ngắn, phổ biến; chúng tôi nhận thấy trong các cuộc trò chuyện dài, hiệu quả có thể giảm đi khi một số yếu tố huấn luyện an toàn bị suy yếu".

OpenAI cho biết họ sẽ liên tục cải thiện các biện pháp an toàn. "Với sự tư vấn của chuyên gia và trách nhiệm đối với người dùng, chúng tôi đang làm việc để ChatGPT hỗ trợ tốt hơn trong những khoảnh khắc khủng hoảng, bằng cách giúp người dùng dễ dàng tiếp cận dịch vụ khẩn cấp, kết nối với người thân đáng tin cậy và tăng cường bảo vệ cho thanh thiếu niên”.

Trước đó, người phát ngôn cũng xác nhận tính xác thực của nhật ký trò chuyện của Adam, nhưng cho rằng chúng không phản ánh đầy đủ ngữ cảnh các phản hồi của ChatGPT.

Cùng ngày thứ Ba, công ty cũng đăng tải một bài viết trên blog có tiêu đề “Giúp mọi người khi họ cần nhất”, trong đó nêu rõ “những điều chúng tôi đang làm để cải thiện” khi các biện pháp bảo vệ của ChatGPT “chưa đáp ứng đủ”. Một số hệ thống mà công ty cho biết đang được cải thiện bao gồm: “Tăng cường biện pháp an toàn trong các cuộc trò chuyện dài,” tinh chỉnh cách chặn nội dung, và mở rộng “các can thiệp đến nhiều người trong khủng hoảng hơn”.