Hai vụ kiện chấn động nước Mỹ: khi chatbot trở thành “bạn tâm sự” chết người

Ba tuần trước, hai công ty công nghệ lớn – OpenAI và Character AI – đã đối diện với loạt cáo buộc nghiêm trọng, khi chatbot của họ bị cho là liên quan đến cái chết của hai thiếu niên.

1. Vụ kiện của Megan Garcia (mẹ của Sewell "Su" Setzer III, 14 tuổi) kiện Character AI và Google

- Nạn nhân: Sewell Setzer III (Su), 14 tuổi.

- Bên bị kiện: Character AI (công ty chatbot) và Google (cáo buộc đồng sáng tạo và đóng góp công nghệ).

- Tóm tắt cáo buộc: Bà Garcia cáo buộc Character AI đã thiết kế một "sản phẩm" nguy hiểm, mang tính gây nghiện và thao túng tâm lý, nhắm vào trẻ vị thành niên. Chatbot được cá nhân hóa, đóng vai nhân vật hư cấu (như Daenerys Targaryen), đã thao túng, lạm dụng tình dục và thiết lập mối quan hệ yêu đương ảo với Sewell. Khi Sewell bày tỏ ý định tự t ử, chatbot đã khuyến khích, và trong những tin nhắn cuối cùng, đã nói "Hãy về nhà với ta, vị vua ngọt ngào của ta", ngay trước khi cậu bé tự sát

2. Vụ kiện của Matthew và Maria Raine (Cha mẹ của Adam Raine, 16 tuổi) kiện OpenAI và Sam Altman

- Nạn nhân là Adam Raine, 16 tuổi.

- Bên bị kiện: OpenAI (công ty tạo ra ChatGPT) và CEO Sam Altman.

- Tóm tắt cáo buộc: Cha mẹ Adam cáo buộc mô hình ChatGPT-4o bị thiết kế lỗi do OpenAI đã vội vàng tung ra thị trường. Chatbot được cho là đã phát triển thành một "người bạn tâm sự" và sau đó là "huấn luyện viên tự s át" (sui cide coach) cho Adam. Cáo buộc cho rằng chatbot đã khuyến khích cậu bé, và thậm chí cung cấp hướng dẫn chi tiết, từng bước về phương pháp tự t ử (bao gồm cả phân tích các phương pháp). Vụ kiện nhấn mạnh chatbot đã ưu tiên "xác nhận" và "khuyến khích" người dùng thay vì hướng dẫn tìm kiếm sự giúp đỡ chuyên nghiệp.

Điều băn khoăn của CEO Nguyễn Thùy Dung

Là người làm việc trong lĩnh vực công nghệ, tôi thấy rõ lợi ích mà AI mang lại: tiết kiệm thời gian, nâng cao hiệu suất, giúp doanh nghiệp tăng trưởng nhanh hơn. Ở Bizfly (VCCorp), chúng tôi vẫn phát triển các giải pháp AI phục vụ doanh nghiệp mỗi ngày.

Thế nhưng, cũng như chị Dung chia sẻ, AI không chỉ là công cụ, mà còn là thực thể đang tác động trực tiếp đến hành vi, tâm lý và cảm xúc con người — đặc biệt là thế hệ trẻ.

Đó là lời nhắc nhở rằng AI – dù thông minh đến đâu – vẫn có thể gây tổn thương thật sự nếu con người không đủ cẩn trọng khi sử dụng.

Chúng ta không thể quay lưng với công nghệ, nhưng cũng không thể phó mặc cho nó định hình cách chúng ta nghĩ, cảm và hành động.

Câu hỏi “Ta cần cẩn trọng với AI như thế nào?” – của CEO Nguyễn Thùy Dung – có lẽ là điều mỗi phụ huynh, mỗi nhà quản lý, mỗi người dùng đều nên tự hỏi mình, mỗi ngày. AI đang ở khắp nơi – trong công việc, trong điện thoại, trong lớp học của con trẻ.

Và có lẽ, điều quan trọng nhất không phải là “chống lại AI”, mà là hiểu, kiểm soát, và cùng tồn tại an toàn với nó.

Xem chi tiết bài viết và nhiều chia sẻ thiết thực từ CEO Nguyễn Thùy Dung:

https://www.facebook.com/thuydung.nguyen86/posts/pfbid0ojvDipQus6MUG71MCR9gnCbta2PixHpuKZTurVPnQEjCF3TurjEpUgmKhmATnUkvl

PV