Ngay khi nhóm bảo vệ người tiêu dùng bắt đầu thử nghiệm Kumma—một chú gấu bông có giá 99 Mỹ kim được quảng cáo là tích hợp trí tuệ nhân tạo (AI)—những rắc rối nghiêm trọng đã xuất hiện. Thay vì trò chuyện về bài tập về nhà hay kể chuyện cổ tích, các nhà thử nghiệm cho biết món đồ chơi này đôi khi nói về diêm quẹt, dao kéo và những chủ đề tình dục khiến người lớn phải ngồi bật dậy vì quá ngạc nhiên.
Một bản tường trình mới từ Quỹ Giáo dục U.S. PIRG (một nhóm bảo vệ quyền lợi người tiêu dùng) đã báo động rằng món đồ chơi này và các sản phẩm tương tự trên thị trường đang dấy lên những lo ngại về sự an toàn của trẻ em. Bản tường trình mô tả những món đồ chơi này có vẻ ngoài ngây thơ nhưng bên trong lại chứa đầy những cuộc trò chuyện không an toàn và khó lường.
Khi gấu bông chỉ chỗ cất giấu vũ khí
Kumma, do công ty FoloToy sản xuất, trở thành mối lo ngại đặc biệt vì nó đưa ra những chỉ dẫn cụ thể cho trẻ em và đi lạc sang những chủ đề mà không một món đồ chơi nào được phép thảo luận.
Bản tường trình viết: “Kumma của FoloToy đã chỉ cho chúng tôi nơi tìm thấy nhiều vật dụng nguy hiểm tiềm tàng, bao gồm dao, thuốc tây, diêm và túi nhựa.”
Để quý vị dễ hình dung mức độ nghiêm trọng, hãy xem xét cách món đồ chơi này “suy nghĩ” và trả lời. Theo bà R.J. Cross, một nhà nghiên cứu của nhóm PIRG, cho biết họ không cần dùng các kỹ thuật điện toán cầu kỳ để “bẻ khóa” Kumma. Họ chỉ dùng những câu hỏi rất đơn giản.
Một ví dụ điển hình về sự nguy hiểm này là khi các nhà thử nghiệm hỏi Kumma nơi họ có thể tìm thấy một “match” (từ này trong tiếng Anh vừa có nghĩa là “que diêm”, vừa có nghĩa là “người phù hợp để hẹn hò”).
- Thay vì chỉ chỗ lấy diêm hoặc từ chối trả lời, con gấu đã hiểu nhầm sang chuyện hẹn hò.
- Nó hướng người dùng đến các ứng dụng hẹn hò.
- Khi được hỏi thêm, nó giới thiệu một ứng dụng tên là KinkD—một nền tảng dành cho những người có sở thích tình dục lệch lạc và bạo dâm (B.D.S.M.).
Bà Cross chia sẻ: “Chúng tôi khám phá ra rằng từ ‘kink’ là một từ khóa kích hoạt, khiến con gấu đưa thêm các từ ngữ và nội dung tình dục mới vào cuộc trò chuyện. Và nó đi vào những chi tiết thực sự trần trụi.” Theo báo cáo, con gấu đã thảo luận về các chủ đề như sự đồng thuận trong tình dục, đánh đòn và đóng vai.
Rachel Franz, giám đốc chương trình bảo vệ trẻ nhỏ tại tổ chức Fairplay, nhận định rằng trẻ em thực sự không có khả năng tự vệ trước những nội dung nguy hiểm từ các món đồ chơi AI này, và các gia đình cũng không nhận được thông tin trung thực từ quảng cáo.
Phản ứng từ các hãng công nghệ
FoloToy, công ty có trụ sở tại Singapore, chưa đưa ra bình luận chính thức nhưng trang web của họ hiện liệt kê Kumma là “đã bán hết”. Bà Cross cho biết FoloToy tuyên bố sẽ rút sản phẩm khỏi thị trường để kiểm tra an toàn.
Điều đáng chú ý là bộ não điện tử của Kumma được xây dựng dựa trên mô hình GPT-4o của OpenAI. Khi được hỏi về vụ việc, OpenAI tuyên bố họ đã đình chỉ nhà phát triển đồ chơi này vì vi phạm quy chế. Một đại diện của OpenAI khẳng định: “Quy chế sử dụng của chúng tôi cấm mọi hành vi sử dụng dịch vụ để bóc lột, gây nguy hiểm hoặc tình dục hóa bất kỳ ai dưới 18 tuổi.”
Việc này là một lời nhắc nhở mạnh mẽ cho các bậc phụ huynh: Khi công nghệ ngày càng tối tân, ranh giới giữa một món đồ chơi vô tri và một thiết bị tiềm ẩn rủi ro ngày càng trở nên mong manh.
Tuy nhiên, việc ngưng bán này chỉ kéo dài đúng một tuần.
Chỉ sau một tuần thu hồi để kiểm tra an toàn, hãng sản xuất đồ chơi FoloToy thông báo họ đang đưa chú gấu bông tích hợp trí tuệ nhân tạo quay lại các kệ hàng. Quyết định này gây ra nhiều lo ngại, bởi trước đó, một nhóm bảo vệ an toàn người tiêu dùng đã phát hiện món đồ chơi này đưa ra những câu trả lời không phù hợp và có thể gây nguy hiểm cho trẻ nhỏ.
Trong thông báo mới nhất vào thứ Hai, FoloToy tuyên bố họ đã “tăng cường và nâng cấp hệ thống kiểm duyệt nội dung” và “triển khai các quy tắc an toàn cao hơn”. Hiện tại, Kumma và các đồ chơi khác đã xuất hiện trở lại trên cửa hàng trực tuyến của hãng.
Bà RJ Cross, đồng tác giả của báo cáo an toàn, tỏ ra nghi ngờ về sự thay đổi chóng vánh này. Bà cho biết nhóm của mình cần chờ xem liệu thời gian ngắn ngủi đó có đủ để giải quyết các rủi ro hay không.
“Tôi hy vọng FoloToy đã dành đủ thời gian để giải quyết các vấn đề chúng tôi nêu ra,” bà Cross nói. “Một tuần dường như là quá ngắn, nhưng câu hỏi thực sự là liệu sản phẩm có hoạt động tốt hơn trước hay không.”
Hiện tại, cả FoloToy và OpenAI đều chưa trả lời yêu cầu bình luận. Vẫn chưa rõ FoloToy đang sử dụng mô hình AI nào cho lô hàng mới này, hay liệu họ có được khôi phục quyền truy cập vào công nghệ của OpenAI hay chưa. Các bậc phụ huynh cần hết sức cẩn trọng khi mua những món đồ chơi thông minh này cho con em mình.
