Các bậc cha mẹ có con bị sát hại đã bày tỏ sự ghê tởm trước một xu hướng rùng rợn trên TikTok, trong đó trí tuệ nhân tạo (AI) được sử dụng để tạo ra các video mô tả các nạn nhân là trẻ em bị giết ngoài đời thực.
Video được tạo ra bởi AI thường trông không giống người thật
Các video - được tạo ra mà không có sự đồng ý của người thân - chiếu những phiên bản hoạt hình thô sơ về trẻ em, một số là trẻ sơ sinh, nói về việc các em đã bị giết như thế nào.
Kể từ tháng 4/2023, làn sóng video do máy tính tạo ra này đã tràn ngập trên TikTok, mặc dù công ty này đã tuyên bố cấm phiên bản AI của những người trẻ tuổi ngoài đời thực vào tháng 3.
Tuy nhiên, một cuộc điều tra của BBC đã tìm thấy bằng chứng chỉ ra rằng các nhân viên của TikTok có thể chưa rõ về chính sách của nền tảng này.
Một người kiểm duyệt nội dung của TikTok nói với BBC rằng bốn tháng sau khi lệnh cấm được đưa ra, công ty vẫn chưa thông báo cho người này về việc thay đổi chính sách.
Một số video bằng AI về các nạn nhân đã tồn tại trên TikTok được vài tháng, vài video đã nhận được hàng triệu lượt xem.
Nữ nam tước Kidron nói rằng các video này là một sự 'tấn công tinh thần' đối với người thân các nạn nhân
Những người thân của các nạn nhân ở một số quốc gia đã lên tiếng về phiên bản AI của các em bé đã qua đời xuất hiện trên mạng.
Nữ nam tước Beeban Kidron, một thành viên độc lập của Hạ viện Anh, cho biết các video này có thể đặc biệt gây rúng động tới các gia đình tang quyến vì chúng mô phỏng cảnh những người thân đã mất của họ nói chuyện như thể họ đang kể lại câu chuyện của chính mình.
“Nếu bạn là người có liên quan đến em bé đó, đặc biệt là cha mẹ hoặc thành viên trong gia đình, thì đó là một sự tấn công, một sự xúc phạm về mặt tinh thần”, bà nói.
'Tệ hơn cả cú đấm móc mạnh nhất'
Không lâu sau khi những video này xuất hiện, người thân của một số người đã qua đời bắt đầu lên tiếng. Một trong những người đầu tiên là một phụ nữ người Canada tên là Amélie Lemieux.
Bà Amélie Lemieux kinh hoàng trước đoạn video bằng AI về con gái mình
Vào tháng 7/2020, hai cô con gái của bà - Romy 6 tuổi và Norah 11 tuổi - bị người chồng ghẻ lạnh của bà sát hại, sau đó ông ta tự sát.
Tháng 4/2023, bà Lemieux đã vô cùng kinh hoàng khi nhận được một video trên TikTok mà trong đó, phiên bản AI của cô con gái đã khuất của bà, Norah kể về những vụ giết người.
“Điều đó còn tệ hơn việc phải một chịu cú đấm móc mạnh nhất mà bạn có thể tưởng tượng,” bà Lemieux nói.
“Tôi thực sự không thể nào xem đến hết video, và anh trai tôi cũng vậy. ANH ấy đã hét lên để nó dừng lại.”
Bà Lemieux đặc biệt lo ngại rằng các cháu gái và cháu trai họ tuổi còn nhỏ của bà có thể ngẫu nhiên xem được video về người chị em họ đã chết của chúng khi lướt TikTok.
Dù nhiều người đã báo cáo video này lên TikTok nhưng nó vẫn tồn tại trên nền tảng này. Cuối cùng, sau khi bà Lemieux xuất hiện hàng loạt trên các kênh truyền thông để nói về nỗi kinh hoàng của bà khi xem đoạn video, tài khoản ẩn danh đăng video này đã bị xóa.
Bà Lemieux không thể tìm ra ai là người đã tạo ra đoạn video nhưng bà kinh hoàng trước hành động của họ.
“Thật sốc đến không thể tin được, khi có người tạo ra thứ gì đó quá ghê tởm, thứ sẽ khiến chúng tôi không sống được trọn vẹn trong những ngày còn lại”, bà nói. “Tất cả những gì họ muốn là lượt xem, lượt thích, lượt chia sẻ. Và mọi người để lại bình luận bên dưới. Cá nhân tôi không thể tha thứ cho điều đó”.
Công nghệ mới
Việc tạo ra những video này đã được thực hiện nhờ vào việc các phần mềm AI ngày càng dễ tiếp cận trên mạng.
Giờ đây, bạn có thể dễ dàng tạo và làm hoạt ảnh cho một hình người cơ bản và viết ra kịch bản để chúng nói chuyện bằng giọng do máy tính tạo ra.
Một số khuôn mặt trong video về các nạn nhân ngoài đời thực không giống với người thật. Nhưng một số khác đều dựa trên ảnh thật.
Những người tạo ra những video này thường cố gắng ẩn danh. Nhưng BBC đã xác định được một người sáng tạo nội dung tên Ritul, một sinh viên ở London.
Trên kênh YouTube của mình, người này đã quảng cáo cái mà anh ta gọi là video “kể chuyện” như một cách để nhanh chóng thu hút người theo dõi trên TikTok.
“Tôi đã thu hút được hàng ngàn người theo dõi khi đăng video kể chuyện chỉ bằng AI,” anh nói trong một video. “Tôi đã kiếm được 47.000 bảng Anh và chỉ mất chưa đầy ba tuần.”
Ritul từ chối yêu cầu bình luận của BBC và tài khoản TikTok của anh hiện đã bị xóa.
Những video TikTok phải thu hút sự chú ý trong vài giây đầu, nếu không người dùng sẽ lướt xuống các video khác. Vì vậy, những người sáng tạo nội dung như Ritul đã tập trung tạo ravvideo về những vụ án rùng rợn hoặc nổi tiếng nhất.
Video bằng AI về cậu bé James Bulger đã xuất hiện bằng nhiều thứ tiếng
Câu chuyện về các trẻ em bị sát hại đã trở thành chủ đề của nhiều video bằng nhiều ngôn ngữ bao gồm tiếng Bồ Đào Nha, tiếng Tây Ban Nha, tiếng Pháp, tiếng Đức, tiếng Ý và tiếng Ba Lan.
Trong khoảng thời gian hai tháng, BBC đã phát hiện ra 170 video TikTok khác nhau có phiên bản AI của James Bulger, cậu bé hai tuổi người Anh bị hai đứa trẻ lớn hơn sát hại ở Merseyside, Anh vào năm 1993.
Phản hồi của TikTok
Hiện tượng trên TikTok này đã trở thành tin tức nổi bật ở Anh vào tháng 7/2023, khi mẹ của James, Denise Fergus, nói với một tờ báo rằng các video dựa trên hình mẫu là con trai bà “vượt quá mức bệnh hoạn”.
TikTok đã tiến hành gỡ bỏ hàng loạt video và đưa ra tuyên bố rằng: "Trên nền tảng của chúng tôi không có chỗ dành cho nội dung gây rối kiểu này. Chúng tôi sẽ tiếp tục gỡ bỏ nội dung dạng này khi chúng tôi phát hiện."
Các video về James bị xóa bao gồm hai video bằng tiếng Việt, đã có bốn triệu lượt xem.
BBC đã nói chuyện với một người kiểm duyệt nội dung TikTok ở Việt Nam, người đã đồng ý phỏng vấn với điều kiện giấu tên. Người này nói rằng hai tuần sau khi video bị gỡ xuống, công ty vẫn chưa chính thức thông báo với anh ta rằng loại nội dung này bị cấm.
Anh nói với BBC anh tin rằng các video này có mặt trên nền tảng theo các tiêu chuẩn cộng đồng của TikTok, cho phép những nạn nhân sau khi bị bóc lột và lạm dụng chia sẻ câu chuyện của họ.
Vậy có sự nhầm lẫn nào giữa các nhân viên của TikTok về chính sách thực sự của công ty không? TikTok đã không phản hồi cụ thể về điểm đó khi chúng tôi liên hệ công ty để yêu cầu bình luận.
Nhưng TikTok đã nói rõ rằng nhân viên kiểm duyệt đã sai khi đề xuất rằng những video này có thể được phép xuất hiện trên nền tảng dưới dạng trải nghiệm của những người sống sót - bởi vì chúng là hình ảnh do máy tính tạo ra về những trẻ em đã chết chứ không phải là trải nghiệm thực sự của những người sống sót.
Vẫn dễ dàng để bạn tìm thấy những loại video này trên TikTok. Nhưng TikTok cho biết họ rất cởi mở về sự thật rằng họ sẽ không nắm bắt được mọi thứ.
Theo BBC
Comments powered by CComment