Theo một báo cáo được công bố vào thứ Tư (14/12), các thuật toán của TikTok đang ưu tiên các video về hành vi tự làm hại bản thân và rối loạn ăn uống cho thanh thiếu niên dễ bị tổn thương. Báo cáo nêu bật những lo ngại về mặt tối của mạng xã hội và tác động của nó đối với sức khỏe tâm thần của thanh thiếu niên.

Embed from Getty Images

Các nhà nghiên cứu tại Trung tâm phi lợi nhuận chống lại việc căm ghét kỹ thuật số đã tạo tài khoản TikTok cho các nhân vật tuổi teen hư cấu ở Hoa Kỳ, Vương quốc Anh, Canada và Australia, theo AP. Sau đó, các nhà nghiên cứu quản lý các tài khoản đã “thích” các video về hành vi tự làm hại bản thân và chứng rối loạn ăn uống để xem thuật toán của TikTok sẽ phản hồi như thế nào.

Trong vòng vài phút, nền tảng đã đề xuất các video về giảm cân và tự làm hại bản thân, bao gồm cả những video có hình ảnh của người mẫu và kiểu cơ thể lý tưởng, hình ảnh lưỡi dao cạo và thảo luận về tự sát.

Khi các nhà nghiên cứu tạo tài khoản có tên người dùng có hơi hướng ám chỉ đến chứng rối loạn ăn uống – chẳng hạn như tên bao gồm từ “giảm cân” – các tài khoản đó thậm chí còn được TikTok đưa đến các nội dung có hại hơn.

Giám đốc điều hành của trung tâm Imran Ahmed cho biết: “Giống như bị mắc kẹt trong một căn phòng toàn những tấm gương méo mó, nơi bạn liên tục bị nói rằng bạn xấu xí, bạn không đủ tốt, có lẽ bạn nên tự sát”. 

“Nó thực sự đang bơm những thông điệp nguy hiểm nhất có thể đến với những người trẻ tuổi,” ông nói thêm.

Các thuật toán mạng xã hội hoạt động bằng cách xác định các chủ đề và nội dung mà người dùng quan tâm, sau đó người dùng sẽ được gửi nhiều chủ đề và nội dung giống như một cách để tối đa hóa thời gian của họ trên trang web. Nhưng các nhà phê bình mạng xã hội cho rằng các thuật toán quảng cáo nội dung về một đội thể thao, sở thích hoặc cơn cuồng nhảy nào đó có thể khiến người dùng rơi vào hàng loạt nội dung có hại.

Đó là một vấn đề đặc biệt đối với thanh thiếu niên và trẻ em, những người có xu hướng dành nhiều thời gian trực tuyến hơn và dễ bị bắt nạt, áp lực từ bạn bè hoặc nội dung tiêu cực về chứng rối loạn ăn uống hoặc tự tử, theo Josh Golin, giám đốc điều hành của Fairplay, một tổ chức phi lợi nhuận ủng hộ. bảo vệ việc sử dụng tốt hơn cho trẻ em.

Ông nói thêm rằng TikTok không phải là nền tảng duy nhất không bảo vệ được người dùng trẻ tuổi khỏi nội dung độc hại và hoạt động thu thập dữ liệu quá khích.

Trong một tuyên bố từ người phát ngôn của công ty, TikTok đã bác bỏ những phát hiện này, lưu ý rằng các nhà nghiên cứu đã không sử dụng nền tảng này như những người dùng thông thường và nói rằng kết quả đã bị sai lệch. Công ty cũng cho biết tên tài khoản của người dùng sẽ không ảnh hưởng đến loại nội dung mà người dùng nhận được.

TikTok cấm người dùng dưới 13 tuổi và các quy tắc chính thức của nó cấm các video khuyến khích chứng rối loạn ăn uống hoặc tự tử. Người dùng ở Hoa Kỳ tìm kiếm nội dung về chứng rối loạn ăn uống trên TikTok sẽ nhận được thông báo cung cấp các thông tin về sức khỏe tâm thần và thông tin liên hệ của Hiệp hội Rối loạn Ăn uống Quốc gia.

Tuyên bố từ TikTok, thuộc sở hữu của ByteDance, một công ty Trung Quốc hiện có trụ sở tại Singapore, cho biết: “Chúng tôi thường xuyên tham khảo ý kiến của các chuyên gia y tế, loại bỏ các hành vi vi phạm chính sách của chúng tôi và cung cấp quyền truy cập vào các nguồn tin mang tính hỗ trợ cho bất kỳ ai có nhu cầu.”

Bất chấp những nỗ lực của nền tảng, các nhà nghiên cứu tại Trung tâm chống lại việc căm ghét kỹ thuật số đã phát hiện ra rằng nội dung về chứng rối loạn ăn uống đã được xem trên TikTok hàng tỷ lần. Trong một số trường hợp, các nhà nghiên cứu nhận thấy, những người dùng TikTok trẻ tuổi đang sử dụng ngôn ngữ được mã hóa về chứng rối loạn ăn uống nhằm trốn tránh sự kiểm duyệt nội dung của TikTok.

Ông Ahmed cho biết, lượng lớn nội dung có hại được cung cấp cho thanh thiếu niên trên TikTok cho thấy việc tự điều chỉnh đã thất bại, đồng thời cho biết thêm rằng các quy tắc liên bang là cần thiết để buộc các nền tảng phải làm nhiều hơn để bảo vệ trẻ em.

Ông Ahmed lưu ý rằng phiên bản TikTok cung cấp cho khán giả Trung Quốc trong nước được thiết kế để quảng bá nội dung về toán học và khoa học cho người dùng trẻ tuổi, đồng thời giới hạn thời gian trẻ em 13 và 14 tuổi có thể truy cập trang web mỗi ngày.

Hiện tại, đang có một đề xuất tại Quốc hội Hoa Kỳ nhằm áp đặt các quy tắc mới hạn chế dữ liệu mà các nền tảng mạng xã hội có thể thu thập liên quan đến người dùng trẻ tuổi và thành lập một văn phòng mới trong Ủy ban Thương mại Liên bang tập trung vào việc bảo vệ quyền riêng tư của người dùng mạng xã hội trẻ tuổi.

Một trong những nhà tài trợ của dự luật, Thượng nghị sĩ Edward Markey, bang Massachusetts, cho biết hôm thứ Tư ông lạc quan rằng các nhà lập pháp của cả hai bên có thể đồng ý về sự cần thiết của các quy định chặt chẽ hơn về cách các nền tảng truy cập và sử dụng thông tin của người dùng trẻ tuổi.

Ông Markey nói: “Dữ liệu là nguyên liệu thô mà các ông lớn công nghệ sử dụng để theo dõi, thao túng và làm tổn thương những người trẻ tuổi ở đất nước chúng ta mỗi ngày.”

Xuân Lan (theo AP)