Sự đáng sợ trong thuật toán ‘gây nghiện’ của TikTok

TikTok hiểu người dùng hơn cả bản thân họ. Đó không phải là thủ thuật tâm lý mà chỉ đang được thao túng bằng các thuật toán.

TikTok - “nhà tiên tri kỹ thuật số”

Có một điều không thể phủ nhận rằng thuật toán hiểu chúng ta hơn cả bản thân. Một máy tính được cho là dự đoán được bạn có bỏ việc hay chia tay hay không, hoặc đoán được tuổi của bạn chỉ bằng 1.000 ký tự viết ra trong vòng 4 năm.

Thuật toán của TikTok thậm chí còn đạt tới “cảnh giới” cao hơn, khi có thể giúp người dùng khám phá giới tính thật của mình hay giải tỏa những tổn thương thời thơ ấu. Trong khi Facebook yêu cầu người dùng thiết lập hồ sơ và chuyển giao một núi thông tin cá nhân đồ sộ, TikTok chỉ cần dựa vào các thuật toán để xác định.

Jess Joho viết trên Mashable rằng, TikTok như đang “đọc vị” người dùng bằng một loại tiên tri kỹ thuật số thần thánh nào đó, khám phá những lớp mở bên trong tâm trí mà trước đây bạn chưa từng biết đến. Nếu các thuật toán đề xuất từ Amazon hay Netflix được thiết kế để đoán những gì bạn muốn xem tiếp theo, TikTok có thể cho bạn thấy bạn thực sự là ai.

Sự đáng sợ trong thuật toán ‘gây nghiện’ của TikTok - 1

Thuật toán của TikTok hoạt động ra sao?

Giống như bất kỳ thuật toán nào, khả năng “tiên tri” của TikTok chỉ là kết quả cuối cùng của của việc phân tích các chuỗi lặp. Theo một cuộc điều tra gần đây của Wall Street Journal, khi ai đó tạo tài khoản mới trên TikTok, thuật toán sẽ đề xuất những video phổ biến với nội dung đa dạng, kiểm tra phản ứng của người dùng và tổng hợp thông tin. Tất cả quá trình này diễn ra trong vòng chưa đầy hai tiếng.

Tài liệu có tên “TikTok Algo 101” của nhóm kỹ sư của TikTok ở Bắc Kinh cho thấy chi tiết việc thuật toán TikTok phân tích sâu sắc về bản chất con người - xu hướng buồn chán, nhạy cảm của người dùng với các tín hiệu văn hóa, giúp giải thích tại sao một khi đã lạc vào “mê cung” TikTok thì rất khó có thể thoát ra.

Tài liệu cũng cho biết thời gian xem không phải là yếu tố duy nhất mà TikTok dựa vào để phân tích, nó là một phương trình bao gồm các yếu tố khác như: lượt thích, bình luận và thời gian phát. Hệ thống đề xuất cho điểm cho tất cả các video dựa trên phương trình này và trả về cho người dùng những video có điểm cao nhất.

Những “góc tối” của thuật toán

Một số người lo ngại điều này sẽ gây ảnh hưởng xấu đến sức khỏe tâm thần của người dùng.

TikTok dường như khám phá ra những điều về người dùng mà họ không nhất thiết phải biết về bản thân, chính xác hơn TikTok cho người dùng thấy họ sẽ đặt sự chú ý vào những gì, điều này gây ra sự tò mò và thậm chí là gây nghiện.

Một báo cáo gần đây của Wall Street Journal đã cho thấy cách TikTok phụ thuộc vào lượng thời gian người dùng dành để xem video mỗi ngày để phân tích, đề xuất nhiều nội dung liên quan, khiến người dùng không thể ngừng “cuộn” xuống và quá trình đó đôi khi có thể dẫn người xem trẻ tuổi đến những cái hố nguy hiểm, đặc biệt là đối với nội dung khuyến khích tự tử hoặc tự làm hại bản thân - những vấn đề mà TikTok cho biết họ đang nỗ lực để ngăn chặn bằng cách mạnh tay xóa nội dung vi phạm điều khoản dịch vụ của mình.

“Các thuật toán biết tôi là người song tính (bi-sexual) trước khi tôi nhận ra điều đó”, Joho cho biết trên Mashable. Trong những khoảnh khắc này, TikTok giống như một chiếc gương, phóng đại và phản chiếu những gì mà chúng ta đang cố gắng che giấu.

Mục đích thực sự của TikTok không phải là phân tích tâm lý, mà là lợi nhuận. Johannes Eichstaedt, một nhà khoa học tại Viện Stanford về trí tuệ nhân tạo (AI) cho biết: “Thuật toán chỉ đang cố gắng làm cho bạn thấy bạn khác biệt so với những người dùng khác để thu hút sự chú ý và nó sẽ kiếm tiền từ điều đó”.

Guillaume Chaslot, người sáng lập Algo Transparency, đã xem xét tài liệu TikTok và cho biết: “Mỗi một lượt xem, TikTok thu được một phần thông tin. Trong một vài giờ, thuật toán có thể phát hiện sở thích âm nhạc, sự hấp dẫn về thể chất, liệu người đó có bị trầm cảm hay nghiện ma túy không và nhiều thông tin nhạy cảm khác. Có nhiều rủi ro là một số thông tin này có thể sẽ được sử dụng để chống lại chính người dùng”.

Tiết lộ “con người thật” vẫn là một điều nhiều người muốn khám phá từ xưa đến nay. Chỉ có điều, ngày nay, bên cạnh những liệu pháp như trò chuyện, chúng ta còn dựa vào các thuật toán có độ “sâu” vô tận như TikTok.

Nguồn: [Link nguồn]Nguồn: [Link nguồn]