Thuật toán AI trên TikTok - thông minh quá hóa nguy hiểm

Không thể phủ nhận rằng TikTok đã phát triển rất tốt các thuật toán của họ, khi trí tuệ nhân tạo (AI) có thể học và hiểu rõ người dùng hơn cả chính bản thân của họ. Thế nhưng liệu đây có phải là một điều tốt?

Theo nhận định từ các chuyên gia, TikTok đã xây dựng thành công một hệ thống AI hoàn chỉnh, toàn diện bậc nhất thế giới. Chỉ với vài nội dung người dùng xem, thuật toán sẽ có khả năng thấu hiểu được suy nghĩ, giới tính của người dùng. Trong khi đó, Facebook phải thu thập thật nhiều dữ liệu từ hồ sơ cá nhân mà người dùng nhập vào để làm được điều đó.

TikTok đã có sự phát triển vượt bậc trong những năm gần đây với số lượng người dùng tăng chóng mặt, bất chấp lệnh cấm hoàn toàn ở một số quốc gia. Thậm chí, TikTok đã chính thức vượt mặt Facebook về lượt tải và Google về lượt truy cập trong năm 2021.

Thế nhưng, chính sự phát triển quá đỗi nhanh chóng này đã tạo ra những quan ngại lớn chưa từng thấy. Sự thông minh vượt bậc của thuật toán đề xuất trên nền tảng này đang là vấn đề được tranh cãi gay gắt.

Hiểu người dùng chỉ trong 2 tiếng đầu tiên

Theo phân tích của The Wall Street Journal (WSJ) thực hiện vào tháng 7/2021, thuật toán AI trên TikTok thông minh đến nỗi nó có thể hiểu được những suy nghĩ và mối quan tâm của người dùng chỉ trong vòng 2 tiếng kể từ khi tạo tài khoản.

Để làm được điều này, nhóm thực hiện phân tích của WSJ cho rằng TikTok đã xây dựng một phép toán “đệ quy” - thử phản ứng của người dùng trên các thể loại video khác nhau, theo một vòng lặp nhất định. Từ đó, thuật toán có thể “học và hiểu” từ chính hành vi người dùng.

Về mặt tích cực, sự thông minh vượt bậc của thuật toán này sẽ đề xuất những nội dung, bài quảng cáo được tiếp cận đến đúng người dùng quan tâm vào mục “Dành cho bạn”. Tuy nhiên, cũng chính sự thấu hiểu quá mức này lại gây ra nhiều hệ lụy nghiêm trọng mà nhóm nghiên cứu WSJ đã phải dùng từ “báo động”.

Thực trạng đáng báo động

Mặc dù có thuật toán AI đề xuất “đỉnh cao” hàng đầu thế giới, TikTok lại không thể kiểm soát được những nội dung trên nền tảng của họ. Hệ quả là các nội dung “toxic” (mang tính độc hại), tin giả, nội dung tuyên truyền sai lệch về y khoa, tuyên truyền về mê tín dị đoan, ủng hộ hành vi vi phạm pháp luật… tràn ngập trên nền tảng này.

Theo ghi nhận thực tế của chúng tôi trong thời gian dài sử dụng, một số tài khoản có tích xanh (đã được TikTok xác minh) vẫn có hiện trạng nói trên, thậm chí các video này còn được đề xuất lên mục “Dành cho bạn” với lượng tương tác cao ngất ngưởng.

Ngoài ra, thuật toán của TikTok còn ẩn chứa nhiều tác hại về mặt tâm lý và lối sống của con người. Tạp chí Wired dẫn lời giáo sư tâm lý học Inna Kanevsky - Trường cao đẳng cộng đồng San Diego, California (Mỹ): "Có vẻ như người dùng được chẩn đoán về hội chứng tâm lý. Đây là điều đáng lo ngại, là cách AI thay đổi cuộc sống con người. Không chỉ dừng lại ở việc dự đoán, thuật toán còn tiến xa hơn đến việc tạo các ma trận thông tin vây quanh người dùng".

Trước thực trạng nguy hiểm này, một số quốc gia châu Á thậm chí đã “cấm cửa” TikTok, có thể kể đến như Ấn Độ, Indonesia hay Bangladesh.

Đã thay đổi, nhưng cần thay đổi nữa

Quay trở lại giữa tháng 12/2021, TikTok chính thức thông báo về việc thay đổi thuật toán mục “Dành cho bạn” nhằm mang đến trải nghiệm đa dạng, phong phú hơn và đảm bảo sự an toàn của người dùng. Động thái này đã được cho là sự phản hồi cho bài viết cảnh báo của WSJ trước đó.

Lý giải về sự thay đổi thuật toán lần này, TikTok cho biết: “Chúng tôi đang nhìn nhận lại thực trạng của hệ thống chúng tôi - vô tình đề xuất loạt video quá tương đồng. Điều này không vi phạm đến bất kỳ chính sách nào của chúng tôi, thế nhưng người dùng có thể bị ảnh hưởng cảm xúc theo chiều hướng tiêu cực dựa trên những gì họ quan tâm, ví dụ như những nội dung về sự cô đơn, buồn bã hay áp lực giảm cân chẳng hạn. Mục tiêu của chúng tôi là mang đến cho mọi người dùng một bản tin "Dành cho bạn" thật đa dạng và sáng tạo”.

Đây là một động thái đáng hoan nghênh đến từ nền tảng mạng xã hội video ngắn này, thế nhưng chỉ thay đổi như vậy là chưa đủ. TikTok cần phát triển thêm một cơ chế kiểm soát nội dung thông minh ngang ngửa thuật toán đề xuất để đảm bảo sự lành mạnh của nền tảng mạng xã hội này./.

Mời quý độc giả theo dõi VOV.VN trên

Tin liên quan

Vượt qua Google, TikTok trở thành tên miền phổ biến nhất năm 2021
Vượt qua Google, TikTok trở thành tên miền phổ biến nhất năm 2021

Google.com luôn là tên miền phổ biến nhất thế giới, cho tới khi TikTok xuất hiện và "soán ngôi" hãng tìm kiếm Internet của Mỹ.

Vượt qua Google, TikTok trở thành tên miền phổ biến nhất năm 2021

Vượt qua Google, TikTok trở thành tên miền phổ biến nhất năm 2021

Google.com luôn là tên miền phổ biến nhất thế giới, cho tới khi TikTok xuất hiện và "soán ngôi" hãng tìm kiếm Internet của Mỹ.

Google, Facebook, TikTok âm thầm theo dõi, định hướng người dùng?
Google, Facebook, TikTok âm thầm theo dõi, định hướng người dùng?

VOV.VN - Theo đại biểu Phạm Trọng Nhân, tăng trưởng GDP từ kinh tế số không hề dễ dàng, khi các nền tảng công nghệ không được sản sinh để làm chủ từ chính quốc gia nào.

Google, Facebook, TikTok âm thầm theo dõi, định hướng người dùng?

Google, Facebook, TikTok âm thầm theo dõi, định hướng người dùng?

VOV.VN - Theo đại biểu Phạm Trọng Nhân, tăng trưởng GDP từ kinh tế số không hề dễ dàng, khi các nền tảng công nghệ không được sản sinh để làm chủ từ chính quốc gia nào.

Người sáng lập công ty mẹ của TikTok từ chức chủ tịch
Người sáng lập công ty mẹ của TikTok từ chức chủ tịch

Người sáng lập công ty mẹ của TikTok là ByteDance - Zhang Yiming, đã từ chức chủ tịch công ty sau khi tuyên bố vào tháng 5 rằng ông sẽ từ chức vị trí giám đốc điều hành công ty.

Người sáng lập công ty mẹ của TikTok từ chức chủ tịch

Người sáng lập công ty mẹ của TikTok từ chức chủ tịch

Người sáng lập công ty mẹ của TikTok là ByteDance - Zhang Yiming, đã từ chức chủ tịch công ty sau khi tuyên bố vào tháng 5 rằng ông sẽ từ chức vị trí giám đốc điều hành công ty.