Ảnh minh họa của Chloe Dowling cho tạp chí TIME (Nguồn ảnh: Tim Robberts—Getty Images)
TIME: When Everything Is Fake, What’s the Point of Social Media?
(Chuyển ngữ tiếng Việt: Gemini; Hiệu đính (và chịu trách nhiệm): T.Vấn)
Khi Mọi Thứ Đều Giả Tạo, Vậy Ý Nghĩa Của Mạng Xã Hội Là Gì?
Bài viết của Andrew R. Chow
Đầu tuần này, một bài đăng ấm lòng về một cô bé, một chú chó con và một sĩ quan cảnh sát đã lan truyền khắp các nền tảng mạng xã hội. Bài đăng gồm hai hình ảnh từ camera hành trình về một cô bé 12 tuổi đang bối rối, vì quá tuyệt vọng muốn chữa bệnh cho chú chó con của mình, đã lần đầu tiên tự mình lái xe và cố gắng đến bác sĩ thú y. Cô bé bị chặn lại, nhưng được sĩ quan cảnh sát khen ngợi là “tuyệt vời, mạnh mẽ, nhân ái và thông minh,” và chú chó con đã được cứu. Hàng loạt bình luận đổ về ca ngợi tình cảm gắn bó giữa cô bé và người bạn lông lá thân thiết nhất của mình.
Nhưng khi người dùng mạng xã hội nhìn kỹ hơn, họ nhận thấy một vài điều kỳ lạ: vô lăng nằm ở bên phải của chiếc xe, vốn cũng không có bảng điều khiển. Và hình ảnh này không hề xuất phát từ bất kỳ nền tảng tin tức hay trang cảnh sát chính thức nào, mà chỉ đơn giản xuất hiện trên Facebook.
Hình ảnh này, có lẽ không gây ngạc nhiên, là một ví dụ khác về “bùn AI” (AI slop): những hình ảnh được tạo ra bằng AI, được thiết kế để thu hút tương tác tối đa trên mạng xã hội, lọt vào nguồn cấp dữ liệu người dùng mà không có tín hiệu nào cho biết chúng là thật hay giả. Xét về mức độ nguy hiểm, trường hợp này tương đối vô hại. Nhưng ngày càng nhiều bùn AI được tung ra mạng xã hội trong tuần này nhờ sự ra đời của Sora 2, mô hình chuyển văn bản thành video tiên tiến mới của OpenAI.
Một số video rõ ràng là bịa đặt, như cảnh Giáo hoàng John Paul II đấu vật với Tupac trên võ đài. Những video khác thì khó phân biệt hơn, như một cậu bé bị cuốn đi bởi lốc xoáy, hay những người vô gia cư bị đưa vào nhà của người khác. Sora đã trở thành ứng dụng miễn phí được tải xuống nhiều nhất trên App Store của Apple trong tuần đầu tiên ra mắt.
Sam Altman, Giám đốc điều hành của OpenAI, cho biết ông hy vọng những video Sora 2 này sẽ “mang lại cảm giác vui vẻ và mới mẻ,” đồng thời giúp AI của ông học hỏi về cách thế giới 3D hoạt động. Mặt khác, các nhà phê bình coi chúng là hồi chuông báo tử tiềm tàng cho mạng xã hội. Phương tiện được cho là mang tính cách mạng để duy trì tình bạn và các mối quan hệ giờ đây đã trở thành một cỗ máy tạo nội dung giả—nơi không thể phân biệt được đâu là thật và đâu là giả.
Kashyap Rajesh, phó chủ tịch của tổ chức do thanh niên lãnh đạo Encode, nói: “Trong nhiều năm, internet là nơi mọi người tìm đến để cảm thấy được kết nối. Nhưng nếu mọi thứ trực tuyến bắt đầu cảm thấy giả mạo, và các trang ‘Dành cho bạn’ của chúng ta đều là video do Sora tạo ra, mọi người sẽ bắt đầu rút lui trở lại những gì có thể được chứng minh về mặt vật lý. Sự trớ trêu là AI cuối cùng có thể cứu lấy sự kết nối và các mối quan hệ của con người vì chúng đang khiến chúng ta khao khát điều thật đó một cách tuyệt vọng.”
Tăng Trưởng Ngắn Hạn
Hình ảnh và video do AI tạo ra một cách chân thực đã là một mục tiêu quan trọng đối với mọi phòng thí nghiệm AI lớn trong vài năm qua. Các nhà lãnh đạo AI hy vọng rằng người dùng có thể tạo nhạc video, phim và quảng cáo một cách nhanh chóng và rẻ tiền, thúc đẩy một kỷ nguyên sáng tạo mới. Một số người cũng tin rằng các mô hình video là chìa khóa để mở ra Trí tuệ Nhân tạo Tổng quát (AGI)—AI siêu thông minh hiểu vật lý một cách hoàn hảo, và do đó có thể di chuyển liền mạch trong thế giới.
Để trau dồi các mô hình của mình, các công ty này cần người dùng tạo ra một lượng lớn nội dung có thể được sử dụng cho dữ liệu đào tạo. Chỉ riêng trong năm nay, Meta đã phát hành một nguồn cấp video AI chuyên dụng có tên là Vibes; Google phát hành Veo 3; và Bytedance phát hành Seedance, chỉ kể tên một vài dịch vụ video AI. Các ứng dụng này có thể được xem là một phần của một chu trình lớn hơn: nhằm thu hút người dùng đại chúng, đồng thời cải thiện sản phẩm của họ.
Trong ngắn hạn, các sản phẩm này đang được sử dụng nhiều và tạo ra lưu lượng truy cập đáng kể cho những người sáng tạo đã nắm bắt phương tiện này. Ví dụ, Gnomo Palomo, một loạt video tiếng Tây Ban Nha về một chú lùn đeo GoPro dấn thân vào những cuộc phiêu lưu kỳ diệu, đã thu hút hàng trăm nghìn lượt thích và người theo dõi chỉ trong bốn tháng qua. Và các trò chơi phái sinh của vũ trụ điện ảnh Italian Brainrot đã phá vỡ mọi loại kỷ lục trên Roblox và Fortnite.
Nhưng Ben Colman, Giám đốc điều hành và đồng sáng lập của nền tảng phát hiện deepfake Reality Defender, nói rằng mặc dù những video này có thể tạo ra doanh thu tăng vọt cho các nền tảng, nhưng thành công của chúng có thể chỉ tồn tại trong thời gian ngắn. Ông nói: “Tôi nghĩ lịch sử đã chứng minh rằng kiểu chạy đua xuống đáy này về chất lượng nội dung có xu hướng tiêu cực đối với chính các nền tảng.”
Colman chỉ ra MySpace là một ví dụ về một nền tảng đã bị ảnh hưởng khi nó không ưu tiên người dùng của mình, thay vào đó làm rối tung các trang của nó bằng quảng cáo và những trải nghiệm tẻ nhạt. Ông nói: “Nếu bạn chỉ thấy một đống tạp âm, nó sẽ ít mang tính kết nối cá nhân hơn.”
Altman, trong một bài đăng trên blog, đã viết rằng Sora 2 sẽ được tối ưu hóa cho “sự hài lòng lâu dài của người dùng,” và OpenAI sẽ đóng cửa sản phẩm nếu họ cảm thấy nó đang khiến người dùng cảm thấy tồi tệ hơn.
Nguy Cơ Xã Hội
Sự suy thoái của mạng xã hội, nếu xảy ra, chắc chắn sẽ là một quá trình chậm chạp. Cho đến lúc đó, các nhà phê bình lo lắng về cách sự trỗi dậy của bùn AI sẽ tác động đến xã hội. Rajesh, tại Encode, lập luận rằng các video AI thực tế sẽ đe dọa sự hiểu biết chung của chúng ta về thực tế. Các video trên mạng xã hội từng được hiểu là bằng chứng cho thấy các sự kiện thực sự đã xảy ra—và có thể thay đổi tiến trình lịch sử, như trường hợp của George Floyd. Giờ đây, các sự kiện có thật sẽ bị bác bỏ là giả, và các sự kiện giả sẽ được tin là thật; các chiến dịch thông tin sai lệch và thông tin xuyên tạc có thể lan tràn.
Rajesh nói: “Điều đó đang biến rất nhiều nguồn cung cấp dữ liệu của chúng ta thành những không gian nhiều tạp âm, độ tin cậy thấp, nơi mọi khoảnh khắc cảm xúc đều trở nên đáng ngờ. Nó tạo ra một kiểu chứng hoang tưởng cấp độ thấp trong lòng mọi người, giết chết sự tự nhiên và sự kỳ diệu ban đầu của mạng xã hội.”
Video Sora đi kèm với một hình mờ (watermark), báo hiệu nguồn gốc AI của chúng. Nhưng các công cụ đã được tạo ra để thêm hoặc xóa hình mờ khỏi video. Điều này có nghĩa là giờ đây rất dễ dàng tạo ra, chẳng hạn, cảnh quay camera hành trình giả để gian lận bảo hiểm.
Colman đã tiến hành một thử nghiệm bảo mật với nhóm của mình tại Reality Defender và phát hiện ra rằng ông có thể sử dụng Sora để tạo ra các hành vi mạo danh AI của những người nổi tiếng—và sau đó “xác thực” chúng như thể chúng bắt nguồn từ chính những người nổi tiếng đó. Ông nói: “Khi bạn có một công ty trị giá hàng tỷ đô la tuyên bố họ đã thực hiện việc kiểm tra danh tính, điều đó làm cho tất cả sự nguy hiểm này trở nên nguy hiểm gấp triệu lần.”
Không có gì bí mật khi các thuật toán mạng xã hội khen thưởng nội dung gây chia rẽ. Colman lo lắng rằng AI sẽ chỉ làm trầm trọng thêm động lực này. Ông nói: “Các nền tảng thực sự là thị trường cho sự chú ý. Sẽ là một lợi tức đầu tư tốt hơn nếu bạn đang cố gắng thu hút sự chú ý vào các quan điểm cực đoan. Nó tạo ra một buồng vang (echo chamber) phân cực vô hạn hơn là cung cấp cho người tiêu dùng đại chúng những gì họ cần để trở nên cực đoan hơn trong mọi việc.”
Trong khi đó, Rajesh nói rằng sự gia tăng phổ biến của deepfakes có thể leo thang việc sử dụng các hệ thống “bằng chứng danh tính” trong đó mọi người cần phải chứng minh họ là con người để tham gia trực tuyến. (Sam Altman thực sự có một giải pháp như vậy, Worldcoin, xác minh người dùng bằng cách quét mắt của họ.)
Rời Khỏi Trực Tuyến
Đáp lại những thay đổi này, ngày càng có nhiều người thất vọng đang thực hiện bước nhảy vọt và từ bỏ điện thoại của họ hoàn toàn. Đầu năm nay, Grant Besner đã đồng tổ chức một chương trình giáo dục ở D.C. gọi là “Month Offline” (Một Tháng Ngoại Tuyến), trong đó những người tham gia được khuyến khích tắt điện thoại thông minh của họ trong một tháng và xem xét lại mối quan hệ của họ với các thiết bị.
Để quảng cáo cho chương trình này vào mùa hè, Besner đã dán các áp phích xung quanh D.C. với nội dung: “hình ảnh giả của người thật, hình ảnh thật của người giả, bất mãn với nội dung… Bỏ qua việc lướt xem tiêu cực (doomscroll). Gọi 1-844-OFFLINE.”
Một tấm áp phích quảng cáo cho chương trình Tháng ngoại tuyến. Grant Besner
Besner nói rằng đường dây nóng đã nhận được hàng trăm cuộc gọi phản hồi. Besner nói: “Tôi đã có những cuộc trò chuyện với rất nhiều người có mối quan hệ căng thẳng với màn hình cảm ứng của họ, và một phần lớn trong đó là mối quan hệ của họ với chính nội dung: vô tâm lướt qua những thứ không thêm bất cứ điều gì vào cuộc sống của họ.”
Các tổ chức khác đang thử nghiệm các cách tiếp cận tương tự. Ví dụ, Viện Aspen đã tổ chức một cuộc tụ họp “Chế độ Máy bay” (Airplane Mode) trong năm nay. Andrew Yang, cựu ứng cử viên tổng thống, đã tổ chức các bữa tiệc không điện thoại ở New York và rao bán một gói cước điện thoại mới, Noble Mobile, hoàn lại tiền cho người dùng đối với dữ liệu chưa sử dụng của họ.
Besner nói thêm rằng sự ra đời của Sora 2 và video siêu thực “có thể là điểm phá vỡ nơi con người phần nào đòi lại quyền tự quyết của họ và nói, ‘Bạn biết không, toàn bộ cách thức dễ dàng này trong việc liên hệ với thông tin và với nhau và với chính chúng ta có lẽ không mang lại kết quả tốt hơn.’”
Andrew R. Chow
