Kiểm duyệt nội dung - nghề độc hại

(PCWorldVN) Có bao giờ bạn thắc mắc rất hiếm thấy, thậm chí không thấy những nội dung nhạy cảm trên Facebook, Twitter, YouTube và các kênh phân tán nội dung khác?

Câu trả lời, đó là sự hiện diện "vô hình" của đội ngũ "cảnh sát nội dung", hay có thể gọi đơn giản họ là những người lọc nội dung.

Ví dụ như đoạn video về nhóm IS quay cảnh chặt đầu nhà báo gần đây, về mặt kỹ thuật, chuyện phát tán những nội dung như vậy không gây tác hại trên quy mô lớn như là nguồn gốc chiến tranh, nhưng chúng không khác gì vũ khí. Nếu chia sẻ đoạn video đó, chẳng khác nào chúng ta đang ủng hộ cho chủ nghĩa khủng bố.

Vậy nên Twitter, Facebook hay YouTube có nên chặn hết những kiểu nội dung như vậy? Đối với nhiều người, cho dù có tư tưởng "thoáng" về tự do ngôn luận, tự do bày tỏ ý kiến cá nhân về vấn đề nào đó, và ủng hộ ý tưởng chia sẻ nội dung rộng rãi trên Internet thì đây cũng là câu hỏi khó trả lời và mang tính nhân văn. Một mặt, rất khó để đưa ra chuẩn mực nào cho các công ty công nghệ rải rác khắp thế giới quyết định nên lọc nội dung nào, nên cho phép nội dung nào được đăng. Mặt khác, tiến bộ trong công nghệ mạng xã hội lại là công cụ hữu hiệu cho kẻ xấu. Ví dụ như trường hợp của nhà hoạt động về nữ quyền Anita Sarkeesian từng chỉ trích video game, cô lập tức phải chạy về nhà khi nhận những lời đe dọa sẽ bị "xử". Hoặc trường hợp những minh tinh Âu Mỹ bị mất tài khoản iCloud chứa hình nhạy cảm, riêng tư của họ bị phát tán trên mạng.

Một khung quảng cáo tuyển dụng vị trí kiểm duyệt nội dung cho Facebook.

Đến nay, công việc "cảnh sát" nội dung trực tuyến thuộc về những nhà quản trị nội dung chuyên nghiệp, là một đội ngũ lao động rất lớn nhưng lại ẩn mình. Họ ngày đêm theo dõi mọi thứ trên Facebook, YouTube, Twitter và nhiều trang mạng xã hội khác để gỡ bỏ mọi nội dung tiêu cực ra khỏi Internet. Có thể còn nhiều bàn cãi nhưng rõ ràng đây là một nhiệm vụ cực kỳ quan trọng, là lằn ranh mỏng manh ngăn lọc giữa một xã hội số khoẻ mạnh với một thứ nhớp nhúa man dại, tiêu cực. Nhưng điều đáng nói là công việc của đội ngũ "cảnh sát" mạng ấy không lấy gì hay ho, là công việc âm thầm, lương thấp và nhất là làm việc trong một môi trường độc hại về tinh thần.

Về bản chất, đây là vấn đề về xã hội học, không đơn thuần là công nghệ. Làm thế nào chúng ta bảo vệ được chính mình thoát khỏi những cách biểu hiện tiêu cực nhất của chính chúng ta? Trong câu chuyện dưới đây, khó có thể tưởng tượng được chuyện gì sẽ xảy ra nếu chúng ta chỉ dựa vào việc thuê mướn người để sàng lọc nội dung, cộng với công nghệ lọc nội dung tự động. Internet sản sinh thêm nhiều mối đe dọa, nhưng điều đó không có nghĩa là chúng ta hết hy vọng. Vì chính Internet cũng mang lại sức mạnh riêng cho từng cá nhân, vì chúng ta không chỉ có khả năng phát tán thông tin, chúng ta còn có khả năng từ chối, phủ nhận, sàng lọc thông tin nữa.

Adrian Chen, phóng viên của tờ New York City và cộng tác viên cho tờ The New Inquiry, đã có một chuyến thâm nhập vào một trong những nơi sàng lọc nội dung Internet lớn, ở Bacoor, cách thủ đô Manila, Philippines khoảng 22km về phía Tây Nam. Tại đây, anh gặp Michael Baybayan, 21 buổi, tóc nhuộm nâu đỏ. Chiếc màn hình trên bàn làm việc của Baybayan hiện lên một ảnh khiêu dâm và anh ta vừa nhấn chuột cho nó biến mất.

Baybayan là một trong nhóm người chuyên sàng lọc nội dung theo cách thủ công cho các trang mạng xã hội tại Mỹ. Khi mạng xã hội kết nối càng ngày càng nhiều người hơn thì các công ty phải đối diện với vấn đề "Bà Cháu": bây giờ ông bà dễ dàng theo dõi hành vi con cái mình hơn qua Facebook, nhưng con cái lại thường có xu hướng đăng tải những nội dung không mấy hay, như nói xấu nhau, đăng ảnh nhạy cảm, phân biệt giới tính, chủng tộc… Ông bà sẽ không đăng nhập vào Facebook hay mạng xã hội nào đó nữa nếu họ cứ phải xem ảnh gia đình xen lẫn với mấy hình nhạy cảm hay ảnh tai nạn chết người nào đó trên xa lộ. Mạng xã hội là ngành công nghiệp nhiều tỷ đô la, nó hấp dẫn người dùng và phụ thuộc rất lớn vào khả năng giám sát nội dung để đảm bảo ông bà không xem được những ảnh nhạy cảm như ảnh mà anh Baybayan vừa nhấn lọc đi.

Một tin nhắn tự tử được đăng trên Whisper, bị nhân viên TaskUs gắn nhãn chờ xoá.

Vì vậy, nhiều công ty mạng xã hội phải dựa nhiều vào đội ngũ lọc nội dung này để gỡ hết đi những thứ bị cho là tệ hại, nhằm bảo vệ phần còn lại của chúng ta. Điều đáng nói là đội ngũ lọc nội dung này rất đông và chúng ta dường như không nhận thấy sự tồn tại của họ. Hemanshu Nigam, cựu CSO của MySpace, hiện mở công ty tư vấn an ninh trực tuyến SSP BLue, ước chừng con số người quản trị nội dung (content moderator) trên các trang mạng xã hội, ứng dụng di động và dịch vụ lưu trữ đám mây đến "trên 100.000", khoảng gấp 2 lần tổng số nhân viên làm cho Google và gần 14 lần của Facebook.

Và loại công việc này ở Philippines ngày càng tăng. Trước đây, Philippines từng là thuộc địa của Mỹ nên nền văn hoá cũng gần với Mỹ, các công ty quản lý nội dung cho rằng người Phi sẽ giúp người Mỹ xác định nội dung nào là tiêu cực. Và người lọc nội dung tại Phi có mức lương không mấy cao. Theo như Ryan Cardeno làm ở Phi, anh được trả 500 USD/tháng từ 3 năm rưỡi nay khi làm outsource cho Microsoft ở công ty Sykes. Năm ngoái, một công ty khác đề xuất Cardeno qua lọc nội dung cho Facebook với mức lương 312 USD/tháng.

Còn với anh Baybayan và đồng nghiệp của mình, hiện đang tận dụng cơ sở vật chất của một trường tiểu học cũ, nhóm của anh đang lọc nội dung cho Whisper, là công ty khởi nghiệp làm ứng dụng di động, gần đây được định giá là 200 triệu USD, cho phép người dùng đăng tải ảnh và chia sẻ những bí mật theo cách ẩn danh. Họ làm việc cho một công ty outsource tại Mỹ tên là TaskUs. Đối với nhà báo Chen, anh hỏi Whisper về quy trình này thì Whisper sẵn lòng tiết lộ cho anh. Còn với Microsoft, Google và Facebook, Chen chỉ nhận được những thông tin rất mơ hồ về quy trình kiểm duyệt nội dung của họ. Nhiều công ty công nghệ buộc những người lọc nội dung phải ký những thỏa thuận bảo mật nghiêm ngặt, thậm chí không nói cho cả đồng nghiệp trong cùng một công ty về công việc mình đang làm.

Khi xét kỹ hơn về quy trình lọc nội dung của Whisper, theo CEO của Whisper, Michael Heyward, lọc nội dung được áp dụng cho toàn bộ dịch vụ này, và là chức năng quan trọng nhất của ứng dụng. Whisper "lọc chủ động", sử dụng chính con người để lọc từng nội dung một theo thời gian thực. Nhiều công ty khác chỉ lọc khi nội dung nào đó bị gán nhãn (flag) mà người dùng cảnh báo. Vì theo Whisper, một khi kem đã ra khỏi ống thì không thể bỏ vào lại được.

Cách mà Baybayan kiểm duyệt nội dung là anh bắt đầu bằng một bảng những nội dung đăng tải, mỗi nội dung được chia trong một cửa sổ hình chữ nhật, có nhiều chồng văn bản bên trên, giống như các tờ giấy ghi chú vậy. Các hàm chức năng của Whisper cho phép sắp xếp theo số định danh (id) của người dùng, tương ứng với đó là những câu nói ẩn danh và thường rất nhạy cảm (hoặc chán ngắt) mà rất hiếm xuất hiện trên Facebook hay Twitter. Người lọc nội dung xem được các feed nội dung ấy theo thời gian thực. Và có rất nhiều loại nội dung nhạy cảm, kiểu như "Có ai đồng tính nữ ở NYC muốn chat không?"; hay là "Tao ghét cái giọng rặt…"

Một danh sách phân loại được vẽ lên trên một tấm bảng trắng, nhắc những người lọc nội dung về cái mà họ cần tìm: đồi truỵ, bạo lực, lạm dụng tình dục, ảnh gợi dục, phân biệt chủng tộc. Khi Baybayan nhận thấy có một nội dung nào có tiềm năng, anh sẽ nhấn vào để chắc chắn hơn, sau đó loại bỏ nó, xoá nó khỏi tài khoản người dùng và cả trên dịch vụ, và quay về với giao diện chính. Trong vòng khoảng 25 phút, Baybayan loại ra rất nhiều hình ảnh đồi truỵ các loại.

Khó hơn nữa là những nội dung không mấy rõ ràng, như "Tôi muốn có quan hệ đồng tính nam". Đây là một lời thú nhận thầm kín (được phép) hay đây là một yêu cầu vi phạm (không được phép)? Baybayan cũng như nhiều nhân viên khác của TaskUs đều có bằng đại học, đều phân vân không biết có nên loại kiểu nội dung như vậy hay không?

Baybayan cho biết "Ý định của người này là gì? Bạn phải biết được sự khác nhau giữa ý nghĩ và ý định." Anh chỉ có vài giây để quyết định mà thôi. Rồi nội dung khác hiện lên trên đầu giao diện, đẩy các thẻ nội dung khác xuống. Cuối cùng, anh đánh giá nội dung đó là ý định xấu và xoá nó đi. Baybayan tiếp tục quay về màn hình chính để tiếp tục dò quét.

Đã tám năm rồi, Jake Swearingen vẫn còn nhớ đoạn video đã khiến anh phải từ bỏ. Lúc ấy anh 24 tuổi, làm người duyệt nội dung cho một công ty khởi nghiệp lúc ấy tên là VideoEgg. Mới làm việc được 3 ngày, anh thấy một đoạn video trong giao diện kiểm duyệt của mình. Đó là một cảnh chặt đầu. Ngay lập tức, anh quyết định anh không muốn là người chứng kiến những cảnh như vậy nữa. Đến nay, Swearingen là biên tập viên mạng xã hội tại Atlantic Media.

Tại Mỹ, phần lớn việc kiểm duyệt nội dung nằm ngoài quốc gia này nhưng vẫn có một số vẫn được kiểm duyệt trong nước, và thường do những sinh viên mới tốt nghiệp như Swearingen lúc ấy làm. Nhiều công ty thuê một hệ thống kiểm duyệt 2 lớp, nghĩa là bước kiểm duyệt cơ bản cho outsource ngoài nước, còn những nội dung phức tạp, liên quan nhiều đến văn hóa thì kiểm duyệt trong nước. Các công ty kiểm duyệt làm tại Mỹ thường dễ dãi hơn so với đối tác ở nước ngoài, trong một giờ, họ kiểm được nhiều nội dung hơn so với một công ty kiểm duyệt ở Phi làm trong một ngày. Nhưng có được một nghề trong ngành công nghiệp outsource là điều gì đó mà giới trẻ Phi rất ham thích, còn hơn ở nhà không công rỗi nghề.

Rob là nhân viên lọc nội dung từ năm 2010. Anh tốt nghiệp đại học và theo bạn gái mình lên sống ở Bay Area, California, Mỹ, là nơi anh có được tấm bằng đại học cử nhân lịch sử. Nhiều tháng trôi qua, Rob trở nên tuyệt vọng. Sau đó, anh nhận một cuộc gọi của công ty hợp đồng CDI. Nhà tuyển dụng muốn anh phỏng vấn một vị trí trong Google, duyệt nội dung video cho YouTube. Google! Chắc chắn rồi, anh chỉ là người làm việc theo hợp đồng mà thôi, nhưng người ta bảo anh là anh sẽ có cơ hội làm nhân viên chính thức. Mức lương là 20 USD/giờ, cao hơn nhiều so với mức lương làm cho một công ty thức ăn nhanh.

Trong vài tháng đầu, Rob không quan tâm công việc kiểm duyệt YouTube của anh làm ngay tại trụ sở YouTube tại San Bruno. Đồng nghiệp của anh hầu hết đều là sinh viên mới ra trường như anh, nhiều người tốt nghiệp các ngành về nghệ thuật và nhiều người rất vui vì rất dễ xin vào đây làm. Sếp giám sát lại rất tuyệt, còn thêm nhiều ưu đãi như ăn trưa miễn phí trong khuôn viên Google. Trước bàn làm việc của Rob là 2 màn hình, trên một màn hình là loạt 10 video một lúc. Còn trên màn hình kia, anh có thể làm bất cứ gì anh thích. Anh xem toàn bộ series bộ phim Battlestar Galactica bằng một mắt, còn con mắt kia dõi theo những đoạn video tra tấn, video lộng ngôn đủ kiểu. Anh cũng cảm thấy thích thú với những công việc nội bộ của YouTube. Ví dụ hồi cuối năm 2010, đội ngũ pháp chế của Google giao cho nhân viên kiểm duyệt một việc khẩn là xoá hết các bài thuyết giáo của nhà truyền giáo Hồi giáo người Mỹ Anwar al-Awlaki sau khi có một phụ nữ người Anh nghe xong, kích động đâm một chính trị gia.

Nhưng khi năm tháng trôi qua, những nội dung "nặng đô" bắt đầu ngấm hơn. Thứ tệ hại nhất là nội dung máu me: đánh nhau đẫm máu ngay trên đường phố, tra tấn thú vật, đánh bom tự sát, cảnh chém đầu, cảnh tai nạn thảm khốc. Phong trào Mùa xuân Ả Rập (Arab Spring) đang ở giai đoạn cao trào, các nhà hoạt động liên tục sử dụng YouTube để cho thế giới biết diễn biến. Các người lọc nội dung được chỉ đạo là bỏ đi những video "đáng giá" đó kèm theo cảnh báo trong trường hợp người đăng tiếp tục tái phạm. Nhưng với Rob và đồng nghiệp, anh rất khó xử với những trường hợp video ghi hình thi thể những người chống đối và video đánh nhau trên đường phố. Có thể đó là loại nội dung nói về thảm hoạ mà thôi. Theo Rob, nếu ai đó tải lên video về tra tấn thú vật thì phần lớn là chính người đó làm và việc đăng tải video đó lên chứng tỏ người đó tự hào khi làm vậy, không phải là báo cáo sự việc ấy. Đoạn video như vậy chỉ khiến người xem tổn thương hơn mà thôi và khiến chúng ta nhìn vào mặt tối của con người.

Rồi Rob bị ám ảnh những hình ảnh ấy ngoài giờ làm việc. Anh trở nên dễ bị kích động và xa lánh. YouTube thuê những nhà từ vấn để những người kiểm duyệt có thể trò chuyện, về mặt lý thuyết là vậy, như Rob không hề có ý muốn gặp họ. Anh không biết họ là ai, thay vào đó, anh tự tìm cách cho riêng mình. Rồi anh bắt đầu uống bia rượu và tăng cân.

Rồi mọi chuyện càng rõ với anh hơn là anh chưa bao giờ là nhân viên thực thụ của Google. Vài tháng sau khi ký hợp đồng, anh nộp đơn vào làm chính thức cho Google nhưng anh bị từ chối phỏng vấn vì không đủ tiêu chuẩn.

Trụ sở TaskUs tại Philippines.

Vài tháng sau, trước khi hợp đồng chấm dứt, anh tìm một việc khác. Khi ca làm việc cuối cùng của anh kết thúc lúc 7 giờ tối, anh rời văn phòng mà lòng nhẹ nhõm. Nhảy vào xe, lái thẳng đến nhà cha mẹ ở ngủ liên tù tì 3 ngày liền.
Cứ cho rằng công việc kiểm duyệt nội dung là việc làm đầy hứa hẹn và có lượng nhân sự bằng một nửa lượng nhân sự làm cho các trang mạng xã hội thì chúng ta cần xét về tác hại tinh thần về lâu dài của loại công việc này. Bà Jane Stevenson từng là trưởng bộ phận sức khoẻ và phúc lợi cho Đội chống tội phạm quốc gia Anh Quốc, tương đương FBI của Mỹ, vào đầu những năm 2000, khi nổi lên phong trào chống các hoạt động lạm dụng tình dục trẻ em toàn cầu lần đầu tiên. Bà nhận thấy những nhà điều tra tội phạm trong lĩnh vực này đều bị tác động bởi hình ảnh có được; thậm chí sau khi bà rời vị trí, các cơ quan và tổ chức cá nhân tiếp tục nhờ bà giúp đỡ cho các trường hợp bị tác hại tinh thần như trên, nên từ đó bà mở ra công ty tư vấn sức khoẻ nghề nghiệp tên là Workplace Wellbeing, tập trung vào những ngành công nghiệp áp lực cao. Từ đó, bà tư vấn cho các công ty mạng xã hội ở Anh Quốc và nhận thấy thách thức mà nhân viên lọc nội dung phải đối diện cũng tương tự như những nhà điều tra về lạm dụng tình dục trẻ em và chống khủng bố gặp phải. Bà cho rằng các công ty công nghệ vẫn chưa thực sự nghiêm túc về vấn đề này đối với nhân viên kiểm duyệt.

Tại Manila, Chen gặp Denise (không phải tên thật), là nhà tâm lý tư vấn cho hai công ty kiểm duyệt nội dung ở Philippines. Cô cho rằng chứng này giống như chứng rối loạn hậu chấn thương PTSD (Post Traumatic Stress Disorder). Trong đầu bạn lúc ấy có một vết ký ức. Denise và đội ngũ của cô lập ra những hệ thống giám sát cho khách hàng. Các nhân viên thực hiện một loạt kiểm tra về tâm lý để xác định được điểm mốc về thần kinh, sau đó được phỏng vấn và tư vấn thường xuyên để hạn chế tối thiểu những tác động của hình ảnh tiêu cực. Nhưng thậm chí có được những lời tư vấn tốt nhất chăng nữa thì những hình ảnh ấy thấm vào sâu trong ký ức của nhân viên là không dễ gỡ bỏ. Người kiểm duyệt phải hàng giờ liền nhìn những hình ảnh khiêu dâm, kích dục, ngày này qua ngày nọ, thì liệu có còn mặn nồng với người yêu, bạn đời của mình nữa hay không.

Cô cho biết cô thực sự bị những hình ảnh đầy thú tính tác động. "Tôi phải dừng lại, dừng lại một chút để thư thái một chút, có thể là đi ra tiệm mua một ly cà phê." Cô cười khi trên bàn cafe là một cảnh quay bạo lực kinh khủng, kế bên đó là tách cafe.

Những hình ảnh suy đồi liên tục đập vào đầu như vậy cũng khiến vài đồng nghiệp của Maria mắc chứng hoang tưởng. Mỗi ngày họ đều thấy những cảnh tận cùng tồi tệ của con người. Họ bắt đầu trở nên nghi ngờ những thứ tận cùng ấy có thể xuất hiện ngay trước mắt họ, và họ tự hỏi cái ổ cứng của họ thực ra đang chứa thứ quái quỷ gì. Hai đồng nghiệp nữ của Maria trở nên đa nghi rằng liệu có nên giao con cái cho người coi trẻ chăm nom nữa hay không. Thỉnh thoảng họ đi làm trễ cũng vì không tìm được người coi bọn trẻ.

Maria đặc biệt nhớ nhất đến một đoạn video ngay khi cô bắt đầu công việc này. Đó là một cô gái, có lẽ khoảng 15 đến 18 tuổi. Cô gái trông rất non nớt. Rồi có một gã trọc chúi đầu vào bộ phận sinh dục của cô. Cô gái bị bịt mắt, hai tay bị trói, cô la và khóc thét lên.

Đoạn video đó dài hơn nửa tiếng. Chỉ xem khoảng một phút, Maria bắt đầu run rẩy, buồn bực và phẫn nộ. Ai có thể làm điều tệ hại như vậy với người khác được chứ? Cô nhìn kỹ hơn vào kẻ trọc ấy, có nét giống một tay nào đó ở miền Đông Mỹ, nhưng hoàn toàn bị làm mờ.

Sau khoảng hai năm rưỡi làm việc với đội ngũ kiểm duyệt dịch vụ nội dung trên thế giới mạng, Maria có kế hoạch bỏ việc cuối năm nay và đi dạy trường y. Nhưng hình ảnh video bên trên luôn ám lấy cô dù đã rất lâu rồi.

"Tôi đã xem nó rất lâu nhưng như thể mới xem nó hôm qua vậy", Maria chia sẻ.

Kiểm duyệt nội dung - nghề độc hại

Chủ đề cùng mục

Mới nhất