Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh

Sarah Katz, một cựu quản trị viên Facebook đã tâm sự về áp lực cô phải đối mặt khi kiểm duyệt hàng ngàn bài đăng một ngày tới từ những góc khuất tăm tối nhất của nền tảng mạng xã hội màu xanh.

Sarah Katz, 27 tuổi, đến với Facebook qua một hợp đồng ngắn hạn bên thứ ba và làm công việc kiểm duyệt nội dung tại văn phòng của công ty ở Menlo Park, California trong vòng 8 tháng. Công việc của cô khá đơn giản: Xem và quyết định xem liệu một bài đăng có vi phạm quy chuẩn cộng đồng do công ty đề ra hay không.

Về cơ bản, Katz dành toàn bộ thời gian làm việc để săm soi nội dung gửi tới cô mỗi 10 giây một  lần, sau đó nhanh chóng đưa ra quyết định loại bỏ hoặc chấp thuận. Những bài đăng cô phải xem thường đã bị AI kiểm duyệt và từ chối đăng lên Facebook, sau đó được chuyển qua cho người thật xem lại và Sarah phải kiểm duyệt trên dưới 8.000 bài đăng như vậy mỗi ngày.

Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh - ảnh 1

Sarah Katz, cựu quản trị viên Facebook

Để phục vụ hơn 2 tỷ người dùng, Facebook đã phải thuê 4.500 quản trị viên như Katz trong năm ngoái, và tháng 5/2017 hãng tuyên bố dự định thuê thêm 3.000 nhân viên nữa trong một nỗ lực chống tin giả mạo cũng như nội dung không phù hợp. Facebook cũng đang nghiên cứu trí tuệ nhân tạo đẻ giúp kiểm soát những bài đăng vi phạm quy tắc của mình.

Do sức ép từ scandal Cambridge Analytica, Facebook đã buộc phải công bố một báo cáo minh bạch hồi tháng 5, trong đó mạng xã hội cho biết chỉ tính riêng 3 tháng đầu năm mình đã “hành động cương quyết” với hơn 21 triệu bài đăng không phù hợp bao gồm ảnh khỏa thân và khiêu dâm, bên cạnh đó là 3,4 triệu bài đăng chứa hình ảnh bạo lực. Đó là chưa kể đến con số hàng triệu bài đăng khác ngôn ngữ không phù hợp, spam và nội dung khủng bố cũng bị loại bỏ.

Quản trị viên Facebook phải ký giấy từ bỏ quyền của mình trước khi được vào làm

Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh - ảnh 2

Hợp đồng của Facebook với quản trị viên nêu rõ công việc sẽ bao gồm phải xem rất nhiều nội dung và tư liệu độc hại

Nhân viên review nội dung Facebook phải ký một tờ giấy từ bỏ quyền của mình, về cơ bản là xác nhận mình đã nhận thức được công việc sẽ bao gồm việc phải xem và nhìn rất nhiều nội dung chướng tai gai mắt, trước khi bắt đầu hành trình làm việc tại mạng xã hội này. Bản hợp đồng cũng là một lá bùa hộ mệnh bảo vệ Facebook trước bất kỳ tranh chấp pháp lý nào có thể xảy ra.

Katz cho biết trong giấy từ bỏ quyền của mình nói rằng quản trị viên sẽ phải xem những nội dung “có thể khó coi với mọi người”, bao gồm cả ảnh khiêu dâm. Hợp đồng còn nói thêm rằng nhân viên nên “nhanh chóng thông báo” với Facebook nếu họ “không muốn làm nữa”.

“Facebook sở hữu hàng tỷ người dùng, và rất nhiều người không biết, hoặc không muốn sử dụng nền tảng này sao cho đúng. Vậy nên hàng ngày tôi phải kiểm duyệt rất nhiều nội dung bao gồm video về khiêu dâm, quan hệ với thú vật, hay bạo lực. Có rất nhiều nội dung những người dùng phổ thông sẽ không bao giờ muốn thấy chia sẻ trên Facebook”, Katz nói với Business Insider.

Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh - ảnh 3

Không chỉ Sarah, rất nhiều quản trị viên khác đang ngày đêm xem những nội dung không phù hợp, để người dùng không phải nhìn thấy chúng trên Facebook.

Nếu một “ticket” - cách Facebook gọi những bài đăng cần kiểm duyệt lại không đạt yêu cầu quá 3 lần, moderator đó sẽ bị đuổi việc. "Quản trị viên sẽ bị cảnh cáo nếu không đạt mục tiêu “một hoặc hai lần, nhiều hơn ba lần, bạn sẽ phải đi khỏi đây”. Katz cho biết cô chưa bao giờ chứng kiến ai bị đuổi việc nhưng đó là một quy tắc được hiểu ngầm giữa các quản trị viên với nhau.

“Sau một thời gian, nó trở thành một dạng công việc nhàm chán. Bạn sẽ dần chai sạn hơn với những tư liệu bạo lực khó coi bởi bạn phải nhìn chúng quá nhiều hằng ngày. Rất nhiều nội dung thường hay được đăng đi đăng lại”, cô tâm sự.

Nếu không có những người như Katz, Facebook sẽ còn có cả phim ấu dâm

Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh - ảnh 4

Sarah Katz cho biết có một lần cô đã phải xử lý một bức ảnh và video rất xấu xa cứ liên tục xuất hiện trong hàng chờ video đợi kiểm duyệt. Video quay cảnh hai đứa trẻ độ tuổi từ 9 đến 12 tuổi, bán khỏa thân từ nửa dưới thắt lưng và có những hành động đụng chạm cơ thể nhau - rõ ràng có sự dàn dựng của bàn tay người lớn đằng sau.

“Nó cứ liên tục quay trở lại và xuất hiện nhiều lần trong ngày. Mỗi lần vị trí địa lý của người gửi lại thay đổi - khi thì tại Pakistan, nhưng ngày hôm sau lại ngay trên đất Mỹ, Rất khó để định vị được kẻ xấu đã tung video này ở đâu”, cô nói.

Chưa hết, tại thời đó, Katz được lệnh không báo xấu tài khoản chia sẻ đoạn clip độc hại: “Nếu tài khoản người dùng ít hơn 30 ngày tuổi, chúng tôi sẽ vô hiệu hóa tài khoản và coi đó là account giả. Tuy nhiên, nếu đã hoạt động hơn 30 ngày, Facebook sẽ chỉ đơn giản là loại bỏ nội dung không phù hợp và không làm gì tài khoản chia sẻ cả”. Điều này dấy lên câu hỏi về những hiệu quả thực tiễn của hàng loạt nỗ lực từ Facebook chống lại lợi dụng trẻ em trên nền tảng của mình.

Về phần mình, công ty cho biết hồi 2012 rằng Facebook báo cáo tất cả mọi trường hợp phát hiện lợi dụng trẻ em tới Trung tâm Quốc gia Mỹ về Mất tích và Lợi dụng Trẻ em:

“Chúng tôi cương quyết không chấp nhận nội dung ấu dâm được đăng tải lên Facebook cũng như cực kỳ gay gắt trong việc ngăn chặn và loại bỏ nội dung liên quan đến lợi dụng trẻ em”, một phát ngôn viên mạng xã hội cho biết tại thời điểm đó.

Tuy nhiên, mạng xã hội của CEO Mark Zuckereberg đã từ chối bình luận về sự không nhất quán giữa câu chuyện Katz kể và chính sách của mình.

Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh - ảnh 5

Giữ được Facebook "trong sạch" và an toàn là điều không hề dễ dàng

Quản trị viên sẽ là công việc AI không bao giờ thay thế được

Sau 8 tháng làm việc dưới vai trò quản trị viên duyệt tin của Facebook, Sarah Katz giờ đây đã làm nhà phân tích an ninh mạng cho công ty điện toán đám mây ServiceNow và cho ra đời cuốn tiểu thuyết khoa học viễn tưởng đầu tay của mình mang tên Apex Five, lấy cảm hứng từ thời gian cô làm việc tài Facebook.

Dù thừa nhận 8 tháng của mình tại Đế chế chữ F màu xanh quá căng thẳng và không dễ dàng vượt qua, Katz lại tỏ ra rất phấn khởi và hào hứng khi nói về trải nghiệm của mình tại đó, cho rằng những mặt trái của công việc tăm tối mình từng làm hoàn toàn xứng đáng với cảm giác hạnh phúc vì cô đang bảo vệ được hàng tỷ người dùng và cô ủng hộ các công ty công nghệ tìm cách biến quản trị viên thành một công ăn việc làm thực sự thay vì chỉ là một công việc ngắn hạn.

“Sẽ luôn cần có người thật kiểm duyệt bài đăng, AI sẽ không thể đảm nhận được toàn bộ phần việc, dù nó có tiến bộ vượt trội đến thế nào đi nữa, đó chính là mặt trái lớn nhất của công việc này”, Sarah bộc bạch.

Facebook cho biết: "Đội ngũ nhân viên kiểm duyệt nội dung toàn cầu của chúng tôi đóng vai trò then chốt góp phần tạo nên một môi trường an toàn hơn cho cộng đồng Facebook, vốn là ưu tiên hàng đầu tại Facebook. Chúng tôi hiểu rằng công việc này đôi khi có thể trở nên áp lực và căng thẳng, vậy nên hỗ trợ về sức khỏe thể chất cũng như tinh thần luôn luôn sẵn sàng cho các nhân viên của chúng tôi”.

Công Minh (theo BI) - BI

Phát hành đặc biệt bộ tem kỷ niệm 90 năm thành lập Đảng Cộng sản Việt Nam

Chiều 31/1, tại Hà Nội, Bộ TT&TT và Ban Tuyên giáo Trung ương tổ chức Lễ phát hành đặc biệt bộ tem “Kỷ niệm 90 năm thành lập Đảng Cộng sản Việt Nam (3/2/1930-3/2/2020)”. Trước đó, Bưu chính Việt Nam đã phát hành 10 bộ tem về Đảng Cộng sản Việt Nam.

Trao giải Báo chí với phát triển bền vững 2019 và phát động cuộc thi năm 2020

Ngày 10/1/2020, Viện Nghiên cứu Truyền thông phát triển (RED), các đơn vị đồng hành tổ chức lễ trao “Giải Báo chí với phát triển bền vững 2019” và phát động “Giải Báo chí với phát triển bền vững 2020”.

Hà Nội quy hoạch báo chí, giảm 10 tòa soạn báo, tạp chí

Sau sắp xếp, Hà Nội còn 8 cơ quan báo chí, trong đó có 5 báo in, 1 đài truyền hình Hà Nội và 2 tạp chí.

Sách Quốc gia 2019: Bộ sách đồ sộ của cố GS Phan Huy Lê được vinh danh

Bộ sách "Vùng đất Nam Bộ - Quá trình hình thành và phát triển" do cố Giáo sư Phan Huy Lê tổng chủ biên cùng "Động vật chí và Thực vật chí VN" đạt giải A Giải thưởng Sách Quốc gia lần thứ 2.

Giải thưởng sách Quốc gia: Mục tiêu cao nhất là lan tỏa tới độc giả

"Giải thưởng Sách Quốc gia hướng tới mục tiêu cao nhất là tạo sự lan tỏa ngày càng sâu rộng trong đời sống văn hóa, xã hội", Thứ trưởng Bộ Thông tin và Truyền thông Hoàng Vĩnh Bảo chia sẻ.

Hà Tĩnh: Dịch vụ bưu chính công ích phát huy tốt vai trò và lợi thế

Việc giải quyết thủ tục hành chính qua dịch vụ bưu chính công ích trên địa bàn Hà Tĩnh đã đi vào ổn định và đang phát huy được vai trò lợi thế, tạo điều kiện thuận lợi và tiết kiệm chi phí, thời gian cho nhân dân khi thực hiện các thủ hành chính.

Hỏi ông Putin câu hỏi "chưa được duyệt", nữ phóng viên bị nghỉ việc bí ẩn?

Truyền thông Nga đang có suy đoán khác nhau về việc 1 nữ phóng viên đã bị buộc xin thôi việc sau khi đặt câu hỏi bất ngờ cho ông Putin trong cuộc họp báo thường niên ngày 19/12.

Cục Tần số: Sắp đấu giá băng tần 2.6Ghz để nâng cao chất lượng mạng 4G

ICTnews - Theo ông Lê Văn Tuấn, Phó Cục Trưởng Cục Tần số Vô tuyến điện, Bộ TT&TT đang khẩn trương chuẩn bị đấu giá băng tần 2.6 Ghz để các nhà mạng tiếp tục mở rộng, nâng cao chất lượng mạng 4G, đáp ứng nhu cầu ngày càng tăng của người sử dụng.

Cục trưởng Cục Viễn thông: "Thị trường viễn thông đã bão hòa, khó phát triển thuê bao di động"

ICTnews - Ông Hoàng Minh Cường, Cục trưởng Cục Viễn thông cho biết, thị trường viễn thông đã bão hòa, khó phát triển thuê bao mới. Vì vậy, Cục sẽ cần nghiên cứu phương án tạo động lực cạnh tranh lành mạnh trên thị trường.

Các ngôi sao công nghệ thế giới sẽ đến Việt Nam vào tháng 9/2020

Hội nghị và triển lãm Thế giới số 2020 (ITU Digital World 2020) là sự kiện quan trọng của Liên minh Viễn thông Quốc tế (ITU) do Việt Nam đăng cai sẽ diễn ra từ 06-09/09/2020 tại Hà Nội.

Đang cập nhật dữ liệu !