Facebook cần 30.000 người để kiểm duyệt nội dung xấu

Hãy tưởng tượng nếu Facebook ngừng kiểm duyệt các bài đăng lên mạng xã hội. Lúc đó, bất cứ ai cũng có thể đăng bất cứ gì họ muốn.


Facebook cần 30.000 người để kiểm duyệt nội dung xấu

Kinh nghiệm cho thấy Facebook sẽ nhanh chóng trở thành một địa ngục tràn ngập thư rác, bắt nạt, tội phạm, chặt đầu khủng bố, văn bản giả mạo và các hình ảnh lạm dụng tình dục trẻ em... Trong kịch bản đó, rất nhiều người dùng có thể sẽ rời bỏ Facebook, tiếp theo là các nhà quảng cáo.


Nhưng nếu kiểm duyệt quan trọng đến như vậy, Facebook cần đầu tư cho khâu này bao nhiêu?


Hiện nay, Facebook có khoảng 15.000 người dành cả ngày để xem xét, quyết định những gì có thể đưa lên Facebook. Nhưng 15.000 người là chưa đủ.


Toàn bộ chức năng kiểm duyệt nội dung đang được khoán cho nhà cung cấp bên thứ ba đảm nhiệm, và những nhà cung cấp này lại thuê những lao động tạm thời với những hợp đồng bấp bênh tại hơn 20 địa điểm trên toàn thế giới. Họ phải xem lại hàng trăm bài đăng mỗi ngày, trong đó có nhiều bài viết rất bi thảm. Lỗi vẫn còn đầy rẫy, mặc dù công ty đã áp dụng các công cụ AI để xử lý các bài đăng có vấn đề.


Bản thân Facebook đã thừa nhận tỷ lệ lỗi 10%, kể cả việc những bài viết bị gắn cờ không chính xác. Như vậy, những nhân viên kiểm duyệt nội dung Facebook phải lội qua ba triệu bài đăng mỗi ngày, tương đương với 300.000 lỗi. Một số lỗi có thể nguy hiểm chết người. Ví dụ, các thành viên của quân đội Myanmar, đã sử dụng Facebook để kích động tội ác diệt chủng đối với người thiểu số Rohingya theo đạo Hồi vào năm 2016 và 2017. Công ty sau đó đã thừa nhận thất bại trong việc thực thi chính sách cấm phát ngôn thù hận và kích động bạo lực.


Nếu muốn cải thiện cách thức kiểm duyệt, Facebook cần sử dụng những nhân viên kiểm duyệt nội dung của chính họ, những nhân viên toàn thời gian, và tăng gấp đôi số lượng, theo một báo cáo mới của Trung tâm Kinh doanh và Nhân quyền Đại học New York.


"Công việc kiểm duyệt nội dung không giống như những công việc thuê khoán khác, như nấu ăn hay dọn dẹp" tác giả báo cáo Paul M. Barrett, phó giám đốc trung tâm cho biết. "Đây là một công việc quan trọng của một mạng xã hội, và Facebook đang làm điều đó như thể nó chỉ là thứ yếu hoặc là vấn đề của một ai khác".


Tại sao các nhà lãnh đạo Facebook lại xử lý kiểm duyệt nội dung theo cách này? Ít nhất là để  giảm chi phí, Barrett nói. Nếu làm theo các khuyến nghị của ông sẽ rất tốn kém mặc dù nó có thể tạo ra viễn cảnh Facebook thu được hàng tỷ USD lợi nhuận mỗi năm. Nhưng có một lý do thứ hai, phức tạp hơn. Các hoạt động kiểm duyệt nội dung vừa không phù hợp với hình ảnh hào nhoáng của Silicon Valley. Một số loại hoạt động được đánh giá rất cao là đổi mới sản phẩm, tiếp thị thông minh, kỹ thuật, nhưng điều tiết nội dung lại không phù hợp với khung cảnh đó của thung lũng Silicon.


Paul M. Barrett cho rằng đây đã tới lúc Facebook cần xem điều tiết nội dung là một phần trung tâm trong hoạt động kinh doanh của mình. Ông nói việc nâng cao vị thế của mình theo cách này sẽ giúp tránh các loại lỗi thảm khốc như ở Myanmar, tăng trách nhiệm và bảo vệ nhân viên tốt hơn trước những tổn hại đến sức khỏe tâm thần của họ.


Dường như một thực tế không thể tránh khỏi là công việc kiểm duyệt nội dung sẽ luôn liên quan đến sự bắt buộc phải tiếp xúc với một số dữ liệu khủng khiếp. Tuy nhiên, nhiều công ty có thể giảm nhẹ tác động, bằng cách đảm bảo những nhân viên này thực sự nhận thức được tính rủi ro của công việc, đảm bảo họ được hưởng dịch vụ chăm sóc và tư vấn hạng nhất. Barrett nghĩ rằng kiểm duyệt nội dung có thể là điều mà tất cả nhân viên của Facebook được yêu cầu phải thực hiện trong ít nhất một năm dưới dạng "nghĩa vụ quân sự" để giúp họ hiểu được tác động các quyết định của họ.


Ngoài ra, báo cáo đưa ra 8 khuyến nghị cho Facebook:


Ngừng thuê khoán công việc kiểm duyệt nội dung và nâng cao vị thế của những nhân viên kiểm duyệt này.


Nhân đôi số lượng nhân viên kiểm duyệt để cải thiện chất lượng đánh giá nội dung.


Thuê người giám sát và kiểm tra thực tế, báo cáo trực tiếp cho CEO hoặc COO.


Tiếp tục mở rộng phạm vi kiểm duyệt ở các quốc gia có nguy cơ tại Châu Á, Châu Phi và các nơi khác.


Cung cấp dịch vụ chăm sóc y tế tại chỗ, chất lượng hàng đầu cho các nhân viên kiểm duyệt, bao gồm cả gói giới thiệu bác sĩ tâm thần.


Đầu tư tiền để nghiên cứu về các rủi ro sức khỏe của người kiểm duyệt nội dung.


Tìm hiểu các quy định riêng của từng chính phủ về vấn đề nội dung lên mạng xã hội.


Tăng cường kiểm tra thực tế để gỡ những thông tin sai lệch.


Theo Technology Review, những yêu cầu trên có phần khắt khe, song Barrett nghĩ rằng Facebook có thể nhìn thấy sự thay đổi là có thể qua cuộc khủng hoảng tin tức trong đại dịch COVID-19. 


"Tôi nhận thấy mọi thứ rõ ràng trong thời khắc khủng hoảng. Zuckerberg đã dựa vào những người mà ông tin cậy: chính là các nhân viên toàn thời gian", Barrett nói. "Có thể xem đó là một điển hình để Facebook điều chỉnh cách họ nhìn nhận về công việc điều tiết nội dung".


(Theo VnReview, TechnologyReview)









Facebook can 30.000 nguoi de kiem duyet noi dung xau


Hay tuong tuong neu Facebook ngung kiem duyet cac bai dang len mang xa hoi. Luc do, bat cu ai cung co the dang bat cu gi ho muon.


Facebook can 30.000 nguoi de kiem duyet noi dung xau

Kinh nghiem cho thay Facebook se nhanh chong tro thanh mot dia nguc tran ngap thu rac, bat nat, toi pham, chat dau khung bo, van ban gia mao va cac hinh anh lam dung tinh duc tre em... Trong kich ban do, rat nhieu nguoi dung co the se roi bo Facebook, tiep theo la cac nha quang cao.


Nhung neu kiem duyet quan trong den nhu vay, Facebook can dau tu cho khau nay bao nhieu?


Hien nay, Facebook co khoang 15.000 nguoi danh ca ngay de xem xet, quyet dinh nhung gi co the dua len Facebook. Nhung 15.000 nguoi la chua du.


Toan bo chuc nang kiem duyet noi dung dang duoc khoan cho nha cung cap ben thu ba dam nhiem, va nhung nha cung cap nay lai thue nhung lao dong tam thoi voi nhung hop dong bap benh tai hon 20 dia diem tren toan the gioi. Ho phai xem lai hang tram bai dang moi ngay, trong do co nhieu bai viet rat bi tham. Loi van con day ray, mac du cong ty da ap dung cac cong cu AI de xu ly cac bai dang co van de.


Ban than Facebook da thua nhan ty le loi 10%, ke ca viec nhung bai viet bi gan co khong chinh xac. Nhu vay, nhung nhan vien kiem duyet noi dung Facebook phai loi qua ba trieu bai dang moi ngay, tuong duong voi 300.000 loi. Mot so loi co the nguy hiem chet nguoi. Vi du, cac thanh vien cua quan doi Myanmar, da su dung Facebook de kich dong toi ac diet chung doi voi nguoi thieu so Rohingya theo dao Hoi vao nam 2016 va 2017. Cong ty sau do da thua nhan that bai trong viec thuc thi chinh sach cam phat ngon thu han va kich dong bao luc.


Neu muon cai thien cach thuc kiem duyet, Facebook can su dung nhung nhan vien kiem duyet noi dung cua chinh ho, nhung nhan vien toan thoi gian, va tang gap doi so luong, theo mot bao cao moi cua Trung tam Kinh doanh va Nhan quyen Dai hoc New York.


"Cong viec kiem duyet noi dung khong giong nhu nhung cong viec thue khoan khac, nhu nau an hay don dep" tac gia bao cao Paul M. Barrett, pho giam doc trung tam cho biet. "Day la mot cong viec quan trong cua mot mang xa hoi, va Facebook dang lam dieu do nhu the no chi la thu yeu hoac la van de cua mot ai khac".


Tai sao cac nha lanh dao Facebook lai xu ly kiem duyet noi dung theo cach nay? It nhat la de  giam chi phi, Barrett noi. Neu lam theo cac khuyen nghi cua ong se rat ton kem mac du no co the tao ra vien canh Facebook thu duoc hang ty USD loi nhuan moi nam. Nhung co mot ly do thu hai, phuc tap hon. Cac hoat dong kiem duyet noi dung vua khong phu hop voi hinh anh hao nhoang cua Silicon Valley. Mot so loai hoat dong duoc danh gia rat cao la doi moi san pham, tiep thi thong minh, ky thuat, nhung dieu tiet noi dung lai khong phu hop voi khung canh do cua thung lung Silicon.


Paul M. Barrett cho rang day da toi luc Facebook can xem dieu tiet noi dung la mot phan trung tam trong hoat dong kinh doanh cua minh. Ong noi viec nang cao vi the cua minh theo cach nay se giup tranh cac loai loi tham khoc nhu o Myanmar, tang trach nhiem va bao ve nhan vien tot hon truoc nhung ton hai den suc khoe tam than cua ho.


Duong nhu mot thuc te khong the tranh khoi la cong viec kiem duyet noi dung se luon lien quan den su bat buoc phai tiep xuc voi mot so du lieu khung khiep. Tuy nhien, nhieu cong ty co the giam nhe tac dong, bang cach dam bao nhung nhan vien nay thuc su nhan thuc duoc tinh rui ro cua cong viec, dam bao ho duoc huong dich vu cham soc va tu van hang nhat. Barrett nghi rang kiem duyet noi dung co the la dieu ma tat ca nhan vien cua Facebook duoc yeu cau phai thuc hien trong it nhat mot nam duoi dang "nghia vu quan su" de giup ho hieu duoc tac dong cac quyet dinh cua ho.


Ngoai ra, bao cao dua ra 8 khuyen nghi cho Facebook:


Ngung thue khoan cong viec kiem duyet noi dung va nang cao vi the cua nhung nhan vien kiem duyet nay.


Nhan doi so luong nhan vien kiem duyet de cai thien chat luong danh gia noi dung.


Thue nguoi giam sat va kiem tra thuc te, bao cao truc tiep cho CEO hoac COO.


Tiep tuc mo rong pham vi kiem duyet o cac quoc gia co nguy co tai Chau A, Chau Phi va cac noi khac.


Cung cap dich vu cham soc y te tai cho, chat luong hang dau cho cac nhan vien kiem duyet, bao gom ca goi gioi thieu bac si tam than.


Dau tu tien de nghien cuu ve cac rui ro suc khoe cua nguoi kiem duyet noi dung.


Tim hieu cac quy dinh rieng cua tung chinh phu ve van de noi dung len mang xa hoi.


Tang cuong kiem tra thuc te de go nhung thong tin sai lech.


Theo Technology Review, nhung yeu cau tren co phan khat khe, song Barrett nghi rang Facebook co the nhin thay su thay doi la co the qua cuoc khung hoang tin tuc trong dai dich COVID-19. 


"Toi nhan thay moi thu ro rang trong thoi khac khung hoang. Zuckerberg da dua vao nhung nguoi ma ong tin cay: chinh la cac nhan vien toan thoi gian", Barrett noi. "Co the xem do la mot dien hinh de Facebook dieu chinh cach ho nhin nhan ve cong viec dieu tiet noi dung".


(Theo VnReview, TechnologyReview)


Facebook cần 30.000 người để kiểm duyệt nội dung xấu

Hãy tưởng tượng nếu Facebook ngừng kiểm duyệt các bài đăng lên mạng xã hội. Lúc đó, bất cứ ai cũng có thể đăng bất cứ gì họ muốn.
Giới thiệu cho bạn bè
  • gplus
  • pinterest

Bình luận

Đăng bình luận

Đánh giá: