Mobile

Facebook sử dụng AI để thanh lọc ảnh nóng “trả thù tình”
Thứ Bảy,  16/3/2019, 11:33 
Chánh Tài

Facebook sử dụng AI để thanh lọc ảnh nóng “trả thù tình”

Chánh Tài

(TBKTSG Online) - Hôm 15-3, công ty mạng xã hội Facebook thông báo đang vận hành một công cụ trí tuệ nhân tạo (AI) mới, giúp chủ động phát hiện và loại bỏ những hình ảnh và video riêng tư, nhạy cảm được người dùng đăng lên nhằm mục đích trả thù tình.

Facebook đang nỗ lực hỗ trợ người dùng ngăn chặn các hành vi đăng trái phép hình ảnh, video riêng tư của họ lên Facebook nhằm trả thù tình. Ảnh: Betanews

Tờ The Verge cho biết công cụ này sẽ hoạt động trên Facebook lẫn Instagram (công ty con của Facebook). Không giống như các công cụ lọc hiện tại của Facebook, công cụ mới được huấn luyện để nhận ra hình ảnh từ mức bán khỏa thân (chẳng hạn các hình ảnh mặc đồ lót) và những từ ngữ nhục mạ kèm theo đó để đưa ra kết luận rằng ai đó đã đăng ảnh nhạy cảm để trả thù tình. Sau đó, nó sẽ cảnh báo cho các nhân viên điều tiết nội dung của Facebook để họ thẩm định và ra quyết định gỡ bỏ nếu chúng vi phạm các tiêu chuẩn cộng đồng của Facebook.

Không chỉ vậy, Facebook cho biết trong hầu hết các báo cáo về nội dung vi phạm các tiêu chuẩn cộng đồng, các tài tài khoản chia sẻ nội dung này cũng sẽ bị khóa.

Hiện tại, người dùng phải báo cáo những hình ảnh nhạy cảm “trả thù tình” cho Facebook và Instagram và đến lúc sự việc xử lý xong thì những hình ảnh và video nhạy cảm đó đã phát tán rộng rãi rồi. Nhiều cô gái khi bị bạn trai cũ tung ảnh hoặc clip nóng liên quan đến họ lên Facebook để trả thù cho việc chia tay. Không ít cô gái đã tự tử hoặc có ý định như vậy vì cảm thấy nhục nhã hoặc không chịu nổi áp lực dư luận và những lời bình luận ác ý.

Antigone Davis, Giám đốc An toàn toàn cầu của Facebook, cho biết các nạn nhân thường ngại báo cáo hoặc không biết rằng các nội dung đó đã được chia sẻ. Công cụ mới giúp nhanh chóng phát hiện các nội dụng dung tục để trả thù tình rồi gửi chúng cho các nhân viên điều tiết trước khi người dùng khác báo cáo chúng.

Hiệu quả của công cụ mới vẫn khó để đánh giá. Trong khi, các công cụ tự động của Facebook trước đây có thể giúp loại bỏ những nội dung vi phạm các tiêu chuẩn cộng đồng (chẳng hạn tuyên truyền khủng bố), chúng khó xác định được các hình ảnh và video nào vi phạm nếu không có ngữ cảnh kèm theo.

Chẳng hạn như hồi năm 2016, Facebook gỡ bỏ bức ảnh đoạt giải Pulitzer “Em bé Napalm” của phóng viên ảnh Nick Út của hãng thông tấn AP vì cho rằng có nội dung khỏa thân. Bức ảnh ghi lại cảnh cô bé Phan Thị Kim Phúc 9 tuổi đang khóc và chạy trong tình trạng trần truồng, bị bỏng nặng do bị bom napalm làm cháy hết quần áo trong vụ máy bay Việt Nam Cộng hòa dội bom xuống một ngôi làng ở Trảng Bàng, Tây Ninh hồi năm 1972.

Nhà văn người Na Uy Tom Egeland, người đã đăng bức ảnh nổi tiếng này trên trang Facebook cá nhân, đã bị tạm khóa tài khoản trong 24 tiếng. Facebook bị dư luận phản ứng dữ dội vì sự kiểm duyệt mang tính máy móc này. Sau đó, Facebook đã sửa sai bằng cách thu hồi quyết định kiểm duyệt và trả lại bức hình về đúng những trang đã đăng nhưng bị xóa.

Facebook cũng cho biết sẽ mở rộng một chương trình thử nghiệm, cho phép người dùng chủ động gửi các bức ảnh nhạy cảm của họ đến Facebook. Sau đó, các chuyên gia của Facebook tạo ra “dấu vân tay kỹ thuật số” cho các bức ảnh và lưu trữ vào kho dữ liệu để đối chiếu với các bức ảnh đăng trên mạng xã hội này trong tương lai. Nếu phát hiện có sự trùng khớp, Facebook sẽ gỡ bỏ.

Chương trình này gây tranh cãi khi mới được giới thiệu nhưng được các nạn nhân và các tổ chức bảo vệ quyền lợi nạn nhân ủng hộ vì nó cho phép ngăn chặn những vụ tống tình, trả thù tình bằng cách đăng ảnh nhạy cảm của người yêu cũ.

Ngoài ra, Facebook còn bổ sung mục hỗ trợ nạn nhân có tên gọi “Không được sự đồng ý của tôi” ở trang Trung tâm an toàn của Facebook, nơi mà người dùng có những hình ảnh bị chia sẻ trái phép có thể tìm các tổ chức và nguồn lực để giúp đỡ họ, bao gồm thông tin hướng dẫn họ loại bỏ các hình ảnh đăng trái phép khỏi Facebook.


 

TIN BÀI LIÊN QUAN
In bài
Gửi bài cho bạn bè
CÙNG CHUYÊN MỤC

Facebook sử dụng AI để thanh lọc ảnh nóng “trả thù tình”

Chánh Tài
Thứ Bảy,  16/3/2019, 11:33 

Facebook sử dụng AI để thanh lọc ảnh nóng “trả thù tình”

Chánh Tài

(TBKTSG Online) - Hôm 15-3, công ty mạng xã hội Facebook thông báo đang vận hành một công cụ trí tuệ nhân tạo (AI) mới, giúp chủ động phát hiện và loại bỏ những hình ảnh và video riêng tư, nhạy cảm được người dùng đăng lên nhằm mục đích trả thù tình.

Facebook đang nỗ lực hỗ trợ người dùng ngăn chặn các hành vi đăng trái phép hình ảnh, video riêng tư của họ lên Facebook nhằm trả thù tình. Ảnh: Betanews

Tờ The Verge cho biết công cụ này sẽ hoạt động trên Facebook lẫn Instagram (công ty con của Facebook). Không giống như các công cụ lọc hiện tại của Facebook, công cụ mới được huấn luyện để nhận ra hình ảnh từ mức bán khỏa thân (chẳng hạn các hình ảnh mặc đồ lót) và những từ ngữ nhục mạ kèm theo đó để đưa ra kết luận rằng ai đó đã đăng ảnh nhạy cảm để trả thù tình. Sau đó, nó sẽ cảnh báo cho các nhân viên điều tiết nội dung của Facebook để họ thẩm định và ra quyết định gỡ bỏ nếu chúng vi phạm các tiêu chuẩn cộng đồng của Facebook.

Không chỉ vậy, Facebook cho biết trong hầu hết các báo cáo về nội dung vi phạm các tiêu chuẩn cộng đồng, các tài tài khoản chia sẻ nội dung này cũng sẽ bị khóa.

Hiện tại, người dùng phải báo cáo những hình ảnh nhạy cảm “trả thù tình” cho Facebook và Instagram và đến lúc sự việc xử lý xong thì những hình ảnh và video nhạy cảm đó đã phát tán rộng rãi rồi. Nhiều cô gái khi bị bạn trai cũ tung ảnh hoặc clip nóng liên quan đến họ lên Facebook để trả thù cho việc chia tay. Không ít cô gái đã tự tử hoặc có ý định như vậy vì cảm thấy nhục nhã hoặc không chịu nổi áp lực dư luận và những lời bình luận ác ý.

Antigone Davis, Giám đốc An toàn toàn cầu của Facebook, cho biết các nạn nhân thường ngại báo cáo hoặc không biết rằng các nội dung đó đã được chia sẻ. Công cụ mới giúp nhanh chóng phát hiện các nội dụng dung tục để trả thù tình rồi gửi chúng cho các nhân viên điều tiết trước khi người dùng khác báo cáo chúng.

Hiệu quả của công cụ mới vẫn khó để đánh giá. Trong khi, các công cụ tự động của Facebook trước đây có thể giúp loại bỏ những nội dung vi phạm các tiêu chuẩn cộng đồng (chẳng hạn tuyên truyền khủng bố), chúng khó xác định được các hình ảnh và video nào vi phạm nếu không có ngữ cảnh kèm theo.

Chẳng hạn như hồi năm 2016, Facebook gỡ bỏ bức ảnh đoạt giải Pulitzer “Em bé Napalm” của phóng viên ảnh Nick Út của hãng thông tấn AP vì cho rằng có nội dung khỏa thân. Bức ảnh ghi lại cảnh cô bé Phan Thị Kim Phúc 9 tuổi đang khóc và chạy trong tình trạng trần truồng, bị bỏng nặng do bị bom napalm làm cháy hết quần áo trong vụ máy bay Việt Nam Cộng hòa dội bom xuống một ngôi làng ở Trảng Bàng, Tây Ninh hồi năm 1972.

Nhà văn người Na Uy Tom Egeland, người đã đăng bức ảnh nổi tiếng này trên trang Facebook cá nhân, đã bị tạm khóa tài khoản trong 24 tiếng. Facebook bị dư luận phản ứng dữ dội vì sự kiểm duyệt mang tính máy móc này. Sau đó, Facebook đã sửa sai bằng cách thu hồi quyết định kiểm duyệt và trả lại bức hình về đúng những trang đã đăng nhưng bị xóa.

Facebook cũng cho biết sẽ mở rộng một chương trình thử nghiệm, cho phép người dùng chủ động gửi các bức ảnh nhạy cảm của họ đến Facebook. Sau đó, các chuyên gia của Facebook tạo ra “dấu vân tay kỹ thuật số” cho các bức ảnh và lưu trữ vào kho dữ liệu để đối chiếu với các bức ảnh đăng trên mạng xã hội này trong tương lai. Nếu phát hiện có sự trùng khớp, Facebook sẽ gỡ bỏ.

Chương trình này gây tranh cãi khi mới được giới thiệu nhưng được các nạn nhân và các tổ chức bảo vệ quyền lợi nạn nhân ủng hộ vì nó cho phép ngăn chặn những vụ tống tình, trả thù tình bằng cách đăng ảnh nhạy cảm của người yêu cũ.

Ngoài ra, Facebook còn bổ sung mục hỗ trợ nạn nhân có tên gọi “Không được sự đồng ý của tôi” ở trang Trung tâm an toàn của Facebook, nơi mà người dùng có những hình ảnh bị chia sẻ trái phép có thể tìm các tổ chức và nguồn lực để giúp đỡ họ, bao gồm thông tin hướng dẫn họ loại bỏ các hình ảnh đăng trái phép khỏi Facebook.


 

In bài
Gửi bài cho bạn bè
Top
 
Giấy phép Báo điện tử số: 2302/GP-BTTTT, cấp ngày 29/11/2012
Tổng biên tập: Trần Minh Hùng.
Phó tổng biên tập: Phan Chiến Thắng.
Thư ký tòa soạn: Hồng Văn; Phó thư ký tòa soạn: Yến Dung.
Tòa soạn: Số 35 Nam Kỳ Khởi Nghĩa, Quận 1, TP.HCM. ĐT:(8428)3829 5936; Fax:(8428)3829 4294; Email: online@kinhtesaigon.vn
Thời báo Kinh tế Sài Gòn giữ bản quyền nội dung của trang web thesaigontimes.vn. Không sử dụng lại nội dung trên trang này dưới mọi hình thức, trừ khi được Thời báo Kinh tế Sài Gòn đồng ý bằng văn bản.
Trang ngoài sẽ được mở ra ở cửa sổ mới. Thời báo Kinh tế Sài Gòn Online không chịu trách nhiệm nội dung trang ngoài.
Bản quyền thuộc về SaigonTimesGroup.