Công cụ mới của Instagram dựa trên trí tuệ nhân tạo (AI) hỗ trợ kiểm duyệt tự động các hình ảnh có nội dung bạo lực.
“Phần lớn hình ảnh chia sẻ trên Instagram là tích cực và mang lại niềm vui, nhưng vẫn có số ít trong đó không tốt hoặc không mong muốn. Chúng tôi đang sử dụng công nghệ máy học để chủ động phát hiện những hành động bạo lực trong ảnh hoặc chú thích được đăng tải”, Adam Mosseri, người vừa được bổ nhiệm phụ trách Instagram, cho biết trong một thông cáo báo chí.
Theo Fiona Brown, người đứng đầu bộ phận truyền thông tại Instagram, việc phát hiện yếu tố bạo lực trong hình ảnh khó hơn rất nhiều so với các nội dung bằng chữ. Tuy nhiên, với hệ thống mới, một hình ảnh hoặc chú thích sau khi tải lên sẽ được AI so sánh, xếp hạng và phân tích, sau đó tham chiếu đến cơ sở dữ liệu có sẵn trước khi đánh giá nó là tích cực hay tiêu cực. Đồng thời, hệ thống cũng phát hiện dựa trên các bình luận của bạn bè của chủ tài khoản.
Hệ thống AI mới có thể giảm vấn đề bạo lực trên Instagram.
Bên cạnh hệ thống trên, Instagram còn được bổ sung các công cụ chống bạo lực khác, gồm bộ lọc nhận xét mới khi phát video trực tiếp và các hiệu ứng camera.
Việc vận dụng AI cho Instagram là nỗ lực mới nhất của Facebook trong việc ngăn chặn bạo lực và quấy rối trên các nền tảng mà họ điều hành. Trong tháng này, mạng xã hội đã giới thiệu công cụ chống bạo lực riêng, trong đó cho phép người dùng tùy chọn xóa hoặc ẩn hàng loạt các bình luận trêu chọc, công kích hoặc gây tổn thương tinh thần khỏi nguồn cấp dữ liệu. Bên cạnh đó, nếu tần suất các bình luận tăng, hệ thống sẽ thay nạn nhân tự động báo cáo (report) lên Facebook.
Trước đó, Facebook cũng thuê hơn 7.500 nhân viên phục vụ cho kiểm duyệt các nội dung trên hai nền tảng chính Facebook và Instagram. Mạng xã hội này cũng đưa vào nhiều công nghệ mới nhằm phát hiện những ngôn từ kích động hoặc mang tính chất thù địch và loại bỏ chúng.
