Instagram sử dụng AI kiểm duyệt tự động các hình ảnh có nội dung bạo lực

Phạm Thu Trang, Trịnh Đình Trọng| 11/10/2018 18:13
Theo dõi ICTVietnam trên

Instagram cho biết họ đã bắt đầu sử dụng công nghệ mới có khả năng phát hiện bạo lực trong các bức ảnh, một bước tiến thể hiện nỗ lực của các công ty công nghệ sử dụng trí tuệ nhân tạo trong việc kiểm duyệt nền tảng của họ.

Image: A man holds a smart phone with the icons for the social networking apps Facebook, Instagram and Twitter seen on the screen

Adam Mosseri, người đứng đầu của Instagram cho biết trong một thông cáo báo chí. “Chúng tôi hiện đang sử dụng công nghệ học máy để chủ động phát hiện các hành động bạo lực trong ảnh, hoặc chú thích được đăng tải và gửi chúng đến nhóm Hoạt động cộng đồng của chúng tôi để xem xét”.

Công ty mẹ của Instagram, Facebook, cũng đã giới thiệu các công cụ chống quấy rối trong tháng này. Những tính năng này cho phép người dùng xóa “nhận xét không hay” khỏi nguồn cấp dữ liệu của họ, với các tùy chọn xóa hoặc ẩn nhận xét “hàng loạt” và bình luận thay mặt cho người dùng.

Các công ty truyền thông xã hội đã chịu nhiều áp lực để có thể quản lý tốt hơn vấn đề quấy rối và thù địch, đó là một thách thức khó khăn vì nhiều người trong số họ có hàng triệu người dùng. Trước đó, Facebook cũng thuê hơn 7.500 nhân viên phục vụ cho kiểm duyệt các nội dung trên hai nền tảng chính Facebook và Instagram. Mạng xã hội này cũng đưa vào nhiều công nghệ mới nhằm phát hiện những ngôn từ kích động hoặc mang tính chất thù địch và loại bỏ chúng

Theo Fiona Brown, người đứng đầu bộ phận truyền thông tại Instagram, việc phát hiện yếu tố bạo lực trong hình ảnh khó hơn rất nhiều so với các nội dung bằng chữ. Tuy nhiên, với hệ thống mới, một hình ảnh hoặc chú thích sau khi tải lên sẽ được AI so sánh, xếp hạng và phân tích, sau đó tham chiếu đến cơ sở dữ liệu có sẵn trước khi đánh giá nó là tích cực hay tiêu cực. Đồng thời, hệ thống cũng phát hiện dựa trên các bình luận của bạn bè của chủ tài khoản.

Bên cạnh hệ thống trên, Instagram còn được bổ sung các công cụ chống bạo lực khác, gồm bộ lọc nhận xét mới khi phát video trực tiếp và các hiệu ứng camera.

Image: Instagram's kindness camera effect

Việc vận dụng AI cho Instagram là nỗ lực mới nhất của Facebook trong việc ngăn chặn bạo lực và quấy rối trên các nền tảng mà họ điều hành. Trong tháng này, mạng xã hội đã giới thiệu công cụ chống bạo lực riêng, trong đó cho phép người dùng tùy chọn xóa hoặc ẩn hàng loạt các bình luận trêu chọc, công kích hoặc gây tổn thương tinh thần khỏi nguồn cấp dữ liệu. Bên cạnh đó, nếu tần suất các bình luận tăng, hệ thống sẽ thay nạn nhân tự động báo cáo (report) lên Facebook.

Công ty đã ra mắt các tính năng mới của họ vào đầu tháng 10, là tháng phòng chống đe dọa quốc gia.

Nổi bật Tạp chí Thông tin & Truyền thông
Đừng bỏ lỡ
  • Thủ tướng yêu cầu đẩy mạnh phòng ngừa, tấn công tội phạm sử dụng công nghệ cao lừa đảo
    Thủ tướng Chính phủ yêu cầu tập trung triển khai có hiệu quả đợt cao điểm tấn công, trấn áp tội phạm sử dụng công nghệ cao, chủ động phát hiện, nhận diện, ngăn chặn, xử lý các trang web, địa chỉ IP, ứng dụng, phần mềm độc hại sử dụng trong hoạt động lừa đảo chiếm đoạt tài sản.
  • Bộ KH&CN ban hành Thông tư đầu tiên sau sau hợp nhất
    Ngày 31/3/2025, Bộ Khoa học và Công nghệ (KH&CN) đã ban hành Thông tư số 01/2025/TT-BKHCN về việc sửa đổi, bổ sung một số nội dung tại Phụ lục ban hành kèm theo Thông tư số 08/2021/TT-BTTTT ngày 14/10/2021 quy định Danh mục thiết bị vô tuyến điện được miễn giấy phép sử dụng tần số vô tuyến điện, điều kiện kỹ thuật và khai thác kèm theo.
  • Vươn mình trong hội nhập quốc tế
    Tổng Bí thư Tô Lâm nhấn mạnh: Hội nhập quốc tế về khoa học, công nghệ và đổi mới sáng tạo phải hướng tới việc đưa các chuẩn mực, quy định về khoa học, công nghệ trong nước tiệm cận với các chuẩn mức, thông lệ quốc tế tiên tiến. Qua đó, nhanh chóng nâng cao năng lực cạnh tranh quốc gia, mở rộng không gian phát triển của đất nước...
  • Tăng cường huy động nguồn lực KOLs trong hoạt động thông tin đối ngoại
    Năm 2024, Cục Thông tin đối ngoại (TTĐN) đã thành công việc đưa TTĐN lên không gian mới - không gian mạng - với nhiều kết quả đáng ghi nhận. Trong đó, có việc thí điểm thành công trong huy động những người có ảnh hưởng lớn trên mạng xã hội (MXH) cùng chung tay trong thực hiện nhiệm vụ cơ bản thứ hai của TTĐN đó là quảng bá hình ảnh quốc gia.
  • Tác giả Nhật Bản với những ý tưởng lôi cuốn trẻ đọc sách
    Với máy ảnh bằng bìa giấy, các món đồ chơi hết sức đơn giản bằng kẹp quần áo và giấy màu…, tác giả Yuichi Kimura với mái đầu bạc phơ đã khiến cho khoảng 20 em nhỏ ở nhiều lứa tuổi quên hẳn đi những thiết bị điện tử, game hay những trò giải trí cuốn hút khác từ công nghệ.
  • Microsoft và 15 cột mốc định hình tầm nhìn về AI
    Gã khổng lồ công nghệ Microsoft sắp bước qua cột mốc 50 năm thành lập với nhiều thách thức trong thời đại trí tuệ nhân tạo (AI). Hãy cùng khám phá cách Microsoft sẽ phát triển nền tảng, công cụ và cơ sở hạ tầng AI cho tương lai.
  • Biểu trưng tuyên truyền Kỷ niệm 50 năm Ngày Giải phóng miền Nam thống nhất đất nước
    Bộ Văn hóa, Thể thao và Du lịch chính thức công bố mẫu biểu trưng (logo) cũng như quy chuẩn kích cỡ để các cơ quan, đơn vị sử dụng trong các hoạt động tuyên truyền Kỷ niệm 50 năm Ngày Giải phóng miền nam thống nhất đất nước.
  • Meta bị phạt sau khi từ chối hạn chế nội dung trên Facebook và Instagram tại Thổ Nhĩ Kỳ
    Meta đã bị phạt một khoản tiền lớn vì phản đối yêu cầu của chính phủ Thổ Nhĩ Kỳ về việc hạn chế nội dung trên Facebook và Instagram.
  • Tấn công mạng khai thác lỗ hổng zero-day tinh vi trên Chrome
    Một lỗ hổng zero-day nghiêm trọng trên trình duyệt Google Chrome vừa được Kaspersky phát hiện và hỗ trợ vá. Lỗ hổng có số hiệu CVE-2025-2783. Thông qua lỗ hổng này, kẻ tấn công có thể vượt qua cơ chế bảo vệ sandbox của trình duyệt.
  • Chủ tịch Quốc hội tham quan Trung tâm Công nghệ sáng tạo TUMO của Armenia
    Theo đặc phái viên TTXVN, trong khuôn khổ chuyến thăm chính thức Cộng hòa Armenia, chiều 2/4 (theo giờ địa phương), tại Thủ đô Yerevan, Chủ tịch Quốc hội Trần Thanh Mẫn và Đoàn đại biểu cấp cao Quốc hội Việt Nam đã tham quan Trung tâm Công nghệ sáng tạo TUMO - một trung tâm giáo dục miễn phí giúp thanh thiếu niên tự học và nâng cao trình độ.
Instagram sử dụng AI kiểm duyệt tự động các hình ảnh có nội dung bạo lực
POWERED BY ONECMS - A PRODUCT OF NEKO