Trên mạng tràn lan đủ loại quảng cáo sử dụng trí tuệ nhân tạo để tạo ra vô số nội dung có vẻ đúng nhưng thực chất sai lệch, làm rối loạn nhận thức của công chúng. Báo cáo an toàn quảng cáo hằng năm của Google cho biết, kẻ xấu lợi dụng AI tạo sinh để đổ hàng loạt nội dung giả mạo. Trước tình hình đó, công ty đã tăng cường hệ thống phòng thủ tự động Gemini, thực hiện chặn tức thì trước khi thông tin gây hại kịp tiếp cận người dùng; hiện nay, tỷ lệ chặn các quảng cáo vi phạm đã đạt 99%.

Google cho biết thời gian phát hiện quảng cáo vi phạm đã được rút ngắn xuống mức mili giây

Năm ngoái, Google đã chặn hoặc gỡ bỏ hơn 8,3 tỷ lượt quảng cáo, trong đó có 602 triệu lượt quảng cáo vi phạm có liên quan chặt chẽ đến lừa đảo. Con số này cao hơn 5,1 tỷ lượt trong năm 2024; khoảng 24,9 triệu tài khoản người quảng cáo đã bị tạm dừng, trong đó hơn 4 triệu tài khoản bị tạm dừng vì các hoạt động liên quan đến lừa đảo.

Theo báo cáo an toàn quảng cáo, AI tạo sinh Gemini đã trở thành cốt lõi của hệ thống phòng thủ, có thể chặn hơn 99% nội dung trước khi quảng cáo vi phạm được triển khai. Trước đây, việc phân tích tài sản kỹ thuật số quảng cáo cần mất từ vài giây đến vài phút; hiện nay đã được rút xuống mức mili giây. Lợi thế về tốc độ này giúp hệ thống có thể thẩm định tức thì đa số quảng cáo tìm kiếm đáp ứng, đồng thời khi kẻ xấu lợi dụng AI để sản xuất hàng loạt quảng cáo lừa đảo thì Google cũng có thể chặn tức thì quy mô tương đương.

Phó giám đốc phụ trách quyền riêng tư và an toàn của Google kiêm Tổng giám đốc Sharma cho biết, AI tạo sinh là một phần của hệ thống phòng thủ của Google, và sự tiến bộ đã nâng cao đáng kể khả năng chống lại các nội dung có vấn đề.

Gemini hiện có thể phân tích hàng nghìn tỷ tín hiệu, bao gồm tuổi của tài khoản, manh mối hành vi và mẫu hình của chiến dịch quảng cáo, từ đó hiểu rõ hơn Nuances of Advertiser Intent「sự tinh tế trong ý định thật sự của nhà quảng cáo」; điều này có nghĩa là họ có thể ước lượng liệu quảng cáo có hợp pháp hay ý định của nhà quảng cáo có khả năng mang tính xấu hay không. Trường hợp năm ngoái tạm dừng nhầm các tài khoản doanh nghiệp hợp pháp cũng giảm 80%, cho thấy công nghệ tự động đã đạt được sự cân bằng tốt hơn giữa việc bảo vệ quyền lợi của doanh nghiệp chân chính và việc chặn các mối đe dọa.

Chuyên gia cho rằng tương lai sẽ là cuộc chiến giữa AI và AI

Nhà phân tích của Emarketer, Elliott (Nate Elliott), cho biết đây là một vấn đề cũ, chỉ khác là quy mô đã được nâng lên; điểm khác biệt lớn nhất nằm ở chỗ AI mang lại lợi thế về tốc độ và quy mô cho cả bên thực hiện hành vi hợp pháp lẫn bên thực hiện hành vi bất hợp pháp.

Báo cáo tội phạm mạng của FBI Mỹ cho thấy, tổng mức thiệt hại do lừa đảo liên quan đến AI trong năm ngoái đã vượt quá 893 triệu USD. Giám đốc Trung tâm AI thuộc Đại học Wisconsin-Madison, Seitz (Matt Seitz), cho biết vấn đề do AI tạo sinh là rất lớn, chỉ dựa vào con người thì không thể giải quyết; những phát triển hiện nay đã trở thành sự đối đầu giữa AI và AI.

Người phát ngôn của Google nhấn mạnh rằng căn cứ chính thức để xác định liệu quảng cáo có vi phạm chính sách hay không không phải là phương thức sản xuất, vì nhiều doanh nghiệp hợp pháp cũng sử dụng công cụ AI. Tuy nhiên, lại nảy sinh một vấn đề khác: liệu AI có thể “thông minh” để nhận ra đâu là quảng cáo thiện ý hay không?

Bài viết theo báo cáo hằng năm của Google cho biết Gemini đạt chặn trong mili giây, ngăn 99% quảng cáo lừa đảo sớm nhất xuất hiện trên 鏈新聞 ABMedia.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.