Deepfake AI ngày càng có khả năng tạo ra video và âm thanh chân thực về người thật. Sức mạnh này có thể gây tổn hại đến danh tiếng, gây hiểu lầm cho người xem và làm suy yếu niềm tin trong trường học, gia đình và doanh nghiệp.
Trình tạo video Sora của OpenAI đã trở nên nổi tiếng vì tạo ra những đoạn clip siêu thực. Công ty thừa nhận Sora đã sản xuất những nội dung thiếu tôn trọng liên quan đến cố lãnh đạo phong trào dân quyền Martin Luther King Jr. OpenAI cho biết họ sẽ tạm dừng hình ảnh của Tiến sĩ King đồng thời tăng cường bảo vệ các nhân vật lịch sử. Tuy nhiên, người dùng vẫn tiếp tục tạo và chia sẻ video deepfake của các nhân vật công chúng và lịch sử khác. Gia đình của các nhân vật công chúng đã qua đời đã công khai yêu cầu các nền tảng và người dùng ngừng chia sẻ video bị chỉnh sửa bằng AI về người thân của họ. Công ty cho biết họ sẽ chấp nhận yêu cầu từ đại diện được ủy quyền hoặc chủ sở hữu bất động sản để ngăn chặn việc sử dụng hình ảnh chân dung, và cho biết họ có nhiều lớp bảo vệ và đang đối thoại liên tục với các bên liên quan.
Trí tuệ nhân tạo (AI) đã phát triển nhanh chóng. Các công cụ mới dành cho người dùng có thể tổng hợp video, âm thanh và hình ảnh. Điều này xóa bỏ các rào cản kỹ thuật vốn trước đây chỉ giới hạn deepfake cho các chuyên gia. Nhờ đó, bất kỳ ai có điện thoại thông minh và ứng dụng đều có thể tạo ra các đoạn clip thuyết phục với hình ảnh người thật dễ nhận dạng.
Ai bị ảnh hưởng? Gia đình, trường học, người sử dụng lao động và các tổ chức nhỏ đều có nguy cơ. Phụ huynh và thanh thiếu niên có thể bị nhắm mục tiêu bắt nạt, gây tổn hại danh tiếng hoặc xâm phạm quyền riêng tư. Trường học có thể xem các clip bị chỉnh sửa, gây gián đoạn việc học hoặc gây tổn hại đến danh tiếng của học sinh. Người sử dụng lao động có thể phải đối mặt với khủng hoảng thương hiệu nếu lãnh đạo hoặc nhân viên bị mô tả trong các cảnh quay giả mạo, và các doanh nghiệp vừa và nhỏ có nguy cơ bị lừa đảo, tống tiền hoặc xuyên tạc trong tiếp thị và truyền thông.
Các phương thức tấn công phổ biến bao gồm bài đăng trên mạng xã hội bị thao túng, bản ghi âm lớp học hoặc nơi làm việc bị chỉnh sửa, và các hành vi giả mạo do AI tạo ra để lừa đảo. Kẻ xấu có thể kết hợp deepfake với kỹ thuật xã hội. Ví dụ: một nhân viên có thể nhận được một đoạn ghi âm giọng nói có vẻ là của quản lý yêu cầu cung cấp dữ liệu nhạy cảm hoặc chuyển giao. Mặc dù những trường hợp nghiêm trọng nhất thu hút sự chú ý của dư luận, nhưng những tác hại phổ biến hơn lại là về mặt cảm xúc hoặc danh tiếng: lời nói bị thay đổi, xác nhận sai sự thật hoặc các tương tác bịa đặt được chia sẻ rộng rãi trên mạng.
Những sai sót và điểm yếu điển hình liên quan đến việc kiểm duyệt nội dung lỏng lẻo, chính sách không rõ ràng về phương tiện truyền thông tổng hợp, và trình độ hiểu biết về truyền thông của người dùng còn hạn chế. Các nền tảng có thể dựa vào việc gỡ bỏ phản ứng thay vì chủ động phát hiện. Không phải tất cả nhân vật công chúng đều có đại diện pháp lý để yêu cầu bảo vệ, dẫn đến việc bảo vệ không đồng đều. Cuối cùng, nhiều tổ chức thiếu kế hoạch ứng phó sự cố đối với các sự cố truyền thông tổng hợp; họ phản ứng chậm khi xuất hiện nội dung bị thao túng.
Đối với các gia đình, deepfake có thể làm xói mòn lòng tin và gây ra tổn thương thực sự về mặt cảm xúc. Trẻ em và thanh thiếu niên đặc biệt dễ bị tổn thương trước các video deepfake do bạn bè tạo ra và sự bêu riếu trực tuyến. Một đoạn clip bị chỉnh sửa có thể ảnh hưởng đến các mối quan hệ và việc học tập của trẻ. Cha mẹ cần kết hợp việc giám sát kỹ thuật số với giáo dục để xây dựng khả năng phục hồi và ngăn ngừa tổn hại.
Các doanh nghiệp nhỏ thường hoạt động mà không có đội ngũ truyền thông hùng hậu hoặc ngân sách pháp lý. Chỉ cần một clip bị chỉnh sửa trông giống chủ doanh nghiệp hoặc nhân viên cũng có thể gây tổn hại đến uy tín hoặc tạo điều kiện cho hành vi gian lận. Ví dụ, việc sử dụng deepfake hình ảnh chủ doanh nghiệp quảng cáo sản phẩm hoặc hướng dẫn nhân viên thực hiện các khoản thanh toán bất hợp pháp có thể gây hiểu lầm cho khách hàng và đối tác. Do đó, các doanh nghiệp vừa và nhỏ cần ưu tiên phát hiện, giám sát và lập kế hoạch ứng phó rõ ràng.
Vệ sinh thiết bị và ứng dụng giúp giảm thiểu rủi ro. Luôn cập nhật phần mềm. Sử dụng các kho ứng dụng uy tín và hạn chế cài đặt từ các nguồn đáng tin cậy. Đối với tài khoản, hãy bật xác thực đa yếu tố và xem xét quyền cho các ứng dụng có thể truy cập camera, micrô hoặc phương tiện lưu trữ. Việc tiếp xúc với dữ liệu làm tăng nguy cơ: ảnh, bài phát biểu và âm thanh công khai khiến việc tạo ra các thông tin giả mạo dễ dàng hơn. Cân nhắc hạn chế chia sẻ công khai âm thanh và video lưu trữ của các thành viên nhạy cảm trong gia đình khi quyền riêng tư là vấn đề đáng lo ngại.
Lưu ý về mặt pháp lý và sự đồng ý: sự đồng ý và luật pháp địa phương rất quan trọng. Nếu được xác nhận rằng một ứng dụng cho phép hồi sinh tổng hợp người đã khuất, chủ sở hữu bất động sản và người đại diện được ủy quyền nên thực hiện các biện pháp kiểm soát hiện có. Đối với người còn sống, nhiều khu vực pháp lý hạn chế việc sử dụng hình ảnh chân dung cho mục đích thương mại mà không được phép. Luôn tuân thủ các quy định địa phương và tìm kiếm tư vấn pháp lý khi cần thiết. Các biện pháp giám sát và phòng vệ cũng phải tuân thủ luật riêng tư và yêu cầu sự đồng ý khi được yêu cầu.
Sự lan truyền chóng mặt của các công cụ deepfake dễ sử dụng cho thấy một sự thay đổi: sản xuất không còn là nút thắt nữa. Tốc độ tiếp nhận của người dùng nhanh hơn các biện pháp bảo vệ nền tảng. Điều này đã thúc đẩy các cuộc tranh luận về sự đồng ý, quyền thừa kế, và ai xứng đáng được bảo vệ khỏi sự hồi sinh tổng hợp.
Các chuyên gia lưu ý rằng các biện pháp chính sách, kỹ thuật và xã hội phải phối hợp nhịp nhàng. Bộ lọc kỹ thuật có thể làm chậm việc lạm dụng, nhưng giáo dục và sự minh bạch về mặt pháp lý sẽ tạo ra sự bảo vệ lâu dài. Việc các nền tảng hứa hẹn bảo vệ những nhân vật nổi tiếng đặt ra câu hỏi về sự đối xử bình đẳng cho những cá nhân ít được biết đến. Các tổ chức nên lập kế hoạch cho những sự cố không thể tránh khỏi thay vì tự cho rằng họ sẽ không bị nhắm mục tiêu.
SPYERA cung cấp các tính năng giám sát và cảnh báo để giúp gia đình và tổ chức luôn cảnh giác với các hoạt động đáng ngờ trên các thiết bị được giám sát. Các công cụ của chúng tôi có thể giúp xác định các tệp phương tiện bất thường, theo dõi cài đặt ứng dụng và tạo cảnh báo cho các bản ghi mới hoặc các tệp lớn được truyền tải. Các tính năng báo cáo của SPYERA cung cấp nhật ký có dấu thời gian giúp lưu giữ bằng chứng cho việc gỡ bỏ hoặc điều tra.
Chúng tôi nhấn mạnh việc sử dụng hợp pháp và dựa trên sự đồng ý. SPYERA nên được sử dụng theo đúng luật pháp địa phương và chính sách của tổ chức. Đối với phụ huynh, điều đó có nghĩa là thông báo cho trẻ vị thành niên khi cần thiết và tuân thủ các quy tắc đồng ý của địa phương. Đối với người sử dụng lao động, điều đó có nghĩa là chính sách rõ ràng và công bố minh bạch khi giám sát các thiết bị thuộc sở hữu của công ty.
Deepfake AI đang ngày càng trở thành hiện thực. Việc chuẩn bị sẵn sàng đòi hỏi sự kết hợp giữa giáo dục, vệ sinh thiết bị chặt chẽ và kế hoạch ứng phó rõ ràng. SPYERA cung cấp các công cụ giúp phát hiện phương tiện truyền thông đáng ngờ, duy trì giám sát trên các thiết bị được giám sát và lưu giữ bằng chứng - luôn được sử dụng một cách có đạo đức và tuân thủ pháp luật. Tìm hiểu cách SPYERA có thể giúp gia đình hoặc tổ chức của bạn cải thiện an toàn kỹ thuật số và khả năng sẵn sàng ứng phó sự cố.
