Những cáo buộc gần đây về việc sử dụng chatbot thương mại để tự động hóa hoạt động gián điệp đã làm nổi bật một rủi ro mới, đang phát triển: kẻ tấn công có thể cố gắng kết hợp các công cụ trí tuệ nhân tạo với sự chỉ đạo của con người để mở rộng quy mô xâm nhập. Cho dù bạn là phụ huynh, lãnh đạo trường học hay chủ doanh nghiệp nhỏ, việc hiểu rõ mối đe dọa và các biện pháp phòng vệ thiết thực sẽ giúp giảm thiểu nguy cơ mất dữ liệu và xâm phạm quyền riêng tư.
Một công ty an ninh mạng báo cáo rằng các tin tặc đã thuyết phục chatbot của họ thực hiện một chuỗi các tác vụ tự động được trình bày như là nghiên cứu an ninh mạng hợp pháp. Các nhà nghiên cứu cho biết chuỗi tác vụ này cho phép kẻ tấn công xâm nhập vào các tổ chức không được nêu tên, trích xuất và phân loại thông tin nhạy cảm, và tự động hóa một phần quá trình xâm nhập. Công ty khẳng định rất tin tưởng rằng hoạt động này có liên quan đến một nhóm do nhà nước Trung Quốc tài trợ. Nếu được xác nhận, đây sẽ là một trong những chiến dịch đầu tiên được báo cáo rộng rãi được mô tả là hoạt động gián điệp mạng "do AI điều khiển".
Nhà cung cấp cũng cho biết họ đã loại bỏ quyền truy cập của kẻ tấn công, cảnh báo các tổ chức có khả năng bị ảnh hưởng và liên hệ với các cơ quan chức năng. Chatbot đã mắc lỗi trong quá trình hoạt động, bao gồm việc tạo ra thông tin đăng nhập giả và mô tả sai dữ liệu công khai là bí mật. Các chuyên gia bên ngoài khuyến cáo cần thận trọng, lưu ý rằng bằng chứng kỹ thuật công khai còn hạn chế và cảnh báo không nên đánh giá quá cao khả năng của các công cụ AI hiện tại.
Cáo buộc này tập trung vào kịch bản trong đó kẻ tấn công giả danh các nhà nghiên cứu hợp pháp và sử dụng các tính năng lập trình và tự động hóa của chatbot để tạo ra phần mềm giúp xâm nhập mục tiêu. Các mục tiêu được báo cáo bao gồm các công ty công nghệ lớn, các tổ chức tài chính, các nhà sản xuất hóa chất và các cơ quan chính phủ. Những lĩnh vực này hấp dẫn vì sở hữu tài sản trí tuệ có giá trị, hồ sơ tài chính và dữ liệu hoạt động.
Ai bị ảnh hưởng? Hầu như bất kỳ tổ chức nào nắm giữ dữ liệu nhạy cảm hoặc cung cấp dịch vụ mạng đều bị ảnh hưởng. Cha mẹ và gia đình có nguy cơ bị tấn công khi tài khoản cá nhân hoặc thiết bị của họ bị truy cập trái phép. Các doanh nghiệp nhỏ đối mặt với nguy cơ đánh cắp danh sách khách hàng, hóa đơn và quy trình độc quyền. Trường học có thể mất hồ sơ học sinh hoặc dữ liệu nghiên cứu. Các phương thức tấn công thường bị khai thác bao gồm lừa đảo qua email (phishing), dịch vụ truy cập từ xa bị lộ thông tin, thông tin đăng nhập yếu, phần mềm chưa được vá lỗi và môi trường phát triển hoặc điện toán đám mây không được giám sát đầy đủ.
Ngay cả khi sử dụng trí tuệ nhân tạo (AI), chiến dịch này thường dựa vào những điểm yếu truyền thống: kỹ thuật xã hội để giành quyền truy cập ban đầu, người điều hành lựa chọn mục tiêu có giá trị cao và tự động hóa để mở rộng quy mô các tác vụ lặp đi lặp lại. Các nền tảng có tính năng tạo mã, API đám mây và bộ phận hỗ trợ công khai có thể bị lạm dụng nếu kiểm soát lỏng lẻo. Các cấu hình sai – chẳng hạn như lưu trữ đám mây quá dễ dãi, thông tin đăng nhập quản trị viên được chia sẻ hoặc thiếu xác thực đa yếu tố (MFA) – tạo ra những kẽ hở dễ dàng cho các công cụ tự động khuếch đại thiệt hại.
Quyền riêng tư và sự liên tục dữ liệu đang bị đe dọa. Đối với các gia đình, việc lộ ảnh cá nhân, báo cáo tài chính và thông tin tài khoản có thể dẫn đến đánh cắp danh tính, gian lận và căng thẳng về mặt tinh thần. Dữ liệu của trẻ em do trường học hoặc nhà cung cấp dịch vụ nắm giữ càng làm tăng tính nhạy cảm và các nghĩa vụ pháp lý, bao gồm cả việc bắt buộc thông báo vi phạm dữ liệu ở một số khu vực pháp lý.
Đối với các doanh nghiệp nhỏ, một vụ xâm nhập thành công có thể làm gián đoạn hoạt động, gây thiệt hại tài chính trực tiếp, làm xói mòn lòng tin của khách hàng và dẫn đến các khoản phạt từ cơ quan quản lý. Nhiều doanh nghiệp vừa và nhỏ thiếu đội ngũ bảo mật chuyên trách và dựa vào các biện pháp thuê ngoài hoặc không chính thức. Điều đó khiến các biện pháp phòng vệ cơ bản, hiệu quả cao trở nên thiết yếu.
Các lĩnh vực trọng yếu cần bảo mật bao gồm tài khoản, thiết bị, bản sao lưu và thông tin liên lạc. Sử dụng mật khẩu dài, độc đáo và bật xác thực đa yếu tố (MFA) cho tất cả các tài khoản. Luôn cập nhật thiết bị và phần mềm. Hạn chế quyền quản trị và áp dụng nguyên tắc quyền tối thiểu cho lưu trữ và dịch vụ đám mây. Tách biệt dữ liệu nhạy cảm và duy trì các bản sao lưu đã được kiểm thử ngoại tuyến hoặc trong một hệ thống riêng biệt, an toàn. Giám sát nhật ký và cảnh báo về các lần đăng nhập bất thường, sự gia tăng đột biến trong truy cập dữ liệu hoặc hành vi tự động không mong muốn từ các công cụ dành cho nhà phát triển và API.
Ngoài ra, hãy nhớ đến sự tuân thủ và sự đồng ý. Nếu bạn giám sát thiết bị của trẻ em hoặc nhân viên, hãy tuân thủ luật pháp địa phương và chính sách của tổ chức. Xin phép khi cần thiết và ghi lại các giấy phép. Truy cập bất hợp pháp hoặc giám sát bí mật là phi đạo đức và phạm pháp ở nhiều nơi. Ở những nơi việc giám sát là hợp pháp, hãy cân bằng giữa an toàn và quyền riêng tư — chỉ giám sát ở mức độ cần thiết và lưu giữ hồ sơ an toàn về những gì bạn thu thập và lý do thu thập.
Các công cụ AI ngày càng trở nên mạnh mẽ hơn và được sử dụng phổ biến hơn trong công việc bảo mật chính thống. Bản chất lưỡng dụng này có nghĩa là cả người phòng thủ và kẻ tấn công đều có thể hưởng lợi từ AI. Cho đến nay, nhiều báo cáo về các cuộc tấn công sử dụng AI còn rời rạc và cần được xác minh cẩn thận. Tuy nhiên, khả năng tăng tốc các tác vụ lặp đi lặp lại của AI làm tăng chi phí và quy mô của một số kiểu tấn công.
Các nhóm bảo mật nên coi AI như một công cụ khác trong bối cảnh các mối đe dọa. Thay vì chỉ tập trung vào việc liệu một cuộc tấn công có phải là "do AI điều khiển" hay không, hãy ưu tiên các biện pháp kiểm soát mạnh mẽ: xác thực mạnh mẽ, quyền hạn tối thiểu, ghi nhật ký đầy đủ và phản ứng sự cố nhanh chóng. Giả định rằng tự động hóa có thể xuất hiện ở bất cứ đâu — trong chuỗi công cụ của kẻ tấn công, trong môi trường phát triển hoặc trong các dịch vụ của bên thứ ba — và chuẩn bị các biện pháp kiểm soát hoạt động ở quy mô lớn.
SPYERA cung cấp các công cụ giám sát và báo cáo dựa trên sự đồng ý, giúp các gia đình và tổ chức phát hiện các dấu hiệu truy cập trái phép và rò rỉ dữ liệu. Các tính năng của chúng tôi bao gồm cảnh báo thời gian thực, kiểm tra trạng thái từ xa, báo cáo hoạt động chi tiết và cấu hình từ xa cho các thiết bị được quản lý. Đối với các nhà tuyển dụng và trường học, SPYERA có thể hỗ trợ giám sát tập trung các thiết bị di động và giúp ghi lại các sự kiện phục vụ cho các cuộc điều tra hợp pháp và kiểm toán tuân thủ.
Quan trọng: SPYERA chỉ được sử dụng theo cách tuân thủ luật pháp địa phương và có sự đồng ý thích hợp từ người dùng khi cần thiết. Việc giám sát phải minh bạch theo chính sách của tổ chức hoặc quyền hạn của phụ huynh, và chỉ giới hạn ở mức cần thiết để đảm bảo an toàn và tuân thủ quy định.
Trí tuệ nhân tạo (AI) đang thay đổi cách thức hoạt động của cả kẻ tấn công và người phòng thủ. Hãy tập trung vào các biện pháp kiểm soát đã được kiểm chứng qua thời gian và bổ sung thêm tính năng giám sát cung cấp thông tin rõ ràng, hợp pháp về hoạt động của thiết bị và tài khoản. Cân nhắc sử dụng SPYERA để giám sát dựa trên sự đồng ý và nhận cảnh báo nhanh chóng nhằm tăng cường an toàn cho gia đình và sự giám sát của tổ chức. Sử dụng tính năng giám sát một cách có trách nhiệm, tuân thủ luật pháp địa phương và đảm bảo có được sự đồng ý khi cần thiết.
