AI vừa viết lại quy tắc của BEC: Các biện pháp phòng ngừa của bạn đã sẵn sàng chưa?

Hôm nay, email lừa đảo trung bình mà đến hộp thư của CEO của bạn là hoàn hảo. Nó sử dụng ngữ pháp hoàn hảo, chứa đựng sự hiểu biết sâu sắc về bối cảnh kinh doanh hiện tại của tổ chức bạn, và kết thúc bằng một yêu cầu cấp bách, có liên quan đến ngữ cảnh. Đây không phải là công việc của một tội phạm mạng điển hình; đó là dấu ấn của trí tuệ nhân tạo sinh tạo đang bị biến thành vũ khí, chuyển đổi kỹ thuật xã hội từ một trò chơi số sang một cuộc tấn công có mục tiêu.

Sự tiến hóa được điều khiển bởi AI này có nghĩa là các cuộc tấn công lừa đảo và xâm phạm email doanh nghiệp (BEC) đang được kích thích mạnh mẽ hơn bao giờ hết. Đối với các chuyên gia an ninh mạng, việc hiểu được sự tiến hóa nhanh chóng này không còn là tùy chọn; nó là điều quan trọng để ngăn chặn những thiệt hại tài chính và danh tiếng có thể xảy ra.

Blog này khám phá thực tế mới của việc lừa đảo qua AI và BEC. Chúng tôi sẽ khám phá cách mà những kẻ tấn công lợi dụng AI để thực hiện các chiến dịch cực kỳ chân thực, lý do tại sao những cuộc tấn công tinh vi này thường vượt qua được các biện pháp an ninh truyền thống, và—quan trọng nhất—các biện pháp phòng thủ chiến lược cùng các bước chủ động mà các nhà lãnh đạo an ninh phải thực hiện ngay bây giờ. Cảnh quan an ninh mạng đang phát triển nhanh chóng như chính AI; liệu các biện pháp phòng thủ của bạn có phù hợp không?

Cách AI tăng cường các cuộc tấn công lừa đảo và BEC

Khả năng thích ứng của trí tuệ nhân tạo tạo sinh chính là điều làm cho nó trở thành một công cụ mạnh mẽ cho tội phạm mạng. Các kẻ tấn công không còn bị giới hạn bởi kỹ năng viết của chính họ, khả năng ngôn ngữ, hay thậm chí là nhu cầu phải tự tay soạn thảo từng thông điệp. AI cung cấp cho họ khả năng nâng cao cả sự tinh vi và tốc độ trong các hoạt động lừa đảo và BEC.

Tạo ra các mồi câu siêu thực tế bằng LLMs

Các mô hình ngôn ngữ lớn (LLMs), công nghệ tương tự đang điều khiển các chatbot AI phổ biến như ChatGPT của OpenAI hoặc Gemini của Google, đang dẫn đầu trong việc kỹ thuật xã hội hóa dựa trên AI. Các kẻ tấn công hiện đang sử dụng LLMs để tạo ra các email lừa đảo và tin nhắn BEC ở cấp độ tiếp theo mà gần như không thể phân biệt được với các thông tin liên lạc hợp pháp. Những mô hình này có thể sản xuất văn bản với ngữ pháp và chính tả hoàn hảo, áp dụng các tông giọng cụ thể và tích hợp các chi tiết thích hợp với ngữ cảnh để tạo ra các câu chuyện cá nhân hóa và đáng tin cậy. Mức độ tinh chỉnh này thường khiến việc điều chỉnh các cuộc tấn công cho các cá nhân hoặc vai trò cụ thể trong một tổ chức trở nên dễ dàng, tăng đáng kể khả năng thành công của chúng.

Ngoài việc cải thiện ngôn ngữ, các mô hình ngôn ngữ lớn (LLMs) còn vượt qua những rào cản truyền thống đối với những kẻ tấn công. Ví dụ, các LLMs có thể dễ dàng dịch và soạn thảo tin nhắn bằng nhiều ngôn ngữ, cho phép các diễn viên đe dọa mở rộng chiến dịch của họ ra toàn cầu mà không gặp phải những lỗi đặc trưng từng là dấu hiệu nghi ngờ. Văn bản nghe tự nhiên cũng có nghĩa là những email độc hại này ngày càng có khả năng vượt qua các bộ lọc an ninh email truyền thống. Nhiều hệ thống cũ dựa vào việc phát hiện ngữ pháp kém, từ một cách đáng ngờ, hoặc chữ ký độc hại đã biết - tất cả những điều này đều có thể được thiết kế cụ thể để tránh bởi nội dung được tạo ra bởi AI.

Deepfake xuất hiện trên sân khấu: Giả mạo giọng nói và video

Thật không may, việc sử dụng AI để tấn công đang mở rộng ra ngoài các cuộc tấn công dựa trên văn bản và chuyển sang các phương tiện khác, thường được gọi là “deepfakes.” Sự mở rộng này bao gồm lừa đảo giọng nói (vishing), trong đó khả năng của AI trong việc sao chép giọng nói từ những mẫu âm thanh tương đối nhỏ tạo ra những sự giả mạo rất thuyết phục.

Hãy tưởng tượng bạn nhận được một cuộc gọi được cho là từ Giám đốc điều hành của bạn, với giọng nói được bắt chước hoàn hảo, yêu cầu bạn xác thực một giao dịch chuyển tiền khẩn cấp. Tình huống này ngày càng trở thành một phương thức tấn công khả thi. Các giọng nói giả mạo do AI tạo ra thêm một lớp độ tin cậy và khẩn cấp mạnh mẽ cho các gian lận BEC, đặc biệt khi kết hợp với một email thuyết phục. Ngoài âm thanh, mối đe dọa từ video giả mạo trong BEC và một số phương pháp kỹ thuật xã hội cũng đang nổi lên nhanh chóng. Trong khi có thể ít phổ biến hơn do yêu cầu kỹ thuật cao hơn, kẻ tấn công có thể sử dụng AI để tạo ra các đoạn video ngắn bắt chước các giám đốc điều hành trong các cuộc gọi video hoặc tin nhắn đã được ghi lại. Những chiến thuật này có thể lừa nhân viên phê duyệt các giao dịch gian lận hoặc chia sẻ thông tin nhạy cảm.

Khả năng kết hợp văn bản được tạo ra bởi AI hoàn hảo với giọng nói tổng hợp thuyết phục và, cuối cùng là video, đại diện cho một bước tiến nghiêm trọng trong sự tinh vi của các cuộc tấn công giả mạo - thách thức các phương pháp xác thực danh tính truyền thống.

Gương mặt mới của BEC: sự tiến hóa lừa đảo do AI điều hành

Trí tuệ nhân tạo không chỉ làm cho các tin nhắn lừa đảo và lừa đảo doanh nghiệp tốt hơn về mặt hình thức và âm thanh - mà nó còn đang thúc đẩy một sự tiến hóa trong độ phức tạp và mục tiêu của chính các vụ lừa đảo. Những kẻ tấn công đang tận dụng AI để vượt qua các chiến thuật cơ bản, phát triển các kế hoạch lừa đảo phức tạp hơn và xác định các nạn nhân của họ với độ chính xác đáng báo động.

Vượt ra ngoài những trò lừa đảo cơ bản

Không lâu trước đây, nhiều nỗ lực BEC tương đối đơn giản, thường liên quan đến một email viết kém từ một "Giám đốc điều hành" yêu cầu mua thẻ quà tặng gấp. Trong khi những điều này vẫn xảy ra, chúng ta hiện thấy các nỗ lực nâng cao bởi AI trong việc thao tác hóa đơn phức tạp, chuyển hướng thanh toán và giả mạo nhiều giai đoạn của nhà cung cấp một cách thuyết phục. AI góp phần vào một thông điệp gian lận phát triển hơn bằng cách nâng cao các khía cạnh như:

• Làm cho tất cả các thông điệp có độ tinh tế cao hơn
• Tạo ra tài liệu và câu chuyện giả thuyết phục hơn cho các yêu cầu
• Soạn thảo các tin nhắn theo dõi nhằm phản bác lại sự hoài nghi ban đầu

Cuộc lừa đảo BEC cơ bản giờ đã phát triển, khiến những gian lận phức tạp này khó phát hiện và xử lý hơn cho nhân viên.

Nhắm mục tiêu chính xác thông qua do thám AI

Reconnaissance lừa đảo là giai đoạn ban đầu nơi các kẻ tấn công thu thập thông tin về mục tiêu trước khi bắt đầu một cuộc tấn công lừa đảo. AI đã nâng cao đáng kể khả năng của kẻ tấn công trong việc thu thập thông tin, cho phép họ nhanh chóng rà soát một lượng lớn dữ liệu công khai để xác định các mục tiêu giá trị cao và thu thập thông tin bối cảnh. Những gì từng phải mất hàng tuần để làm sạch các trang web công ty, mạng xã hội và các tài sản tin tức công khai để tinh chỉnh một cuộc tấn công mạng giờ đây có thể được thực hiện chính xác trong chưa đầy vài phút.

Sự hỗ trợ từ AI cho phép các cuộc tấn công BEC siêu cá nhân hóa, nơi các tin nhắn giả mạo có thể tham chiếu một cách thuyết phục đến các dự án nội bộ cụ thể, vai trò của một cá nhân, các sự kiện gần đây của công ty, hoặc mô phỏng chính xác phong cách giao tiếp của bên bị giả mạo, khiến cho trò lừa đảo trở nên cực kỳ cụ thể và có khả năng được người nhận tin tưởng cao hơn.

Mô phỏng các cuộc giao tiếp nội bộ

Khả năng của AI trong việc học và tái tạo các mô hình ngôn ngữ thực sự rất nguy hiểm khi nó có liên quan đến việc giả mạo các giao tiếp nội bộ - một vectơ tấn công chính cho BEC. Những kẻ tấn công có thể huấn luyện các mô hình dựa trên những ví dụ về phong cách của công ty hoặc sử dụng AI để tạo ra các tin nhắn mà hoàn hảo áp dụng tông điệu, định dạng và thuật ngữ thường được sử dụng trong một tổ chức. Hãy xem xét những ví dụ tiềm năng về công việc của AI:

• Một email khẩn cấp, có vẻ như từ bộ phận IT, chi tiết một cập nhật hệ thống quan trọng (nhưng giả mạo) yêu cầu nhân viên ngay lập tức nhấp vào một liên kết và nhập thông tin đăng nhập của họ, sử dụng ngôn ngữ kỹ thuật hợp lý.
• Một thông báo dường như từ bộ phận nhân sự về chương trình đăng ký quyền lợi mới, có tính thời gian khẩn cấp hoặc một chính sách làm việc từ xa cập nhật, được tạo ra để trông hợp pháp và liên quan đến nhân viên.
• Một chỉ thị từ một "giám đốc cao cấp" hoặc "trưởng phòng tài chính" yêu cầu chuyển tiền khẩn cấp cho một nhà cung cấp mới, đề cập đến một dự án được cho là mật hoặc một thời hạn sắp đến, tất cả đều được truyền đạt với mức độ quyền lực và ngữ cảnh nội bộ mong đợi.

Tại sao các cuộc tấn công được nâng cấp bằng AI lại khó phát hiện hơn

Sự tinh vi mà trí tuệ nhân tạo mang lại cho các cuộc tấn công lừa đảo và BEC không chỉ làm cho các cuộc tấn công trở nên thuyết phục hơn; nó về cơ bản làm cho chúng trở nên khó phát hiện hơn đối với cả nhân viên và các hệ thống bảo mật truyền thống. Những dấu hiệu nhận biết cũ đang dần phai nhạt, thay vào đó là các chiến thuật lợi dụng lòng tin và bối cảnh một cách tinh tế hơn rất nhiều.

Sự biến mất của những dấu hiệu đỏ rõ ràng

Email lừa đảo thường có những dấu hiệu rõ ràng mà nhiều người dùng đã được đào tạo để nhận biết. Những dấu hiệu này, chẳng hạn như ngữ pháp kém, lỗi chính tả rõ ràng, cách diễn đạt vụng về, hoặc lời chào chung chung, trước đây từng là những chỉ báo đáng tin cậy về một nỗ lực lừa đảo. Tuy nhiên, AI và các mô hình ngôn ngữ lớn tiên tiến phần lớn đã loại bỏ những dấu hiệu này bằng cách sản xuất văn bản gần như hoàn hảo về ngữ pháp, phù hợp về phong cách, và không có những lỗi thông thường đó. Kết quả cuối cùng? Những thông điệp độc hại trông hoàn toàn hợp pháp ngay từ cái nhìn một đầu tiên và dễ dàng vượt qua các kiểm tra thông thường của con người.

Sự lừa dối dựa trên ngữ cảnh

Ngoài văn bản được trau chuốt, trí tuệ nhân tạo cũng xuất sắc trong việc tạo ra những câu lừa đảo liên quan đến ngữ cảnh. Kẻ tấn công có thể tạo ra những tin nhắn tham chiếu tới các cuộc hội thoại hợp pháp trước đó, các dự án đang diễn ra, các vai trò công việc cụ thể, hoặc các sự kiện gần đây của công ty (đặc biệt nếu kết hợp với khảo sát được hỗ trợ bởi AI). Những yêu cầu gian lận trở nên đáng tin cậy hơn nhiều khi được kết hợp với ngữ cảnh hiện tại. Ví dụ, một yêu cầu thanh toán khẩn cấp đề cập đến một nhà cung cấp thực tế hoặc một thỏa thuận cụ thể đang diễn ra có thể dễ dàng đánh lừa một nhân viên làm một việc không thận trọng và phê duyệt các khoản thanh toán gian lận.

Sự gia tăng của các cuộc tấn công đa kênh

Các kẻ tấn công cũng ngày càng sử dụng AI để giúp tổ chức các chiến dịch kỹ thuật xã hội phức tạp đa kênh hơn, không chỉ dựa vào email. AI có thể được sử dụng để tạo ra những câu chuyện và thông điệp nhất quán trên nhiều nền tảng khác nhau nhằm xây dựng độ tin cậy hoặc tạo áp lực. Ví dụ, một email được tạo ra từ AI rất thuyết phục có thể được theo sau bởi một tin nhắn LinkedIn nhắm đến từ một hồ sơ có vẻ hợp pháp, tham chiếu đến nội dung của email, hoặc thậm chí là một cuộc gọi vishing được hỗ trợ bởi AI củng cố yêu cầu gian lận. Cách tiếp cận theo từng lớp này, sử dụng nhiều điểm liên lạc khác nhau, khiến mỗi thành phần riêng lẻ có vẻ hợp pháp hơn và tăng độ khó tổng thể trong việc phát hiện các nỗ lực lừa đảo qua email.

Thích ứng các biện pháp phòng thủ của bạn: Đối phó với các mối đe dọa do AI điều khiển

Trong khi AI nâng cao đáng kể khả năng của những kẻ tấn công, điều đó không có nghĩa là các tổ chức không có khả năng tự vệ. Việc điều chỉnh tư thế bảo mật của bạn đòi hỏi một chiến lược chi tiết nhằm tăng cường các kiểm soát kỹ thuật, nâng cao nhận thức của nhân viên và chủ động theo dõi các nỗ lực giả mạo. Hãy xem xét các chiến lược sau để chống lại sự gia tăng của các cuộc tấn công lừa đảo và lừa đảo qua doanh nghiệp (BEC) được thúc đẩy bởi AI.

Nâng cao cảnh giác của con người: Nhận thức an ninh thế hệ tiếp theo

AI đang ngày càng trở nên thông minh hơn, vì vậy yếu tố con người trong hệ thống phòng thủ của bạn cũng phải phát triển. Nhận thức về an ninh thế hệ tiếp theo cần tập trung vào những tinh tế của các cuộc tấn công do AI tạo ra, không chỉ dừng lại ở việc phát hiện lỗi chính tả. Điều này có nghĩa là giáo dục nhân viên để đánh giá một cách phê phán bối cảnh của các yêu cầu, nhận ra các chiến thuật khẩn cấp tinh vi, và phát triển nhận thức ban đầu về các chỉ báo giả mạo tiềm ẩn. Mục tiêu của bạn là nuôi dưỡng một lực lượng lao động biết phân biệt và thận trọng hơn. Khi xây dựng chương trình đào tạo an ninh của bạn, hãy nghĩ đến việc bao gồm các chiến lược sau:

• Đào tạo về những tinh vi của AI-phishing và deepfake sử dụng các ví dụ thực tế
• Chạy các mô phỏng lừa đảo bắt chước sự tinh vi và tính phù hợp theo ngữ cảnh của trí tuệ nhân tạo.
• Yêu cầu xác minh ngoài băng cho các yêu cầu khẩn cấp hoặc nhạy cảm
• Nuôi dưỡng một văn hóa mạnh mẽ trong việc báo cáo các tin nhắn nghi ngờ mà không sợ hãi

Bảo mật email kỹ thuật cao

Việc phát triển các biện pháp phòng thủ con người của bạn là rất quan trọng, nhưng việc cải thiện các biện pháp phòng thủ kỹ thuật cho email cũng không kém phần quan trọng. Mặc dù không có công cụ nào là giải pháp hoàn hảo, nhưng sự kết hợp giữa các giao thức nền tảng và các kỹ thuật phát hiện hiện đại là yếu tố then chốt để đối phó với sự tinh vi của AI. Những kỹ thuật này không chỉ liên quan đến việc xác minh tính hợp pháp của người gửi mà còn nhận diện các mẫu bất thường mà các cuộc tấn công do AI tạo ra có thể vẫn thể hiện bất chấp vẻ ngoài bóng bẩy của chúng. Cải thiện các biện pháp bảo mật email của bạn bằng cách thực hiện những điều sau:

• Thực thi DMARC (p=reject/quarantine), SPF & DKIM trên tất cả các miền
• Sử dụng bảo mật email với phát hiện bất thường hành vi/AI và sandboxing
• Cài đặt cổng để đánh dấu hành vi giả mạo (tên hiển thị, người gửi mới, v.v.)
• Thường xuyên xem xét và điều chỉnh các chính sách bảo mật email để đối phó với các mối đe dọa đang phát triển

Bảo vệ thương hiệu và miền chủ động

Kẻ tấn công thường sử dụng các tên miền giả mạo hoặc tên miền có sự sai sót chính tả để bắt chước tên miền hợp pháp của tổ chức bạn nhằm lừa đảo các người nhận trong các cuộc tấn công lừa đảo và BEC. Một tên miền có sự sai sót chính tả có thể lừa nhân viên ngay từ cái nhìn đầu tiên, vì vậy việc xác định và xử lý những nỗ lực giả mạo này trước khi chúng được sử dụng rộng rãi là rất quan trọng. Bảo vệ tên miền và thương hiệu của bạn bằng cách:

• Liên tục theo dõi các miền mới được đăng ký hoặc bị đánh cắp.
• Theo dõi việc sử dụng trái phép thương hiệu, tên điều hành, và tài sản trí tuệ của bạn trên mạng
• Xác định một quy trình rõ ràng để điều tra và khởi xướng việc tước quyền tên miền
• Đào tạo nhân viên luôn kiểm tra cẩn thận địa chỉ người gửi và URL

Trí tuệ nhân tạo tạo sinh rõ ràng đã làm tăng mức độ rủi ro cho các cuộc tấn công lừa đảo và tấn công doanh nghiệp (BEC), tạo ra những cuộc tấn công cực kỳ thực tế, dễ mở rộng quy mô và khó phát hiện hơn cho cả con người và hệ thống truyền thống. Việc đối phó hiệu quả với bối cảnh mối đe dọa đang phát triển này đòi hỏi một chiến lược phòng thủ tinh vi hơn, nhiều lớp—một chiến lược kết hợp thông minh giữa công nghệ tiên tiến, nhận thức người dùng liên tục và sự cảnh giác của tổ chức.

Rủi ro vi phạm của UpGuard đóng vai trò quan trọng trong hệ thống phòng thủ nhiều lớp này, cung cấp cho các tổ chức cái nhìn bên ngoài và khả năng phát hiện chủ động để giảm thiểu các rủi ro liên quan đến những cuộc tấn công tinh vi này. Các tính năng được thiết kế để giúp giảm thiểu những mối đe dọa do AI gây ra bao gồm:

• Giám sát bề mặt tấn công: Liên tục giám sát bề mặt tấn công bên ngoài của bạn để phát hiện các lỗ hổng hoặc điểm yếu mà kẻ tấn công có thể lợi dụng.
• Phát hiện rò rỉ dữ liệu: Phát hiện thông tin đăng nhập bị rò rỉ đang lưu hành trực tuyến, đây là nguồn nhiên liệu chính cho các cuộc tấn công BEC và lấy cắp tài khoản.
• Xác định typosquatting: Xác định các tên miền typosquatting và các trang web tương tự được thiết lập đặc biệt để giả mạo thương hiệu của bạn trong các chiến dịch lừa đảo tinh vi.

Trong kỷ nguyên mà các mối đe dọa mạng phát triển nhanh chóng như chính trí tuệ nhân tạo, việc đi trước một bước đòi hỏi sự thích ứng liên tục và tận dụng các công cụ tiên tiến cung cấp cái nhìn rõ ràng về các rủi ro bên ngoài của bạn.