Tin tặc có thể sử dụng AI tạo sinh để thao túng các cuộc trò chuyện trực tiếp
Các nhà nghiên cứu bảo mật của IBM đã chứng minh rằng, tin tặc có thể sử dụng trí tuệ nhân tạo (AI) tạo sinh và công nghệ deepfake âm thanh để chiếm quyền điều khiển và thao túng các cuộc hội thoại trực tiếp.
Tất cả những gì các nhà nghiên cứu cần để sao chép giọng nói là ba giây âm thanh.
Các nhà nghiên cứu đã đưa ra một mô hình ngôn ngữ lớn (LLM) xử lý âm thanh từ hai nguồn trong một cuộc trò chuyện trực tiếp trên điện thoại và chú ý các từ khóa và cụm từ cụ thể - trong trường hợp này là cụm từ "tài khoản ngân hàng". Khi mô hình phát hiện cụm từ này, nó sẽ thay thế số tài khoản ngân hàng thật bằng số tài khoản giả.
LLM đóng vai trò là người ở giữa, theo dõi cuộc trò chuyện trực tiếp. Các nhà nghiên cứu đã sử dụng tính năng chuyển giọng nói thành văn bản để giúp mô hình hiểu được ngữ cảnh của cuộc trò chuyện. “Nó giống như việc biến những người trong cuộc trò chuyện thành những con rối giả, và do ngữ cảnh ban đầu được giữ nguyên nên rất khó phát hiện”, họ nói.
Mối đe dọa không chỉ ở việc thao túng tài chính, trong đó tin tặc có thể lừa nạn nhân gửi hàng tỷ USD vào tài khoản của chúng. Kỹ thuật này có thể được sử dụng để kiểm duyệt thông tin, hướng dẫn phi công sửa đổi đường bay và thay đổi nội dung trong các chương trình phát sóng tin tức trực tiếp và các bài phát biểu chính trị trong thời gian thực.
Các nhà nghiên cứu cho biết, việc phát triển hệ thống AI để thực hiện nhiệm vụ đặt ra rất ít thách thức, ngay cả khi việc thực hiện một cuộc tấn công yêu cầu tội phạm phải có kỹ năng lừa đảo và kỹ thuật xã hội. Tuy nhiên, việc sử dụng kỹ thuật chỉnh âm thanh một cách dễ dàng cũng cần phần lớn thời gian để tìm ra cách thu âm thanh từ micrô và cung cấp âm thanh cho AI tổng hợp.
Các nhà nghiên cứu đã gặp phải một số rào cản ảnh hưởng đến tính thuyết phục của .
Thứ nhất, giọng nói nhân bản cần phải tính đến âm điệu và tốc độ để hòa vào cuộc trò chuyện thực.
Thứ hai, độ trễ trong GPU gây ra sự chậm trễ trong cuộc trò chuyện, do cần truy cập LLM và API chuyển văn bản thành giọng nói từ xa. Tuy nhiên, các nhà nghiên cứu đã giải quyết vấn đề bằng cách xây dựng các khoảng dừng nhân tạo. Họ đã huấn luyện mô hình cách sử dụng các cụm từ cầu nối để lấp đầy bất kỳ khoảng trống nào được tạo ra bằng cách yêu cầu mô hình xử lý thao tác.
Các nhà nghiên cứu cho biết: “Trong lúc PoC đang kích hoạt khi nghe từ khóa 'tài khoản ngân hàng' và lấy tài khoản ngân hàng khác để chèn vào cuộc trò chuyện, độ trễ được che giấu bởi các cụm từ bắc cầu như ‘Tất nhiên, đợi tôi một giây’.”
Họ cũng nói thêm rằng tin tặc sẽ cần có sẵn một năng lực tính toán “đáng kể” để có thể thực hiện và mở rộng những cuộc tấn công này.
T. Hương (Nguồn: )
Tin mới
Thanh Hóa phát lệnh báo động III trên sông Lèn, sẵn sàng phương án hộ đê
Chiều 23/9, Ban Chỉ huy Phòng, chống thiên tai, Tìm kiếm cứu nạn và Phòng thủ dân sự tỉnh có Công điện số 30 điện Chủ tịch UBND các huyện Hà Trung, Nga Sơn, Hậu Lộc phát lệnh báo động III trên sông Lèn.
Chủ tịch UBND tỉnh Thanh Hóa kiểm tra công tác phòng, chống thiên tai
Trước diễn biến phức tạp của tình hình thời tiết, chiều 23/9 ông Đỗ Minh Tuấn, Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh đã đi kiểm tra công tác phòng, chống thiên tai tại huyện Bá Thước và Cẩm Thủy.
Chủ trương điều chỉnh quy hoạch sử dụng đất thời kỳ 2021 - 2030, tầm nhìn đến năm 2050
Chính phủ thống nhất thông qua việc trình Quốc hội quyết định chủ trương điều chỉnh quy hoạch sử dụng đất quốc gia thời kỳ 2021-2030, tầm nhìn đến năm 2050.
Mưa lũ, ngập lụt gây ảnh hưởng đến việc cấp điện tại Thanh Hóa
Tính đến 15h ngày 23/9/2024, tình hình mưa lũ đã làm ảnh hưởng, gián đoạn cung cấp điện đến 4.262 khách hàng trên địa bàn tỉnh Thanh Hóa.
Hà Tĩnh: Mua pháo từ Lào đưa về Việt Nam lĩnh 24 tháng tù giam
Lái xe vận chuyển hàng từ Việt Nam sang lào, khi về mua pháo mang về thì bị lực lượng chức năng bắt giữ. Với hành vi trên, Nguyễn Đức Tâm (trú tại TP Vinh, Nghệ An) bị Tòa án nhân dân Hương Sơn (Hà Tĩnh) tuyên phạt 24 tháng tù giam.
TP. Thanh Hóa có trên 2.000 hộ bị ngập lụt do mưa lũ
Sáng 23/9, Chủ tịch UBND TP. Thanh Hóa, tỉnh Thanh Hóa đã có công điện chỉ đạo các phường, xã có đê và các phòng, ban, đơn vị của thành phố chủ động triển khai các phương sẵn sàng ứng phó với mực nước lũ đạt báo động II và vượt báo động II trên sông Mã.
Câu chuyện thương hiệu
Vĩnh Hoàn (VHC): Doanh thu tháng 8 đạt 1.172 tỷ đồng, tăng 5% so với tháng trước
MobiFone Esports Unitour chính thức khởi động với tổng giải thưởng lên tới 70 triệu đồng
Dệt may Thành Công (TCM) đạt gần 8,1 triệu USD lợi nhuận sau thuế, vượt 18% kế hoạch năm
DIC Corp (DIG) hoàn tất giải thể Công ty TNHH MTV Vũng Tàu Centre Point
LPBank muốn chi gần 10.000 tỷ đồng mua tối đa 5% vốn FPT
Doanh nghiệp nội địa bứt phá vì sự phát triển bền vững