Rủi ro bảo mật AI

Cảnh báo lỗ hổng ChatGPhish: Biến ChatGPT thành bề mặt tấn công lừa đảo

Các chuyên gia bảo mật từ Permiso Security vừa phát hiện một kỹ thuật tấn công mới mang tên ChatGPhish. Lỗ hổng này khai thác sự tin tưởng tuyệt đối của ChatGPT vào các định dạng Markdown để thực thi các cuộc tấn công Prompt Injection gián tiếp, biến một trợ lý AI tin cậy thành công cụ phát tán mã độc và đánh cắp thông tin người dùng.

ChatGPhish là gì?

Vấn đề nằm ở bộ dựng (renderer) của ChatGPT. Khi người dùng yêu cầu AI tóm tắt một trang web, ChatGPT sẽ truy cập nội dung trang đó. Nếu trang web chứa các payload độc hại ẩn dưới dạng Markdown (hình ảnh hoặc liên kết), ChatGPT sẽ tự động tải các hình ảnh này và hiển thị các liên kết đó như những thành phần có thể nhấp chuột ngay bên trong giao diện chat tin cậy.

Rò rỉ dữ liệu nhạy cảm

Tự động thu thập IP, User-Agent và Referer của người dùng khi AI tải các hình ảnh từ máy chủ của kẻ tấn công.

Lừa đảo qua QR Code

Hiển thị mã QR độc hại trực tiếp trong khung chat, dẫn dụ người dùng quét bằng điện thoại để vượt qua các bộ lọc URL trên máy tính.

Giả mạo hệ thống

Tạo ra các thông báo bảo mật giả mạo trông giống như cảnh báo chính thức từ OpenAI để lừa người dùng nhập thông tin đăng nhập.

Mối đe dọa từ các tác tử AI (AI Agents)

Không chỉ dừng lại ở ChatGPT, các chuyên gia còn cảnh báo về các lỗ hổng SymJack và TrustFall nhắm vào các công cụ lập trình AI như Claude Code, GitHub Copilot. Kẻ tấn công có thể tạo ra các kho lưu trữ (repository) chứa mã độc, lừa các AI Agent thực thi lệnh từ xa (RCE) và chiếm quyền điều khiển toàn bộ hệ thống của lập trình viên.

HÀNH ĐỘNG KHẨN CẤP ĐỂ TỰ BẢO VỆ

✔️ Cẩn trọng khi tóm tắt nội dung lạ: Hạn chế sử dụng AI để tóm tắt các trang web từ nguồn không xác định hoặc đáng nghi vấn.
✔️ Không nhấp vào link trong giao diện AI: Hãy kiểm tra kỹ đường dẫn (hover chuột) trước khi nhấp vào bất kỳ liên kết nào do AI tạo ra.
✔️ Kiểm soát quyền của AI Agent: Không bao giờ cấp quyền truy cập toàn bộ hệ thống hoặc tin tưởng tuyệt đối vào các thư mục chứa mã nguồn lạ khi sử dụng AI coding tools.
✔️ Cập nhật phiên bản mới nhất: Luôn sử dụng các bản vá bảo mật mới nhất từ OpenAI, Anthropic và Microsoft.

Nguồn tham khảo: The Hacker News

LIÊN HỆ ĐỘI NGŨ ỨNG CỨU SỰ CỐ TMGS

Cảnh báo lỗ hổng ChatGPhish: Biến tính năng tóm tắt của ChatGPT thành công cụ lừa đảo