Trí tuệ nhân tạo (AI) đã trở thành một phần không thể thiếu trong hoạt động của nhiều doanh nghiệp hiện nay. Việc tích hợp AI vào hệ thống chatbot giúp cải thiện hiệu năng công việc và tăng trải nghiệm người dùng. Tuy nhiên, điều này cũng tạo ra một lỗ hổng bảo mật tiềm ẩn khi hệ thống chatbot tích hợp AI có thể trở thành mục tiêu cho các cuộc tấn công mạng, nhằm lấy cắp thông tin trên hệ thống lưu trữ dữ liệu.
Ông Đào Việt Hùng, giám đốc quốc gia Akamai Technologies Việt Nam, cảnh báo rằng có nhiều phương thức tấn công các mô hình AI, trong đó phổ biến là dạng ‘đầu độc nội dung’. Loại hình này có thể vượt qua những hệ thống bảo vệ thông tin truyền thống một cách dễ dàng. Hacker có thể sử dụng cách liên tục hỏi và dạy lại mô hình AI những thông tin sai lệch, gây ‘nhiễm độc’ thông tin.
Nếu thông tin trên hệ thống cloud đã bị ‘nhiễm độc’ mà không được phát hiện và tiếp tục được sử dụng, nó có thể đưa ra những thông tin không chính xác. Thậm chí, kẻ tấn công có thể lợi dụng lỗ hổng này để lách vào cơ sở dữ liệu với mục đích lấy thông tin. Ông Đào Việt Hùng dẫn chứng về một trường hợp đáng chú ý, khi hệ thống chatbot bán hàng online của một hãng ô tô bị thuyết phục để bán một chiếc xe mới với giá chỉ 1 đô la.
Nguyên nhân của trường hợp này là do trong quá trình trao đổi, thỏa thuận với chatbot, khách hàng đã tìm cách ‘lách’ vào cơ sở dữ liệu và thuyết phục chatbot đó đồng ý với yêu cầu trên. Một ví dụ khác cho thấy hacker đã thành công lấy được tất cả tài liệu mật và sơ đồ tổ chức của công ty, chỉ bằng cách soạn những câu hỏi phù hợp gửi đến chatbot AI nội bộ.
Trước những rủi ro này, ông Đào Việt Hùng chia sẻ về giải pháp AI security, cho phép chính AI bảo vệ AI. Đây là hình thức được nhiều doanh nghiệp lớn trên thế giới sử dụng. Với phương thức bảo mật này, những dữ liệu được lưu trữ tích hợp nhiều lớp bảo vệ, giúp ngăn chặn việc ‘nhiễm độc’.
Hệ thống AI security có khả năng phát hiện những thông tin sạch và những thông tin tiềm ẩn nguy cơ tấn công. Từ đó, nó sẽ có phương án xử lý nhanh chóng và thích hợp. Sự kiện OpenInfra & Cloud Native Day Vietnam 2025 sẽ diễn ra vào ngày 26-7 tại Hà Nội, do Hiệp hội Internet Việt Nam (VIA) phối hợp với Vietnam Open Infrastructure Community (VietOpenInfra), Câu lạc bộ Điện toán đám mây và Trung tâm Dữ liệu Việt Nam (VNCDC) tổ chức, với sự ủng hộ của Bộ Khoa học và Công nghệ.
Liên hệ với chúng tôi để biết thêm thông tin chi tiết về sự kiện và các giải pháp bảo mật AI