Công bố giải pháp kiểm thử tấn công mạng giả lập và giám sát tác nhân AI

Cisco vừa công bố tích hợp Claude Mythos vào Cisco AI Defense, tận dụng khả năng lập luận đối kháng tiên tiến nhằm hỗ trợ kiểm thử bảo mật các ứng dụng và tác nhân AI. Cùng với những cải tiến trong Splunk Agent Observability và Cisco IQ, Cisco mang đến các giải pháp giúp doanh nghiệp bảo mật, giám sát và quản trị tác nhân AI nhanh chóng, hiệu quả hơn.

Ông Jeetu Patel, Chủ tịch kiêm Giám đốc Sản phẩm của Cisco cho biết, doanh nghiệp không thể mở rộng quy mô những hệ thống mà họ không thể bảo mật, quản trị hay giám sát. Bằng cách kết hợp các giải pháp bảo vệ AI thời gian thực với khả năng kiểm soát chất lượng tác nhân AI ở tốc độ máy, chúng tôi đang xây dựng một quy trình kiểm soát liên tục. Qua đó, doanh nghiệp vừa bảo vệ tác nhân AI trước nguy cơ bị xâm nhập, vừa đảm bảo mỗi token được sử dụng đều tạo ra giá trị kinh doanh có thể đo lường.

Theo một báo cáo nghiên cứu toàn cầu do Splunk công bố mới đây, 81% chuyên gia vận hành công nghệ thông tin (ITOps) và kỹ thuật cho biết cần tăng cường phối hợp giữa đội ngũ an ninh mạng và đội ngũ giám sát hệ thống (observability), trong bối cảnh các tác nhân AI ngày càng được sử dụng rộng rãi và kết nối với những công cụ phức tạp cùng dữ liệu nhạy cảm.

Các cải tiến của Splunk và AI Defense giúp những lãnh đạo bộ phận an ninh mạng theo dõi chi phí sử dụng token, đánh giá hiệu quả công cụ và thực hiện kiểm thử bảo mật chuyên biệt đối với các tác nhân AI có năng lực cao.

Thời gian qua, Cisco AI Defense đã hỗ trợ hàng trăm khách hàng phát hiện các lỗ hổng nghiêm trọng trong mô hình, ứng dụng và tác nhân AI trước khi đưa vào vận hành thực tế. Khung kiểm thử bảo mật AI thích ứng cho phép đội ngũ an ninh mạng xây dựng các kịch bản tấn công nhiều bước, tùy chỉnh theo từng hệ thống để phát hiện rủi ro.

Đặc biệt, việc tích hợp Claude Mythos giúp nâng cao khả năng lập luận, xây dựng phương án kiểm thử và xác định các phương thức tấn công phù hợp với từng hệ thống.

Các tính năng chính bao gồm: Mô phỏng các phương thức tấn công thực tế: Xây dựng kịch bản tấn công nhiều bước dựa trên bối cảnh, giúp phát hiện những lỗ hổng khó nhận biết trong các hệ thống phức tạp; kiểm soát quyền truy cập: Khách hàng chỉ có thể tương tác với Claude Mythos thông qua giao diện có cấu trúc của AI Defense, không được truy cập vào hệ thống thông qua các câu lệnh mở, không giới hạn; lưu vết và tái lập kết quả: AI Defense ghi lại toàn bộ hoạt động kiểm thử phục vụ kiểm toán. Kết quả cũng có thể được sử dụng cho các vòng kiểm thử tiếp theo.

Ông Michael Moore, phụ trách an ninh mạng tại Anthropic cho hay, ngày càng nhiều doanh nghiệp tích hợp tác nhân AI vào các hoạt động cốt lõi và có nhu cầu kiểm thử toàn diện trước khi đưa chúng vào vận hành”. Việc tích hợp Claude Mythos vào Cisco AI Defense giúp đội ngũ an ninh mạng kiểm thử các tác nhân AI bằng năng lực lập luận vượt trội, từ xây dựng phương án đánh giá đến xác định các phương thức tấn công phù hợp với từng hệ thống”.

Để triển khai tác nhân AI trên quy mô lớn, doanh nghiệp cần theo dõi đồng thời chi phí, hiệu quả hoạt động và chất lượng của từng tác nhân theo thời gian thực. Nhằm đáp ứng nhu cầu này, Cisco tiếp tục nâng cấp Splunk Agent Observability với ba tính năng chính.

Cụ thể, Tokenomics: Giải pháp quản trị chi phí AI sẽ sớm có mặt trên AWS Marketplace, giúp doanh nghiệp đối chiếu chi phí sử dụng của từng tác nhân AI với chất lượng và hiệu quả công việc; các mô hình đánh giá Eval-G1: Splunk Agent Observability cho phép chuyển đổi dữ liệu truy vết hoạt động của tác nhân AI và phản hồi từ chuyên gia thành các mô hình ngôn ngữ nhỏ để đánh giá và kiểm soát chất lượng; công cụ Evaluation Tuner cho phép doanh nghiệp sử dụng dữ liệu truy vết hoạt động của tác nhân AI và phản hồi từ chuyên gia trong lĩnh vực để tinh chỉnh các mô hình đánh giá. Nhờ đó, doanh nghiệp có thể duy trì tiêu chuẩn chất lượng và định hướng hoạt động của tác nhân AI ở tốc độ máy.

“AI đang rút ngắn khoảng thời gian doanh nghiệp có để ứng phó với các mối đe dọa. Việc biết hệ thống đang tồn tại những lỗ hổng nào chỉ thực sự có ý nghĩa khi doanh nghiệp có thể hành động để xử lý chúng” - bà Liz Centoni, Phó Chủ tịch Điều hành kiêm Giám đốc Trải nghiệm Khách hàng của Cisco chia sẻ.

Cisco AI Defense tích hợp Claude Mythos của Anthropic vào khung kiểm thử bảo mật AI thích ứng, giúp mô phỏng các phương thức tấn công thực tế nhằm vào tác nhân AI nhờ năng lực lập luận đối kháng tiên tiến.