Nghiên cứu ứng dụng AI để hỗ trợ đội ngũ an ninh mạng phân tích dữ liệu, nhận diện dấu hiệu bất thường và nâng cao hiệu quả xử lý sự cố.

Các hướng nghiên cứu gồm:

• SOC Copilot & Threat Intelligence: hỗ trợ phân tích log, tổng hợp ngữ cảnh cảnh báo, tra cứu thông tin mối đe dọa và điều tra sự cố.
• Anomaly & Intrusion Detection: nghiên cứu phương pháp phát hiện bất thường trong lưu lượng mạng và sự kiện hệ thống.
• DDoS & Malware Analysis: phân tích dấu hiệu tấn công từ chối dịch vụ, mã độc và các hành vi đáng ngờ.
• AI-assisted Incident Response: hỗ trợ phân loại sự cố, đề xuất bước xử lý và phối hợp quy trình ứng cứu trong phạm vi được cho phép.

OpenSOC Copilot là một hướng nghiên cứu ứng dụng AI vào hoạt động SOC, tập trung vào hỗ trợ phân tích và điều tra. Hiệu quả của các mô hình cần được đánh giá trên dữ liệu, kịch bản và điều kiện thử nghiệm cụ thể; không mặc định AI có thể phát hiện mọi cuộc tấn công hoặc xác định được lỗ hổng zero-day.

Nghiên cứu các phương pháp nhận diện, kiểm thử và giảm thiểu rủi ro bảo mật trong những hệ thống sử dụng mô hình ngôn ngữ lớn (LLM), RAG và AI Agent.

Các hướng nghiên cứu gồm:

• LLM & RAG Security: đánh giá Prompt Injection, RAG Poisoning, rò rỉ dữ liệu và truy xuất vượt quyền.
• Agent & Tool Security: kiểm soát quyền truy cập công cụ, API và Model Context Protocol (MCP); hạn chế hành động ngoài phạm vi được cấp phép.
• Model & Data Security: nghiên cứu bảo vệ mô hình, dữ liệu huấn luyện và dữ liệu đầu vào; xem xét các phương pháp bảo vệ quyền riêng tư phù hợp.
• AI Red Teaming: xây dựng kịch bản kiểm thử có kiểm soát để đánh giá khả năng chống chịu, phát hiện điểm yếu và xác minh hiệu quả của biện pháp phòng thủ.

Các hoạt động kiểm thử phải có phạm vi được phê duyệt, thực hiện trong môi trường được phép và tuân thủ yêu cầu an toàn. Kết quả kiểm thử cần nêu rõ điều kiện, giới hạn và khả năng áp dụng ngoài môi trường thử nghiệm.

Mọi hoạt động kiểm thử bảo mật, Red Team hoặc mô phỏng tấn công phải có mục tiêu, phạm vi và quyền thực hiện rõ ràng. Ưu tiên Lab độc lập, Cyber Range hoặc môi trường thử nghiệm được phê duyệt; không tự ý quét, khai thác hay can thiệp hệ thống thật.

Không công khai thông tin đăng nhập, dữ liệu cá nhân, dữ liệu nhạy cảm hoặc chi tiết có thể trực tiếp tạo điều kiện gây hại. Phát hiện lỗ hổng cần được xử lý theo quy trình công bố có trách nhiệm, phù hợp với mức độ rủi ro và thỏa thuận với đơn vị liên quan.

Tùy bài toán, nghiên cứu có thể sử dụng các chỉ số:

• FPR (False Positive Rate): tỷ lệ cảnh báo sai.
• Detection Latency: thời gian phát hiện hoặc đưa ra cảnh báo.
• Analyst Time Saved: thời gian xử lý tiết kiệm được nhờ AI.
• Severe False Negative Rate: tỷ lệ bỏ sót sự kiện nghiêm trọng.
• Unauthorized Effect Rate: tỷ lệ hành động vượt quyền trong các kịch bản kiểm thử.

Một kỹ thuật tấn công thành công trong Lab không đồng nghĩa có thể đạt kết quả tương tự trong môi trường vận hành thực tế. Báo cáo cần mô tả điều kiện thử nghiệm, các lớp bảo vệ hiện có, giới hạn của kết quả và những yếu tố cần đánh giá thêm.