Các team an ninh mạng truyền thống đang đau đầu với việc xử lý bảo mật AI, theo anh Sander Schulhoff - một nhà nghiên cứu chuyên sâu về mảng này.
Trong một tập phát sóng của Lenny's Podcast, anh Sander Schulhoff - nhà nghiên cứu bảo mật AI đã thẳng thắn chỉ ra rằng các team an ninh mạng truyền thống đang không đủ "đồ nghề" để deal với các vấn đề bảo mật liên quan đến trí tuệ nhân tạo. Anh ấy nhấn mạnh rằng các team này thường chỉ được training để vá lỗi và xử lý các lỗ hổng đã biết, trong khi AI lại chơi theo một lối hoàn toàn khác.
Schulhoff nói rõ là có một sự chênh lệch khá lớn giữa cách các đội an ninh mạng suy nghĩ và cách các mô hình ngôn ngữ lớn gặp trục trặc. Anh cho rằng: "Bạn có thể vá một lỗi, nhưng bạn không thể vá một bộ não" - một câu nói khá thâm thúy về độ phức tạp của việc bảo mật AI đấy!
Thêm vào đó, Schulhoff cũng bày tỏ sự lo lắng về việc nhiều tổ chức hiện nay thiếu trầm trọng nhân lực có khả năng hiểu và fix các rủi ro bảo mật AI. Anh cũng không ngần ngại gọi tên các startup an ninh AI khi cho rằng nhiều công cụ của họ không thực sự mang lại sự bảo vệ hiệu quả như quảng cáo, và những lời tuyên bố kiểu "bắt được mọi thứ" là hoàn toàn sai bét 
Nguồn: genk.vn
Trong một tập phát sóng của Lenny's Podcast, anh Sander Schulhoff - nhà nghiên cứu bảo mật AI đã thẳng thắn chỉ ra rằng các team an ninh mạng truyền thống đang không đủ "đồ nghề" để deal với các vấn đề bảo mật liên quan đến trí tuệ nhân tạo. Anh ấy nhấn mạnh rằng các team này thường chỉ được training để vá lỗi và xử lý các lỗ hổng đã biết, trong khi AI lại chơi theo một lối hoàn toàn khác.
Schulhoff nói rõ là có một sự chênh lệch khá lớn giữa cách các đội an ninh mạng suy nghĩ và cách các mô hình ngôn ngữ lớn gặp trục trặc. Anh cho rằng: "Bạn có thể vá một lỗi, nhưng bạn không thể vá một bộ não" - một câu nói khá thâm thúy về độ phức tạp của việc bảo mật AI đấy!
Thêm vào đó, Schulhoff cũng bày tỏ sự lo lắng về việc nhiều tổ chức hiện nay thiếu trầm trọng nhân lực có khả năng hiểu và fix các rủi ro bảo mật AI. Anh cũng không ngần ngại gọi tên các startup an ninh AI khi cho rằng nhiều công cụ của họ không thực sự mang lại sự bảo vệ hiệu quả như quảng cáo, và những lời tuyên bố kiểu "bắt được mọi thứ" là hoàn toàn sai bét
Nguồn: genk.vn