Meta vừa công bố Frontier AI Framework, tài liệu chính sách mới nhằm kiểm soát chặt chẽ việc phát triển các hệ thống AI. Theo đó, nếu một hệ thống AI bị đánh giá là “rủi ro cao” hoặc “rủi ro nghiêm trọng”, Meta có thể hạn chế phát hành hoặc thậm chí dừng phát triển. Vậy chi tiết sự việc này là như thế nào? Cùng RG66 News tìm hiểu chi tiết qua bài viết sau đây nhé!
Meta định nghĩa thế nào về rủi ro AI?
Trong tài liệu, Meta phân loại hai cấp độ rủi ro của AI:
- Hệ thống rủi ro cao: Có khả năng hỗ trợ tấn công an ninh mạng hoặc phát triển vũ khí sinh học nhưng không đủ tin cậy để thực sự trở thành mối đe dọa nghiêm trọng. tấn công an ninh mạng hoặc phát triển vũ khí sinh học nhưng không đủ tin cậy để thực sự trở thành mối đe dọa
- Hệ thống rủi ro nghiêm trọng: Có thể gây ra hậu quả thảm khốc mà không thể giảm thiểu trong môi trường triển khai.
Ví dụ, một AI bị xếp loại “rủi ro nghiêm trọng” có thể hỗ trợ phát triển vũ khí sinh học có tác động lớn, trong khi AI “rủi ro cao” có thể giúp tấn công hệ thống mạng ở cấp doanh nghiệp nhưng chưa đến mức đe dọa an ninh toàn cầu.
Meta sẽ kiểm soát rủi ro AI như thế nào?
Meta khẳng định sẽ áp dụng các biện pháp kiểm soát nghiêm ngặt:
- Đối với AI rủi ro cao: Công ty sẽ giới hạn quyền truy cập nội bộ và chỉ phát hành sau khi áp dụng biện pháp giảm thiểu rủi ro.Công ty sẽ giới hạn quyền truy cập nội bộ và
- Đối với AI rủi ro nghiêm trọng: Meta sẽ dừng phát triển cho đến khi có giải pháp giảm thiểu rủi ro hoặc đảm bảo hệ thống an toàn hơn.
Điều đáng chú ý là Meta không dựa vào thử nghiệm thực nghiệm để xác định rủi ro, mà chủ yếu tham khảo ý kiến từ các chuyên gia nội bộ và bên ngoài.
Chiến lược AI của Meta có gì khác biệt?
Meta từ lâu đã theo đuổi chiến lược mở trong việc phát triển AI, công khai các công nghệ như mô hình Llama thay vì giấu kín như OpenAI. Tuy nhiên, chính cách tiếp cận này đã khiến AI của Meta bị các đối thủ lợi dụng, thậm chí được sử dụng để phát triển chatbot quốc phòng.
Meta cũng muốn tạo sự khác biệt với công ty AI Trung Quốc DeepSeek, vốn cũng công khai công nghệ AI nhưng không có các biện pháp bảo vệ đủ mạnh, dẫn đến khả năng bị thao túng để tạo ra nội dung độc hại.
Meta và tương lai của AI an toàn
Với Frontier AI Framework, Meta muốn cân bằng giữa đổi mới và an toàn. Công ty khẳng định rằng chỉ bằng cách kiểm soát rủi ro, AI mới có thể phục vụ xã hội một cách hiệu quả mà không gây nguy hiểm. Đây là một bước đi quan trọng, không chỉ giúp Meta định hình lại chiến lược AI mà còn đặt ra tiêu chuẩn mới cho ngành công nghiệp AI toàn cầu.
Lời kết
Meta đang cho thấy sự nghiêm túc trong việc phát triển AI một cách có trách nhiệm. Thay vì chạy đua theo xu hướng mà không cân nhắc đến hậu quả, công ty đặt yếu tố an toàn lên hàng đầu với Frontier AI Framework. Quyết định này không chỉ giúp Meta kiểm soát rủi ro mà còn góp phần định hình tiêu chuẩn phát triển AI trong tương lai.
Dù vẫn còn nhiều thách thức, nhưng rõ ràng Meta đang đi theo hướng tiếp cận cẩn trọng hơn, đảm bảo AI mang lại lợi ích cho xã hội mà không tạo ra nguy cơ tiềm ẩn. Đây có thể là bước ngoặt quan trọng trong chiến lược AI của Meta, đồng thời đặt ra câu hỏi về cách các công ty công nghệ khác sẽ quản lý rủi ro trong thời đại AI ngày càng phát triển mạnh mẽ.
Cuối cùng đừng quên truy cập RG66 News mỗi ngày để cập nhật các tin tức AI nóng hổi trên toàn thế giới bạn nhé!
Xem thêm: Công ty khởi nghiệp Character AI cho thử nghiệm Game trên Web
