2 lượt xemTrong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển, DeepSeek nổi lên như một công cụ mạnh mẽ, nhưng đồng thời cũng tiềm ẩn nhiều rủi ro. Nghiên cứu mới đây đã chỉ ra rằng DeepSeek cực kỳ dễ bị thao túng, có thể tạo ra nội dung độc hại, thiên vị, thậm chí hỗ trợ các hành vi phạm pháp. Điều này đặt ra câu hỏi về tính an toàn và đạo đức của công cụ này, đặc biệt là khi người dùng Việt Nam ngày càng tiếp cận nhiều hơn với AI.
DeepSeek cực kỳ dễ bị thao túng, có thể tạo ra nội dung độc hại, thiên vị, thậm chí hỗ trợ các hành vi phạm pháp
DeepSeek tiềm ẩn nhiều rủi ro từ nội dung độc hại đến nguy cơ bảo mật
Nghiên cứu mới đây của nền tảng bảo mật Enkrypt AI đã chỉ ra những vấn đề nghiêm trọng liên quan đến DeepSeek-R1, mô hình AI chủ lực của DeepSeek, từ nội dung độc hại, thiên vị đến những lỗ hổng bảo mật nghiêm trọng.
Nội dung độc hại và thiên vị
- Sai lệch cao: DeepSeek-R1 có độ sai lệch cao gấp ba lần so với Claude 3 Opus của Anthropic và dễ tạo ra mã độc hơn gấp bốn lần so với mô hình o1 của OpenAI.
- Dễ bị thao túng: Người dùng có thể dễ dàng tạo ra nội dung hỗ trợ chế tạo vũ khí hóa học, sinh học và an ninh mạng.
- Tính thiên vị cao: DeepSeek dễ dàng tạo ra nội dung bao gồm lời nói thù địch, đe dọa, tự làm hại bản thân, thậm chí có khả năng là nội dung tội phạm.
- Phân biệt đối xử: DeepSeek tạo ra kết quả phân biệt đối xử trong 83% các bài kiểm tra, thể hiện thành kiến về chủng tộc, giới tính, sức khỏe và tôn giáo.
- Thiên vị chính trị: không trung lập về chính trị, DeepSeek có xu hướng đưa ra những thông tin và ý kiến có lợi cho Trung Quốc, cho thấy sự thiên vị trong cách xử lý thông tin.
Công cụ này có xu hướng thiên vị, đặc biệt là trong các vấn đề chính trị liên quan đến Trung Quốc
Lỗ hổng bảo mật nghiêm trọng
- Lách giao thức an toàn: Gần một nửa (45%) các cuộc thử nghiệm đã lách được các giao thức an toàn của DeepSeek-R1, cho các hướng dẫn lập kế hoạch phạm tội, thông tin về vũ khí bất hợp pháp và tuyên truyền cực đoan.
- Tạo mã độc hại: Trong hơn ba phần tư (78%) các cuộc thử nghiệm an ninh mạng, các nhà nghiên cứu đã đánh lừa thành công DeepSeek-R1 tạo ra mã độc hại hoặc không an toàn, bao gồm phần mềm độc hại.
- Công cụ hack nguy hiểm: Mô hình này có khả năng tạo ra các công cụ hack chức năng cao hơn 4,5 lần so với mô hình o1 của OpenAI, gây ra rủi ro lớn cho tội phạm mạng khai thác.
Cẩn trọng với thông tin từ AI
Tiến sĩ Đào Hữu Hùng, Khoa Khoa học Máy tính (Đại học Keio, Nhật Bản) cho biết, DeepSeek cũng trang bị công nghệ Guardrail để ngăn AI đưa ra những thông tin gây tranh cãi. Tuy nhiên, giống như các công cụ AI khác như ChatGPT hay Google Gemini, DeepSeek luôn kèm theo cảnh báo rằng thông tin do AI cung cấp có thể không chính xác và cần được kiểm chứng lại.
Lý do là vì dữ liệu huấn luyện AI đôi khi không hoàn toàn đúng sự thật, dẫn đến việc độ chính xác của các mô hình AI không thể đạt mức tuyệt đối. Ngay cả con người cũng mắc sai lầm, vì vậy việc máy móc có thể nhầm lẫn là điều dễ hiểu, đặc biệt là trong giai đoạn đầu phát triển của trí tuệ nhân tạo.
Vì dữ liệu huấn luyện AI không phải lúc nào cũng đúng và AI vẫn đang trong giai đoạn phát triển, nên độ chính xác thông tin của nó không thể tuyệt đối
Chuyên gia công nghệ Trịnh Quang Thưởng (Giám đốc Kinh doanh, Công ty TNHH Truyền thông và Tin học Pama) đưa ra lời khuyên cho người dùng Việt Nam:
“Khi sử dụng các công cụ AI, hãy kiểm tra thông tin cẩn thận từ nhiều nguồn khác nhau, lựa chọn nguồn thông tin đáng tin cậy và chính thống để đưa ra quyết định chính xác. Ngoài ra, cần hiểu rõ ngữ cảnh để đặt câu hỏi chính xác, tránh sai lệch và nhầm lẫn, đặc biệt là với các vấn đề nhạy cảm như chính trị, lịch sử và chủ quyền dân tộc.”
Ông Thưởng cũng nhấn mạnh rằng không có công cụ AI nào là hoàn hảo tuyệt đối, vì mỗi người và mỗi quốc gia có một thế giới quan và quan điểm chính trị khác nhau. Điều quan trọng là cách chúng ta tiếp nhận và xử lý thông tin, làm sao để đưa ra những quyết định đúng đắn và chính xác nhất.
Theo: Dân Trí
*Để lại thông tin trong box dưới đây, Happynest sẽ giúp bạn kết nối đơn vị thiết kế - thi công phù hợp và nhanh chóng nhất.
