Sự phát triển của các mô hình ngôn ngữ lớn và các công cụ tạo sinh đã thay đổi căn bản phương thức làm việc truyền thống. Từ việc soạn thảo văn bản, tổng hợp số liệu cho đến hỗ trợ lập trình, công nghệ giúp rút ngắn thời gian thực hiện nhiệm vụ. Song, chính sự phụ thuộc ngày càng lớn vào các công cụ hỗ trợ này đang vô tình tạo ra những "lỗ hổng" nghiêm trọng mà các đối tượng xấu có thể triệt để khai thác.

Nguy cơ lộ, lọt bí mật nhà nước và dữ liệu nội bộ
Đây là rủi ro hiện hữu và nguy hiểm nhất khi sử dụng các nền tảng trí tuệ nhân tạo công cộng. Do áp lực về tiến độ công việc hoặc sự thiếu hiểu biết về quy chế bảo mật, một bộ phận cán bộ, nhân viên có thói quen sao chép nguyên văn các tài liệu dự thảo, báo cáo tài chính, danh sách nhân sự hoặc các kế hoạch công tác chưa công bố vào các công cụ trực tuyến để yêu cầu tóm tắt hoặc chỉnh sửa. Về mặt kỹ thuật, dữ liệu đầu vào của người dùng thường được các nhà cung cấp dịch vụ thu thập để huấn luyện và nâng cấp hệ thống. Điều này đồng nghĩa với việc thông tin mật của cơ quan, đơn vị khi đưa lên môi trường mạng sẽ nằm ngoài tầm kiểm soát và có nguy cơ trở thành dữ liệu công khai. Các đối tượng thu thập tin tức hoặc các thế lực thù địch hoàn toàn có thể khai thác nguồn dữ liệu này để phục vụ cho các mục đích xâm phạm an ninh hoặc cạnh tranh không lành mạnh.
Sự gia tăng của các hình thức tấn công mạng và lừa đảo trực tuyến
Sự hỗ trợ của trí tuệ nhân tạo đã giúp các nhóm tội phạm mạng nâng cấp phương thức tấn công lên một trình độ tinh vi hơn. Thay vì sử dụng các kịch bản lừa đảo rập khuôn, dễ bị phát hiện như trước đây, các đối tượng tấn công hiện nay sử dụng công nghệ để soạn thảo các thư điện tử giả mạo (email lừa đảo) với văn phong chuẩn mực, mô phỏng chính xác giọng điệu chỉ đạo của lãnh đạo hoặc đối tác. Nghiêm trọng hơn là sự xuất hiện của công nghệ giả lập âm thanh và hình ảnh (công nghệ giả lập chuyên sâu). Các đối tượng lừa đảo có thể tạo ra các cuộc gọi video hoặc tin nhắn thoại với khuôn mặt và giọng nói giống hệt người thật để thao túng tâm lý nạn nhân, qua mặt các quy trình xác thực danh tính nhằm chiếm đoạt tài khoản, đánh cắp dữ liệu hoặc thực hiện các hành vi lừa đảo tài chính.
Rủi ro từ mã độc và các lỗ hổng phần mềm tiềm ẩn
Trong lĩnh vực công nghệ thông tin và phát triển phần mềm, việc lạm dụng trí tuệ nhân tạo để viết mã lệnh (code) đang trở thành một thực trạng đáng báo động. Mặc dù các công cụ này có thể sinh ra các đoạn mã hoạt động được ngay lập tức, nhưng chúng thường thiếu các cơ chế bảo mật chuyên sâu. Các đoạn mã do máy tạo ra có thể chứa đựng các lỗ hổng an ninh phổ biến hoặc sử dụng các thư viện mã nguồn mở không an toàn. Nếu đội ngũ kỹ thuật viên không thực hiện quy trình rà soát, kiểm thử nghiêm ngặt mà đưa ngay vào vận hành, hệ thống thông tin của cơ quan sẽ đứng trước nguy cơ bị tin tặc xâm nhập, cài cắm mã độc hoặc chiếm quyền điều khiển thông qua các "cửa hậu" (backdoor) mà tường lửa thông thường khó phát hiện.
Sự thụ động hóa tư duy và mai một năng lực chuyên môn
Bên cạnh các nguy cơ về kỹ thuật, việc lạm dụng công nghệ còn gây ra những hệ lụy sâu sắc về yếu tố con người. Khi cán bộ, nhân viên hình thành thói quen ỷ lại vào máy móc để lên ý tưởng, lập dàn ý và giải quyết vấn đề, não bộ sẽ dần mất đi sự chủ động và khả năng tư duy phản biện độc lập. Hiện trạng "lười suy nghĩ" này dẫn đến việc nhân sự chỉ đóng vai trò là người nhập câu lệnh và thụ động chấp nhận kết quả. Về lâu dài, điều này sẽ làm mai một kỹ năng phân tích, tổng hợp và giải quyết các tình huống phức tạp, những phẩm chất cốt lõi của người làm công tác chuyên môn. Một đội ngũ nhân sự thiếu tư duy độc lập sẽ khó có thể tham mưu, đề xuất các giải pháp sáng tạo và hiệu quả cho tổ chức.
Vấn đề về độ chính xác thông tin và trách nhiệm giải trình
Một hạn chế lớn của các hệ thống trí tuệ nhân tạo hiện nay là hiện tượng "ảo giác thông tin". Máy móc có thể tự tổng hợp và đưa ra các thông tin sai lệch, bịa đặt các trích dẫn luật hoặc số liệu thống kê nhưng lại trình bày dưới một hình thức rất logic và thuyết phục. Trong công tác tham mưu, xây dựng văn bản quy phạm pháp luật hay xử lý các vấn đề chuyên môn, việc sử dụng thông tin thiếu kiểm chứng từ các công cụ này có thể dẫn đến những sai sót nghiêm trọng, ảnh hưởng đến uy tín của cơ quan, đơn vị. Khi xảy ra sự cố, bài toán về trách nhiệm giải trình sẽ trở nên phức tạp: trách nhiệm thuộc về người trực tiếp xử lý công việc hay do lỗi của công cụ hỗ trợ? Do đó, tính chính xác và trách nhiệm pháp lý luôn là vấn đề cần phải đặt lên hàng đầu.
Để đảm bảo an toàn, an ninh thông tin trong tình hình mới, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao khuyến cáo các cơ quan, đơn vị cần sớm hoàn thiện hành lang pháp lý, ban hành quy chế quản lý chặt chẽ việc ứng dụng công nghệ trong công tác. Đồng thời, mỗi cán bộ, nhân viên cần nâng cao ý thức cảnh giác, tuân thủ nghiêm ngặt các nguyên tắc bảo mật và luôn duy trì tư duy độc lập, kiểm chứng kỹ lưỡng mọi kết quả do công nghệ mang lại. Chỉ có sự tỉnh táo và bản lĩnh của yếu tố con người mới là bức tường lửa vững chắc nhất trước mọi rủi ro của kỷ nguyên số.