AI mở rộng cơ hội, an ninh mạng phải theo kịp

AI có thể hỗ trợ nhiều lĩnh vực, từ giáo dục, tài chính đến y tế. Song hành với cơ hội cá nhân hóa và hỗ trợ xử lý thông tin là trách nhiệm bảo vệ dữ liệu. Bài viết lưu trữ năm 2023 này đề cập các hướng ứng dụng và rủi ro an ninh mạng; những ví dụ y tế không phải khuyến nghị điều trị hoặc cam kết mọi hệ thống đều có hiệu quả lâm sàng.

Những hướng ứng dụng trong giáo dục

Phân tích dữ liệu và hành vi học tập có thể hỗ trợ đề xuất chương trình phù hợp với từng học viên. Lớp học trực tuyến cũng mở rộng khả năng tiếp cận vượt giới hạn địa lý, nhưng lợi ích này không chỉ đến từ AI và cần hạ tầng, nội dung cùng thiết kế giảng dạy phù hợp.

Hệ thống hỗ trợ học tập có thể cung cấp phản hồi nhanh về bài làm và chỉ ra điểm cần cải thiện. Các dấu hiệu khó khăn nên giúp giáo viên xem xét và tìm hỗ trợ chuyên môn khi cần, không thay thế đánh giá của chuyên gia hay tự kết luận người học có rối loạn học tập.

Những hướng hỗ trợ trong y tế

AI có thể hỗ trợ phân tích ảnh X-quang, MRI hoặc dữ liệu khác trong những hệ thống được đánh giá cho mục đích cụ thể. Khả năng hỗ trợ chẩn đoán và kế hoạch điều trị cần kiểm chứng, giám sát chuyên môn và tuân theo yêu cầu áp dụng; không thể mặc định luôn chính xác hơn hay ít tác dụng phụ hơn.

Theo dõi từ xa có thể cung cấp dữ liệu cho đội ngũ chăm sóc. Chatbot và trợ lý có thể hỗ trợ thông tin hoặc đặt lịch trong phạm vi được thiết kế, nhưng không nên thay thế tư vấn y tế có chuyên môn. Tác động đến trải nghiệm và sức khỏe cần được đánh giá riêng.

Dữ liệu nhạy cảm cần được bảo vệ ngay từ đầu

Thông tin học viên và bệnh nhân có thể được lưu, trao đổi qua nhiều thành phần. Rò rỉ dữ liệu, mã độc tống tiền, giả mạo, khai thác mô hình và tấn công thiết bị là những nhóm rủi ro cần xem xét theo bối cảnh hệ thống.

Bài gốc nhắc một thông tin về hơn 2.000 lượt tấn công trung bình mỗi tuần trong bối cảnh doanh nghiệp Ấn Độ. Không có đủ chi tiết nguồn và phương pháp trong bản lưu trữ để dùng con số này như thống kê hiện hành hoặc áp cho mọi doanh nghiệp.

Công nghệ mới cũng có thể bị kẻ tấn công sử dụng. Vì vậy, đưa AI vào hệ thống không đồng nghĩa với việc hệ thống tự an toàn; cần kiểm soát truy cập, quản lý dữ liệu, giám sát và quy trình xử lý sự cố phù hợp.

Ứng dụng AI có trách nhiệm

Giáo dục, y tế và các bên xây dựng chính sách cần đặt an ninh mạng trong kế hoạch ứng dụng AI, thay vì bổ sung sau khi có sự cố. Khai thác công nghệ và bảo vệ con người là hai phần của cùng một trách nhiệm.

Với DION, giá trị của giải pháp AI không chỉ nằm ở tính năng. Hệ thống cần được triển khai với cách sử dụng dữ liệu rõ ràng, đánh giá chất lượng và kiểm soát rủi ro để tạo lợi ích thực tế cho tổ chức và cộng đồng.