Ấn phẩm được công bố trong bối cảnh trí tuệ nhân tạo (AI) được ứng dụng ngày càng rộng rãi trong nhiều lĩnh vực như sản xuất, y tế và giao thông, kéo theo các yêu cầu mới về minh bạch thuật toán, bảo mật dữ liệu và quyền riêng tư.
Theo Hikvision, AI đang góp phần thay đổi nhiều ngành kinh tế. Trong sản xuất, công nghệ thị giác máy tính được sử dụng để tối ưu dây chuyền và hỗ trợ bảo trì dự báo. Trong y tế, AI hỗ trợ phân tích dữ liệu và chẩn đoán bệnh. Trong giao thông, các hệ thống điều hành thông minh giúp cải thiện an toàn và hiệu quả vận hành.
Trụ sở của Hikvision. Ảnh: Hikvision
Tuy nhiên, sự phát triển nhanh của AI cũng đặt ra các thách thức liên quan đến quyền riêng tư, định kiến thuật toán và an toàn dữ liệu. Trong ấn phẩm mới, Hikvision giới thiệu khung nguyên tắc nhằm định hướng phát triển công nghệ AI của doanh nghiệp. "Chúng tôi tin rằng AI chỉ thực sự có giá trị khi nó được xây dựng trên nền tảng của sự tin tưởng và đạo đức", đại diện doanh nghiệp nói.
Theo đó, hệ thống nguyên tắc gồm năm yếu tố: công bằng trong thuật toán; trách nhiệm giải trình; cởi mở và chia sẻ; đảm bảo an toàn hệ thống; tôn trọng quyền riêng tư. Các nguyên tắc này được giám sát bởi Ủy ban Đạo đức Kỹ thuật của doanh nghiệp.
Trong đó, công bằng (Fairness) thể hiện ở việc đảm bảo thuật toán không thiên vị, không phân biệt đối xử. Hikvision cam kết không phát triển công nghệ nhận diện dựa trên chủng tộc, màu da hay tôn giáo. Trách nhiệm giải trình (Accountability) nằm ở việc duy trì sự giám sát của con người trong các hệ thống AI.
Cởi mở và chia sẻ (Openness & Sharing) bao gồm việc cung cấp các nền tảng kỹ thuật giúp giải quyết các thách thức xã hội. An toàn và tin cậy (Security - Reliability) hướng đến việc tăng cường khả năng chống lại các cuộc tấn công mạng và bảo vệ người dùng. Cuối cùng, tôn trọng quyền riêng tư (Respect for Privacy) là việc tuân thủ các luật lệ bảo hộ dữ liệu địa phương, quốc tế.
Hikvision cho biết quy trình phát triển AI của công ty được kiểm soát ở nhiều giai đoạn, từ mô hình, hệ thống đến ứng dụng. Trong đó, các biện pháp kỹ thuật được áp dụng nhằm hạn chế sai lệch dữ liệu, tăng cường bảo mật và đảm bảo hệ thống hoạt động ổn định.
Một số sản phẩm AIoT của doanh nghiệp ưu tiên xử lý dữ liệu tại mạng nội bộ thay vì truyền lên nền tảng bên ngoài, nhằm tăng quyền kiểm soát dữ liệu cho người dùng.
Doanh nghiệp cũng cho biết đã đạt chứng nhận ISO/IEC 42001 - tiêu chuẩn quốc tế về hệ thống quản lý trí tuệ nhân tạo (AI Management System - AIMS). Theo Hikvision, chứng nhận này nhằm đảm bảo các quy trình phát triển và vận hành AI đáp ứng yêu cầu quản lý rủi ro và minh bạch.
Thông qua ấn phẩm, Hikvision cho biết mong muốn thúc đẩy đối thoại với các nhà hoạch định chính sách, đối tác công nghệ và tổ chức nghiên cứu nhằm xây dựng các tiêu chuẩn phát triển AI an toàn và bền vững. Theo doanh nghiệp này, sự đổi mới bền vững của AI cần đến nỗ lực chung - nơi công nghệ được ứng dụng theo hướng có trách nhiệm và phục vụ lợi ích của con người.
Hoài Phương