Điều cần lưu ý khi ứng dụng AI trong doanh nghiệp

Các doanh nghiệp châu Á đang nỗ lực áp dụng các ứng dụng AI có độ phức tạp khác nhau, với kỳ vọng rằng công nghệ này có thể nâng cao đáng kể năng suất và giúp họ có vị thế mạnh mẽ hơn trong bối cảnh thị trường cạnh tranh khốc liệt.

Tuy nhiên, chi phí nhân lực và những hậu quả không lường trước được có thể làm tổn hại đến mục đích sử dụng AI. Trong bài phân tích trên Nikkei Asia Review, bà Nikki Sun, chuyên gia của Học viện Sáng kiến Xã hội Kỹ thuật số tại tổ chức nghiên cứu Chatham House chỉ ra, nếu các doanh nghiệp không xem xét cẩn thận các ứng dụng AI của mình, họ có thể phải đối mặt với những tổn thất tài chính và uy tín đáng kể khi các quy định về AI và dữ liệu được sửa đổi và mở rộng.

Bà cho biết, điều đầu tiên cần lưu ý là các nhà lãnh đạo doanh nghiệp thường đánh giá thấp nỗ lực cần thiết của con người để khởi tạo và duy trì hệ thống AI. Việc điều chỉnh AI một cách hiệu quả cho phù hợp với bối cảnh hoạt động cụ thể có thể cần đến sự can thiệp đáng kể của con người. Một số vị trí phải chịu gánh nặng thu thập, dán nhãn và làm sạch dữ liệu để huấn luyện hệ thống AI.

Bên cạnh đó, ngoài những thiết lập ban đầu, thường cần có sự giám sát liên tục của con người để sửa lỗi và đưa ra phản hồi để điều chỉnh các ứng dụng AI. Khối lượng công việc này không chỉ thuộc về các chuyên gia AI mà còn cả những nhân viên tương tác với AI trong công việc của họ.

Trong hai tháng điều tra thực địa ở Trung Quốc vào năm ngoái, bà Nikki cho biết, các chuyên gia nhân sự đã nói về việc cần phải dành hàng giờ để thu thập và số hóa dữ liệu để đào tạo các mô hình AI nhằm sàng lọc các mô hình tiềm năng.

Mặt khác, bà Nikki đánh giá, AI cũng có thể làm chậm hoạt động của doanh nghiệp nếu hệ thống chưa đạt hiệu suất tối ưu. Điều này có thể mất thời gian đáng kể để hỗ trợ AI thay vì thực hiện các nhiệm vụ theo kế hoạch.

Sự không phù hợp giữa chi phí và lợi ích nhận được từ AI có thể gây khó khăn đặc biệt cho các doanh nghiệp nhỏ và vừa. Họ có thể đối mặt với nguy cơ cạn kiệt tài nguyên khi vội vàng ứng dụng AI nếu chưa tính đến chi phí cần thiết để đạt được chức năng tối ưu.

Điểm thứ hai cần lưu ý là các doanh nghiệp thường không đánh giá đầy đủ mức độ phức tạp trong phản ứng của con người đối với AI. Thay vì làm việc chăm chỉ hơn và nhanh hơn dưới sự giám sát năng suất của AI, một số lao động sẽ tìm cách thức đối phó để lợi dụng hệ thống nhằm khai thác lợi ích cho họ. Điều này đặc biệt đúng với các giải pháp AI ít phức tạp hơn, gây cản trở lợi ích lâu dài của doanh nghiệp.

Ví dụ, ở Trung Quốc, hệ thống quản lý AI thường được sử dụng để giám sát hoạt động của nhân viên, phân công nhiệm vụ và đánh giá hiệu suất của nhân viên. Tuy nhiên, một số nhân viên học cách thể hiện những hành vi "làm hài lòng AI".

Cuối cùng, việc vội vã áp dụng AI có thể dẫn đến những rủi ro mới về tuân thủ và bảo mật dữ liệu cho doanh nghiệp. Để khai thác tối đa tiện ích từ chức năng AI, các doanh nghiệp đã được khuyến khích thu thập nhiều dữ liệu để đào tạo mô hình. Điều này đôi khi có thể liên quan đến các chiến thuật giám sát và thu thập dữ liệu xâm nhập.

Các giải pháp tuyển dụng được hỗ trợ bởi AI thường thu thập dữ liệu cá nhân có độ nhạy cảm cao từ các ứng viên. Trong một số trường hợp, các bài đăng trên mạng xã hội cũng được AI phân tích để tạo ra thông tin chi tiết.

Tại Trung Quốc, những hành vi này có thể vi phạm Luật bảo vệ thông tin cá nhân năm 2021. Các công ty có thể bị phạt lên tới 50 triệu nhân dân tệ (6,9 triệu USD) hoặc 5% doanh thu tạo ra trong năm trước vì xử lý sai nguồn dữ liệu.

Các công ty cũng có thể phải chịu trách nhiệm về những hành vi không phù hợp theo quy định mới của Trung Quốc về tính minh bạch, bảo mật và độ chính xác của dữ liệu. Vào năm 2022, nhà điều hành ứng dụng gọi xe Didi Global của Trung Quốc, dựa trên thuật toán AI để kết nối khách hàng và tài xế, đã bị phạt 8 tỷ nhân dân tệ vì vi phạm pháp luật, bao gồm cả việc thu thập 65 tỷ thông tin hành khách, bao gồm cả khuôn mặt, địa chỉ nhà và thông tin điện thoại.

Các công ty thiếu cơ sở hạ tầng công nghệ để bảo vệ dữ liệu cá nhân được lưu trữ cũng dễ bị vi phạm dữ liệu. Năm 2019, một cơ sở dữ liệu chứa hồ sơ của 33 triệu người tìm việc Trung Quốc, bao gồm thông tin liên hệ, lịch sử công việc và tiền lương, đã bị rò rỉ.

Trong khi nỗi lo sợ bị tụt hậu so với các đối thủ trong việc áp dụng AI có thể khiến các doanh nghiệp nản lòng thì việc ứng dụng vội vàng các hệ thống AI cũng có thể gây tổn hại không kém. Do đó, các nhà lãnh đạo doanh nghiệp cần nhận thức được những hậu quả không lường trước được cũng như rủi ro pháp lý trước khi áp dụng AI.