Microsoft loại bỏ quyền truy cập công khai

Quyết định này là một phần của quá trình xem xét rộng hơn các chính sách đạo đức về AI của Microsoft.

Tiêu chuẩn AI với trách nhiệm mới của công ty (công bố vào năm 2019) nhấn mạnh trách nhiệm trong việc xác định ai sử dụng dịch vụ của mình và sự giám sát chặt chẽ hơn đối với nơi các công cụ này được áp dụng.

Những công cụ “nhận diện cảm xúc” đã bị các chuyên gia chỉ trích. Họ cho rằng các biểu hiện trên khuôn mặt phổ biến khác nhau giữa các nhóm dân số khác nhau, và việc đánh đồng cảm xúc bên ngoài với cảm xúc bên trong là không khoa học.

Lisa Feldman Barrett - giáo sư tâm lý học tại Đại học Northeastern, người đã thực hiện một bài đánh giá về chủ đề nhận dạng cảm xúc do AI hỗ trợ - nói với The Verge vào năm 2019: “Các công ty có thể nói bất cứ điều gì họ muốn, nhưng dữ liệu rất rõ ràng. Họ có thể phát hiện ra vẻ mặt cau có, nhưng điều đó không giống với việc phát hiện ra sự tức giận”.

Trên thực tế, điều này có thể hiểu là Microsoft sẽ giới hạn quyền truy cập vào một số tính năng của dịch vụ nhận dạng khuôn mặt của mình (Azure Face) và loại bỏ hoàn toàn các tính năng khác.

Người dùng sẽ phải đăng ký sử dụng Azure Face để nhận dạng khuôn mặt, ví dụ như cho Microsoft biết chính xác cách thức và vị trí họ sẽ triển khai hệ thống của mình.

Tuy nhiên, một số trường hợp sử dụng ít có khả năng gây hại hơn (như tự động làm mờ khuôn mặt trong hình ảnh và video) sẽ vẫn ở chế độ truy cập mở.

Microsoft cho biết sẽ ngừng cung cấp các tính năng này cho khách hàng mới kể từ ngày 21.6, trong khi khách hàng hiện tại sẽ bị thu hồi quyền truy cập vào ngày 30/6/2023.

Ngoài việc loại bỏ quyền truy cập công khai vào công cụ nhận dạng cảm xúc, Microsoft cũng ngừng khả năng xác định các thuộc tính như “giới tính, tuổi tác, nụ cười, khuôn mặt, tóc và trang điểm” của Azure Face.

Trong một bài đăng trên blog, Sarah Bird, giám đốc sản xuất chính của Azure AI, nói rằng các công cụ như nhận dạng cảm xúc sẽ có giá trị khi được sử dụng cho các tình huống trợ năng được kiểm soát.

Được biết thêm, trong khi Microsoft ngừng quyền truy cập công khai vào các tính năng này, họ sẽ tiếp tục sử dụng chúng trong ít nhất một sản phẩm của riêng mình: một ứng dụng có tên See AI (sử dụng thị giác máy để mô tả thế giới cho những người bị khiếm thị).

Microsoft cũng đang đưa ra những hạn chế tương tự đối với tính năng Giọng nói thần kinh tùy chỉnh, cho phép khách hàng tạo giọng nói AI dựa trên bản ghi âm của người thật.

Bird nói thêm rằng, “nó có tiềm năng thú vị về giáo dục, khả năng tiếp cận và giải trí”, nhưng “cũng dễ được sử dụng để mạo danh người nói và đánh lừa người nghe một cách không phù hợp”.

Gã khổng lồ trong làng máy tính cũng cho biết trong tương lai, họ sẽ giới hạn quyền truy cập vào tính năng này đối với “khách hàng và đối tác được quản lý” và “đảm bảo sự tham gia tích cực của người nói khi phát triển giọng nói tổng hợp”.