Nỗ lực mới nhất của công ty nhằm làm cho hoạt động nội bộ trở nên minh bạch hơn sau nhiều tháng giám sát theo quy định đối với các thuật toán của nó.
Vào thứ Tư, công ty mẹ của Facebook và Instagram, Meta, đã thông báo trong một sự kiện ảo rằng họ đang áp dụng các khả năng trí tuệ nhân tạo để hỗ trợ một loạt các nhiệm vụ, chẳng hạn như dịch thuật phổ quát và một thế hệ trợ lý AI mới , trên nền tảng metaverse trong tương lai và gia đình hiện có. trong số các ứng dụng. Một trợ lý kỹ thuật số ban đầu có thể đưa ra đề xuất và đặt lời nhắc đã bắt đầu được tung ra trên Portal , thiết bị trò chuyện video của Meta.
Cùng với việc giới thiệu các dự án công nghệ mới do AI hỗ trợ, Meta cũng đã nỗ lực phối hợp để minh họa cách AI hoạt động ở hậu trường bằng một công cụ giải thích mới được gọi là “ thẻ hệ thống ”.
“AI hỗ trợ các dịch vụ back-end như cá nhân hóa, đề xuất và xếp hạng,” Meta cho biết trong một bài đăng trên blog ngày hôm qua. “Nhưng hiểu được cách thức và lý do AI hoạt động có thể khó khăn đối với người dùng hàng ngày và những người khác. Chúng tôi đang hướng tới việc thay đổi điều đó ”.
Các mô hình trí tuệ nhân tạo có thể được triển khai cho một loạt các nhiệm vụ. Ví dụ: các mô hình phân loại hình ảnh của Meta được thiết kế để dự đoán nội dung của hình ảnh, nhưng chúng cũng có thể phát hiện và gắn cờ nội dung có hại hoặc cung cấp năng lượng cho hệ thống đề xuất hiển thị các bài đăng mà một người dùng cụ thể có thể thấy thú vị. Trên hết, các mô hình khác nhau có thể tương tác và làm việc cùng nhau trên các tác vụ trong bất kỳ hệ thống nhất định nào.
Các thẻ hệ thống mới này sẽ chỉ ra cách một hệ thống AI sẽ sử dụng thông tin như lịch sử tương tác của một cá nhân trên ứng dụng, tùy chọn và cài đặt tài khoản để xây dựng một mô hình có thể thông báo thứ tự các bài đăng được hiển thị cho người dùng đó khi họ hành trình thông qua ứng dụng. Nó "được thiết kế để cung cấp cái nhìn sâu sắc về kiến trúc cơ bản của hệ thống AI và giúp giải thích tốt hơn cách thức hoạt động của AI", Meta giải thích.
Thẻ hệ thống thí điểm của Meta sẽ cố gắng giới thiệu cách Instagram xếp hạng nguồn cấp dữ liệu của nó . Trong hoạt ảnh trình chiếu trên blog của mình, Meta chạy qua các bước khác nhau mà mô hình AI trải qua để sắp xếp các bài đăng trên nguồn cấp dữ liệu của người dùng. Đầu tiên, tất cả các bài đăng không được nhìn thấy từ các tài khoản mà một người theo dõi đều đi qua hệ thống lọc xếp hạng trước để loại bỏ nội dung vi phạm nguyên tắc cộng đồng của Instagram.
Sau đó, một mô hình thu thập các thuộc tính từ bài đăng và tích hợp nó với thông tin như tần suất bạn tương tác với tài khoản để dự đoán khả năng bạn thích, lưu, nhấn, chia sẻ hoặc nhận xét về bài đăng đó. Nó chỉ định mỗi bài đăng một điểm xác suất số dựa trên điều này. Các bài đăng có điểm cao hơn xuất hiện sớm hơn những bài có điểm thấp hơn và các bài đăng gần đây hơn được tăng lên đầu dòng thời gian. Quy trình này áp dụng cho các bài đăng ảnh thông thường, video, cuộn phim, bài đăng mua sắm và các thẻ bắt đầu bằng # được theo dõi. Người kiểm tra thông tin xác thực của bên thứ ba sẽ giảm hạng các bài đăng có chứa “thông tin sai lệch”.
Hệ thống cũng sẽ áp dụng các quy tắc chung để quảng cáo nhiều bài đăng trên các loại phương tiện, tác giả và nội dung, trong nguồn cấp dữ liệu. Ví dụ: các quy tắc này yêu cầu hệ thống “hiển thị không quá ba bài đăng liên tiếp từ cùng một tài khoản”. Trên trang web công cụ thẻ hệ thống , các thành viên của công chúng có thể chạy qua một bài tập tương tác với hồ sơ người dùng giả định để xem các thành phần khác nhau được áp dụng như thế nào trong thực tế. Công cụ này dường như xây dựng một bài đăng giải thích dài hơn mà giám đốc điều hành Instagram Adam Mosseri đã viết vào tháng 6 năm ngoái , cố gắng làm sáng tỏ cách thức hoạt động của thuật toán Instagram.
Các sáng kiến mới của Meta nhằm tăng cường tính minh bạch đằng sau các thuật toán cung cấp năng lượng cho ứng dụng được đưa ra sau nhiều tháng giám sát theo quy định .
Các nhà lập pháp đã đưa ra một loạt đề xuất luật với mục tiêu bắt buộc các nền tảng internet phải thông báo đầy đủ cho người dùng về cách dữ liệu cá nhân của họ được sử dụng bởi các dịch vụ của nó. Tháng 11 năm ngoái, các nhà lập pháp Hạ viện đã giới thiệu Đạo luật minh bạch bong bóng bộ lọc yêu cầu các nền tảng cung cấp phiên bản dịch vụ của họ không chọn nội dung dựa trên dữ liệu cá nhân, Axios đưa tin. Một dự luật lưỡng đảng của Thượng viện được giới thiệu vào đầu tháng Hai nhằm thúc đẩy nhiều nghiên cứu hơn về tác động của các thiết kế nền tảng khác nhau. Một dự luật khác của Thượng viện được giới thiệu trong tháng này sẽ buộc các công ty truyền thông xã hội báo cáo các hoạt động thuật toán của họ cho các cơ quan bảo vệ người tiêu dùng như Ủy ban Thương mại Liên bang.
Ứng dụng hàng đầu của Meta, Facebook, gần đây đã đổi tên nguồn cấp dữ liệu của mình, mà theo The Verge , có thể để đáp lại những lời chỉ trích ngày càng tăng về những tác hại mà nội dung được xếp hạng theo thuật toán của nó có thể gây ra.
Nhưng ngay cả Meta cũng thừa nhận rằng chỉ có quá nhiều thứ mà thẻ hệ thống có thể làm khi giải thích cách thức hoạt động của hệ thống AI cho khán giả nói chung. “Một thẻ hệ thống có thể không liên quan theo cùng một cách đối với mỗi người nhìn thấy thẻ đó vì chúng tôi tiếp tục thử nghiệm trải nghiệm mới cho người dùng của mình,” Meta lưu ý trong blog. Ngoài ra, công ty lập luận rằng “quá nhiều thông tin trong một số thẻ hệ thống của chúng tôi có thể cung cấp cho những kẻ xấu có đủ kiến thức về một hệ thống hoặc mô hình để thiết kế ngược lại nó”, điều này có thể làm tổn hại đến tính bảo mật của sản phẩm và có khả năng gây hại cho người dùng.