AI掌管你的财务命运，公正是否？…
Các công ty đang ngày càng sử dụng các thuật toán và trí tuệ nhân tạo (AI) để phân tích số lượng dữ liệu khổng lồ mà họ tìm hiểu về chúng tôi để quyết định những sản phẩm tài chính nào chúng tôi đủ điều kiện và chúng tôi sẽ trả bao nhiêu cho họ.Các công cụ tinh vi này được sử dụng bởi các ngân hàng khi đưa ra quyết định cho vay, bởi các nhà tuyển dụng sàng lọc các ứng dụng công việc và, ở hầu hết các tiểu bang, bởi các công ty bảo hiểm tự động và nhà khi đặt phí bảo hiểm.
Nếu được đào tạo để đảm bảo tính công bằng và chính xác, AI có thể mở rộng quyền truy cập vào tín dụng và giảm sự phân biệt đối xử do sự thiên vị của con người.Nếu không, nó có thể gây tổn hại tài chính to lớn.
Ví dụ: nếu AI từ chối đơn xin vay của bạn, thì không có cách nào để bạn biết tại sao quyết định đó được đưa ra hoặc dữ liệu nào được sử dụng.
Với nhiều mô hình AI và máy học, họ đã hút dữ liệu từ phương tiện truyền thông xã hội, từ việc sử dụng các ứng dụng kỹ thuật số trên điện thoại của bạn và bạn không biết gì trong cơ sở dữ liệu đó mà họ có, ông Chuck Bell, người ủng hộ chính sách tài chính tại báo cáo của người tiêu dùng.Nó thậm chí có thể dành cho một số người khác có tên tương tự, và không phải bạn chút nào.
Hầu hết các ứng viên không có ý tưởng khi nào quyết định được AI đưa ra.Và ngay cả khi họ đã làm, quá trình ra quyết định đó là mờ đục, vì vậy họ sẽ không bao giờ biết những yếu tố nào được xem xét.Công cụ AI có thể quét thông tin từ Internet về người nộp đơn mà không chính xác hoặc hoàn toàn sai.
Susan Weinstock, Giám đốc điều hành của Liên đoàn người tiêu dùng phi lợi nhuận Hoa Kỳ cho biết.Nếu có một dữ liệu xấu đi vào, bạn sẽ nhận được dữ liệu rác được phát hành, thì We Weinstock cho biết trên một tập gần đây của Podcast Podcast Ofcheckbook.Sau đó, người tiêu dùng hoàn toàn thương xót dữ liệu xấu đó. Các cơ quan quản lý thậm chí có thể không biết rằng thuật toán bị sai lệch.
Năm ngoái, báo cáo của người tiêu dùng và Liên đoàn người tiêu dùng châu Mỹ gửi thư gửi cho Cục Bảo vệ Tài chính Người tiêu dùng rằng sự phân biệt đối xử thuật toán của HồiĐiều này có thể ngăn chặn các cộng đồng màu sắc và người tiêu dùng thu nhập thấp tiếp cận tín dụng giá cả phải chăng, họ viết.
Xu hướng có thể được nhúng vào các mô hình AI trong quá trình thiết kế, chẳng hạn như khi các đặc điểm được bảo vệ, như chủng tộc, được sử dụng không đúng cách trực tiếp hoặc thông qua các proxy.
Ví dụ, một cơ sở dữ liệu được tạo cho một công cụ cho vay có thể bao gồm các mã zip, dường như có thể là một yếu tố trung lập cho nhà phát triển, nhưng có thể phục vụ như một ủy quyền cho chủng tộc, thu nhập, giới tính hoặc tôn giáo.
Khi bạn có sự phân biệt đối xử proxy, Bell giải thích, bạn có thể phân biệt đối xử với một nhóm người được bảo vệ xứng đáng được đối xử công bằng, và bạn thậm chí không thực sự chú ý đến việc họ bị tổn thương bởi mô hình của bạn.Và đó về cơ bản là tình huống mà chúng ta có.
AI掌管你的财务命运，公正是否？
Séc yêu cầu Hiệp hội AI, một nhóm thương mại công nghiệp, bình luận về điều này, nhưng nó không trả lời các yêu cầu của chúng tôi.
Mối quan tâm của người tiêu dùng
Một cuộc khảo sát năm 2024 của người tiêu dùng báo cáo rằng hầu hết người Mỹ là người có phần khó chịu, hay rất khó chịu với AI đưa ra quyết định cao về cuộc sống của họ, chẳng hạn như phân tích các cuộc phỏng vấn việc làm video (72 %), sàng lọc người thuê cho thuê tiềm năng (69 %) và đưa ra quyết định cho vay (66 %).
Khi CR hỏi về việc nộp đơn xin việc với một công ty đã sử dụng AI để đưa ra quyết định tuyển dụng, 83 % cho biết họ muốn biết thông tin cá nhân nào mà chương trình sử dụng để đưa ra quyết định và 93 % cho biết họ muốn có cơ hội sửa bất kỳ thông tin cá nhân nào không chính xác mà công cụ tuyển dụng AI dựa vào.
Sự khó chịu áp đảo với việc cho phép máy móc đưa ra các quyết định tài chính quan trọng có thể được thành lập.Nghiên cứu cho thấy AI có thể tạo ra kết quả sai và khuếch đại các sai lệch có hại.
Các công cụ AI thế hệ mang tiềm năng cho các đầu ra sai lệch khác, thì Are Portport từ Viện Massachusetts về cảnh báo công nghệ.Họ cũng đã được tìm thấy để cung cấp cho người dùng dữ liệu được chế tạo trên mạng có vẻ xác thực.Những điểm không chính xác này rất phổ biến, báo cáo lưu ý, họ đã kiếm được biệt danh của riêng họ; chúng tôi gọi chúng là ‘ảo giác.
Những người bảo vệ cần thiết
Những người ủng hộ người tiêu dùng nói rằng họ tin rằng các luật và quy định mới là cần thiết để bảo vệ người tiêu dùng khỏi việc sử dụng việc ra quyết định AI ngày càng mở rộng.
Chúng tôi cần phải có một cuộc trò chuyện về cách AI có thể công bằng và có trách nhiệm, và được sử dụng theo cách giúp người tiêu dùng thay vì giữ họ lại, ông CR CR Bell nói với séc.Có thể có] tiết lộ rõ ràng khi nào các công cụ thuật toán đang được sử dụng, để người tiêu dùng biết rằng AI đang được sử dụng. Và chúng tôi muốn thấy mọi người có thể hấp dẫn con người nếu một thuật toán từ chối các ứng dụng của họ.
AI掌管你的财务命运，公正是否？
Báo cáo của người tiêu dùng muốn các quy tắc của tiểu bang và liên bang sẽ điều chỉnh những gì các công ty phải làm khi AI được sử dụng để đưa ra quyết định hậu quả của người dùng về người tiêu dùng, chẳng hạn như liệu họ có đủ điều kiện cho một khoản vay hay không, được chọn để cho thuê căn hộ, được khuyến mại hay xem bảo hiểm của họ …
chia sẽ trên Twitter: AI掌管你的财务命运，公正是否？
