Dưới đây là bài viết của Dionysios Demetis, giảng viên về hệ thống quản lý thuộc ĐH Hull. Ông cảnh báo rằng chúng ta đang ở buổi bình minh của một tương lai nơi các quyết định quan trọng đều do thuật toán đưa ra.

(Ảnh: Shutterstock)

Tôi vẫn có thể nhớ lại sự kinh ngạc của mình khi một cuốn sách của nhà sinh vật học Peter Lawrence được định giá trên Amazon lên tới hơn 23 triệu USD (phí vận chuyển thêm 3,99 USD). Các đồng nghiệp của tôi trên thế giới có lẽ sẽ cảm thấy khá ganh tị khi một quyển sách hàn lâm đạt được mức giá đó, nhưng đây thực ra là kết quả của các thuật toán tương tác với nhau và vuột ra khỏi vòng kiểm soát. Hóa ra, đây không phải chuyện chiêu trò sáng tạo của nhân viên bán hàng, mà là các thuật toán đang chiếm dần quyền quyết định.

Lỗi lầm về giá bán nói trên đã được phát hiện và chỉnh sửa. Nhưng nếu lỗi sai thuật toán xảy ra liên tục, thậm chí ngoài tầm mắt của chúng ta thì tình hình sẽ ra sao? Nếu thực tại của chúng ta trở nên ngày càng phụ thuộc vào thuật toán, nhân loại sẽ đi đến đâu?

Bắt nguồn từ thực trạng này, tôi và giáo sư Allen Lee đã tìm hiểu về các ảnh hưởng sâu hơn của công nghệ thuật toán và công bố nghiên cứu trên Tạp chí của Hiệp hội Hệ thống Thông tin. Chúng tôi kết luận rằng, qua thời gian, vai trò của công nghệ thông tin và con người đã đảo ngược.

Trong quá khứ, con người dùng công nghệ như một công cụ. Giờ đây, công nghệ đã phát triển đến mức nó đang sử dụng và thậm chí kiểm soát chúng ta.

Con người không chỉ hoàn toàn bị cắt ra khỏi các quyết định mà máy móc đưa ra, mà còn bị ảnh hưởng sâu rộng theo những cách không lường trước được. Thay vì là trung tâm trong hệ thống ra quyết định, chúng ta đã bị đẩy ra rìa. Chúng ta đã dần dần giới hạn khả năng ra quyết định của chính mình và cho phép các thuật toán thay thế. Chúng ta đã trở thành con người nhân tạo, hay những đồ vật nhân tạo do công nghệ tạo ra, định hình và sử dụng.

Các ví dụ có rất nhiều. Trong ngành luật, các nhà phân tích luật đang dần bị thay thế bởi trí tuệ nhân tạo, nghĩa là thành công của các vụ việc biện hộ hay tố cáo có thể dựa một phần vào các thuật toán.

Các phần mềm còn được dùng để dự báo những cá nhân có thể trở thành tội phạm trong tương lai, chúng quyết định phạm nhân có được ân xá hay không. Theo cách này, tư duy của thẩm phán bị định hình bởi các cơ chế ra quyết định mà họ không thể hiểu, bởi chúng quá phức tạp và chạy trên lượng dữ liệu quá lớn.

Trong thị trường lao động, việc dựa dẫm quá nhiều vào công nghệ đã dẫn đến một số công ty lớn nhất thế giới lọc hồ sơ xin việc bằng phần mềm, nghĩa là người tuyển dụng sẽ chẳng bao giờ cần liếc nhìn thông tin của một số ứng cử viên tiềm năng. Điều này không chỉ đặt miếng cơm manh áo của nhiều người vào bàn tay của máy móc, mà còn có thể tạo ra các thiên lệch trong tuyển dụng mà công ty không hề mong muốn. Điều này đã từng xảy ra với Amazon, khi thuật toán tuyển dụng cho thấy nó không thích từ “phụ nữ” (woman) trong hồ sơ ứng viên.

Trong ngành báo chí, các phân tích cảm xúc tự động có thể tìm ra ý kiến tích cực và tiêu cực về các công ty dựa trên những nguồn tin trên web. Sau đó, các kết quả này lại được thuật toán giao dịch sử dụng để đầu tư tài chính tự động, giúp người dùng thậm chí không cần đọc tin tức.

>> Trí tuệ nhân tạo: Chiếc hộp Pandora thời hiện đại?

Các thuật toán và hậu quả khôn lường

(Ảnh: Shutterstock)

Thực tế, các thuật toán vận hành không cần con người đang đóng vai trò quan trọng trong thị trường tài chính. Ví dụ, 85% trong toàn bộ giao dịch ngoại hối là do thuật toán chỉ huy. Cuộc đua vũ trang thuật toán ngày càng gia tăng để phát triển các hệ thống phức tạp giúp cạnh tranh tốt hơn, nghĩa là những khoản tiền đầu tư khổng lồ đang được phân bổ theo quyết định của máy móc.

Trong phạm vi nhỏ hơn, con người và các công ty tạo ra thuật toán có thể gây ảnh hưởng lên nhiều lĩnh vực. Nhưng bởi vì đa số trí tuệ nhân tạo tự hoàn thành nhiệm vụ, chúng ta thường không biết chính xác nó ra quyết định dựa trên cái gì. Cũng như đối với mọi công nghệ khác, điều này có thể dẫn đến các hậu quả không mong muốn, vượt xa mọi thứ mà người thiết kế có thể lường trước được.

Lấy ví dụ về “vụ sụp đổ chớp nhoáng” của chỉ số Dow Jones năm 2010. Các thuật toán đã tạo ra lần sụt giảm lớn nhất lịch sử trong chỉ vài phút, gần 9% tổng giá trị đã bốc hơi (mặc dù sau đó hồi phục lại gần bằng ban đầu trong ngày hôm đó). Một cuộc điều tra kéo dài 5 tháng cũng chỉ có thể đề xuất nguyên nhân khả dĩ của tai nạn đó (và cũng có nhiều giả thuyết khác được đưa ra).

Biểu đồ giá trị Dow Jones trong “vụ sụp đổ chớp nhoáng” năm 2010 (ảnh qua cnn.com)

Nhưng các thuật toán khuếch đại vấn đề ban đầu đã không hề mắc lỗi. Không có lỗi trong mã lập trình, mà tai nạn xảy ra do hàng triệu thuật toán tương tác với nhau, lấy thông tin của nhau, tạo ra kết quả không thể dự đoán trước, chúng đi theo logic của chúng và kéo cả thị trường lao dốc theo.

Điều này có thể xảy ra là bởi, dần dần qua nhiều năm, những người tham gia vào hệ thống giao dịch xem quyết định của con người là trở ngại cho hiệu năng của thị trường. Năm 1987 khi thị trường chứng khoán Mỹ lao dốc 22,61%, một số broker (người môi giới cổ phiếu) đã không nghe điện thoại để tránh phải nhận lệnh bán của khách hàng thêm nữa. Điều này đã bắt đầu một quá trình “máy tính rốt cuộc thay thế hoàn toàn con người,” theo tác giả Michael Lewis trong quyển sách Flash Boys.

Thế giới tài chính đã đầu tư hàng triệu đô vào các cáp quang và công nghệ truyền tải dữ liệu siêu tốc, chỉ để giảm đi vài phần nghìn giây khi các thuật toán đưa ra quyết định. Trong cuộc đua khốc liệt đó, một nhân viên con người lại cần tới 1/4 giây để nhấn một nút bấm, vì thế họ trở thành dư thừa. Chuyện còn lại cần làm chỉ là tính toán lại thuật toán mỗi khi hệ thống ra quyết định mắc sai lầm.

Khi lằn ranh đang dần sâu hơn giữa con người và công nghệ, chúng ta cần suy nghĩ kỹ lưỡng về tương lai của sự phụ thuộc cực đoan này vào máy móc. Khi các quyết định của con người do thuật toán đưa ra, và chúng ta trở thành công cụ với cuộc đời định hình bởi thuật toán và các hậu quả khôn lường của chúng, chúng ta đang chuẩn bị cho một tương lai khi công nghệ kiểm soát tất cả.

Chúng ta cần phải quyết định trong khi vẫn có thể, chúng ta muốn điều gì cho bản thân cũng như xã hội?

Theo The Conversations,
Phong Trần biên dịch

>> Trung Quốc đang tiến vào thế giới đại đồng trong kinh điển “1984” của Orwell