1 chiếc xe tự lái bị mất phanh. Phía trước có 5 người đang qua đường, bên cạnh là bức tường. Đi thẳng thì 5 người chết, lao vào tường thì người ngồi trong xe có thể chết.
Đứng ngoài quan sát, mình sẽ chọn cứu 5 người. Nhưng ngồi vào trong xe rồi, mình có còn chọn như thế không, thú thật là mình không dám chắc. Nếu vợ con mình ngồi ở đó, mình nghĩ nhiều người cũng sẽ do dự.
Chuyện này các triết gia đã bàn mấy chục năm. Ngày trước, sinh viên tranh luận xong thì thôi ai về nhà nấy, chẳng ai phải trả giá cho lựa chọn của mình. Nay thì khác, cãi nhau trên mạng thế nào cũng được, còn chiếc xe tự lái thì vẫn phải rẽ hoặc đi thẳng, và người của hãng sản xuất phải chọn sẵn trước khi giao xe cho khách.
Năm 2016, 3 nhà nghiên cứu Bonnefon, Shariff và Rahwan làm khảo sát với người Mỹ. 76% trả lời rằng xe nên hy sinh 1 hành khách để cứu 10 người đi đường. Nhưng khi hỏi tiếp họ có muốn mua 1 chiếc xe được lập trình như thế không thì phần lớn lắc đầu.
Tức là ai cũng muốn người khác đi loại xe “đạo đức”, còn mình thì đi loại xe bảo vệ mình. Cũng dễ hiểu thôi, con người vốn vậy.
Người lái xe ngoài đời gặp tình huống ấy thì chẳng kịp chọn gì cả. Tay đánh lái theo phản xạ, sau đó tòa án xét xem anh ta có lỗi hay không. Xe tự lái thì không có phản xạ, nó chỉ làm theo phần mềm được viết sẵn từ nhiều năm trước, ở 1 văn phòng nào đó. Hãng chọn cứu số đông thì người mua phải chấp nhận có lúc chiếc xe sẽ giết mình. Hãng ưu tiên người ngồi trong xe thì người qua đường phải chịu phần rủi ro còn lại.
Cũng năm 2016, 1 giám đốc của Mercedes nói với tạp chí Car and Driver rằng nếu chắc chắn cứu được ít nhất 1 người thì hãy cứu người trong xe. Báo chí làm ầm lên, vài hôm sau Daimler phải đính chính là hãng chưa hề quyết định như vậy. Từ đó đến nay, trong quảng cáo, họ chỉ nói 1 điều: chiếc xe rất an toàn.
Kỹ sư làm xe tự lái hay cười khi nghe câu hỏi này. Họ bảo ngoài đời chẳng có tình huống nào éo le như bạn nghĩ cả. Xe không biết chắc 5 người kia sẽ chết, cũng không biết chắc người trong xe sẽ sống, cảm biến chỉ đưa ra xác suất.
Theo mình, họ nói đúng 1 nửa.
Tháng 3/2018, ở Tempe, bang Arizona, 1 chiếc xe tự lái thử nghiệm của Uber đâm chết chị Elaine Herzberg khi chị dắt xe đạp qua đường lúc ban đêm. Chức năng phanh khẩn cấp tự động đã bị tắt để xe khỏi phanh gấp vô cớ, việc phanh giao cho người lái an toàn ngồi sau vô lăng. Lúc ấy, cô này đang nhìn điện thoại.
Chiếc xe không phải chọn giữa 5 người và 1 bức tường. Trên đường chỉ có 1 người, và người đó vẫn chết.
Nửa còn lại thì mấy ông kỹ sư ít khi đề cập. Tắt phanh khẩn cấp cho xe chạy êm hơn cũng là 1 lựa chọn đạo đức, chỉ là chẳng ai nghĩ về nó theo hướng ấy. Phanh nhạy quá thì xe giật cục, khách khó chịu, xe phía sau dễ đâm vào đuôi. Phanh chậm quá thì có ngày cán người. Cái ngưỡng ở giữa được ai đó đặt ra bằng 1 con số trong phần mềm.
Xe nên giữ cách người đi xe đạp bao xa? Nên chấp nhận khả năng nhận nhầm 1 người thành túi ni lông đến mức nào? Mỗi con số như vậy là 1 câu trả lời cho việc bao nhiêu sự khó chịu của khách thì đổi được 1 phần rủi ro của người đi đường. Câu trả lời ấy được dùng lại hàng triệu lần cho hàng triệu chuyến đi. Người ngồi viết các con số ấy vào phần mềm chưa chắc đã nghĩ mình vừa quyết định chuyện sống chết.
MIT từng mở 1 trang web cho người khắp thế giới tự chọn trong những tình huống xe mất phanh, thu về khoảng 40 triệu lựa chọn từ 233 quốc gia và vùng lãnh thổ. Hầu hết đều muốn cứu người hơn cứu thú, cứu nhiều hơn cứu ít, cứu trẻ hơn cứu già. Riêng mức độ thì mỗi nơi 1 kiểu. Nhóm nước Đông Á và Hồi giáo ưu tiên cứu người trẻ yếu hơn hẳn. Nhóm nước Mỹ Latinh lại ưu tiên mạnh hơn việc cứu phụ nữ và người có địa vị cao.
Năm 2020, 2 nhà tâm lý học Bigman và Gray làm lại thí nghiệm. Lần này họ cho người ta thêm 1 lựa chọn là đối xử với mọi người như nhau, và phần lớn chọn luôn cái đó.
Nghĩa là khi bị ép phải xếp hạng thì người ta xếp hạng, được phép từ chối thì đa số từ chối.
Nước Đức là nơi đầu tiên thử viết câu trả lời ra giấy. Năm 2017, 1 ủy ban do cựu thẩm phán tòa hiến pháp Udo Di Fabio đứng đầu đưa ra 20 nguyên tắc cho xe tự lái. Trong đó có 1 điều: khi tai nạn không tránh được, xe không được phân biệt người theo tuổi, giới tính hay thể trạng.
Gốc của điều này có từ năm 2006, khi tòa hiến pháp Đức hủy 1 điều luật cho phép bắn hạ máy bay bị không tặc. Lý do là nhà nước không được coi những hành khách vô tội như 1 thứ để đổi lấy mạng người khác.
Năm 2021, luật xe tự lái của Đức ghi thêm rằng tính mạng con người phải được đặt trên tài sản và động vật. Còn câu hỏi 5 người hay 1 người thì luật để trống. Các nhà làm luật đã bàn, nhưng không ai ghi vào. Cả 1 quốc gia có hội đồng đạo đức, có quốc hội, cuối cùng vẫn để lại đúng chỗ khó nhất cho hãng xe tự xử lý.
Vậy muốn dạy đạo đức cho AI thì phải bắt đầu từ đâu?
Mỗi trường phái triết học sẽ cho ra 1 kiểu xe khác nhau. Người theo hệ quả luận sẽ đếm: 5 mạng nặng hơn 1 mạng, tính kỹ hơn nữa thì 1 đứa trẻ còn nhiều năm để sống hơn 1 ông già. Chiếc xe của họ sẽ biết so sánh người với người. Người theo Kant sẽ nói con người không bao giờ được dùng làm phương tiện, không ai được đem mạng người ra đặt lên bàn cân. Nước Đức đi theo hướng này, nên luật của họ cấm phân loại người mà không dám bảo xe đếm số.
Trường phái đạo đức đức hạnh (có từ thời Aristotle) thì không đi tìm quy tắc, họ hỏi: 1 người tử tế sẽ làm gì ở đây? Người tốt không cần tra sổ tay, sự đúng đắn đã thành thói quen của họ. Với chuyện xe cộ, người lái xe tử tế sẽ không để mình rơi vào tình huống ấy. Chạy chậm ở chỗ đông người, thấy bóng người ban đêm là nhả ga, không cần biết cái bóng phía trước là ai, là gì. Chưa rõ thì chậm lại đã.
Chiếc xe của Uber năm 2018 làm ngược lại. Nó thấy chị Herzberg khoảng 6 giây trước va chạm, đủ để một người lái bình thường phanh hẳn lại. Nhưng nó cứ mải phân loại, lúc cho là xe hơi, lúc là vật thể lạ, lúc là xe đạp, trong khi phanh khẩn cấp đã bị tắt. Nó không giảm tốc vì chưa hiểu được thứ trước mặt, trong khi người lái xe thì chính vì chưa hiểu nên mới phải chậm. Trên đường hôm ấy chỉ có một người, chẳng có bài toán 5 người nào, chẳng có bức tường nào. Chiếc xe chẳng cần thế lưỡng nan triết học nào để giết người, nó chỉ thiếu đúng 1 đức tính mà ông bà ta vẫn dặn con cháu mỗi lần ra đường.
Có người nghĩ đơn giản hơn: lấy 40 triệu lựa chọn của MIT làm luật là xong, đa số muốn gì thì lập trình cho xe làm thế. Nhưng triết gia Hume đã viết từ thế kỷ 18 rằng từ chuyện “đang là” thế nào thì không suy ra được chuyện “nên làm” thế nào. Dữ liệu chỉ cho biết người ta đã bấm nút gì trên 1 trang web, nó không nói được cái bấm ấy đúng hay sai.
Nếu đa số ở 1 nước muốn cứu người có địa vị hơn, thì xe bán ở nước đó có được phép đâm người nghèo trước không? Nếu 1 hãng xe Đức bán sang Mỹ Latinh, chiếc xe sẽ theo đạo đức của người Đức hay của người mua? Nếu 2 nước có 2 bộ quy tắc, thì chiếc xe chạy qua biên giới sẽ đổi đạo đức ở trạm hải quan chắc?
Isaiah Berlin (triết gia và sử gia tư tưởng người Anh) cả đời viết về chuyện những giá trị tốt vẫn có thể va nhau mà không có thước đo chung nào để phân xử. Cứu nhiều người là tốt. Không đem ai ra đổi chác cũng là tốt. Hai điều này gặp nhau ở đúng bức tường kia. Muốn nhồi cho máy 1 bộ quy tắc “đúng” thì trước hết phải có bộ quy tắc ấy, mà loài người thì chưa có.
Iason Gabriel, 1 nhà triết học làm việc cho DeepMind, viết năm 2020 rằng đi tìm 1 bộ đạo đức đúng cho máy có lẽ là vô vọng. Việc làm được là tìm những nguyên tắc mà những người bất đồng với nhau vẫn chấp nhận, vì cách chúng được đặt ra là công bằng. Tức là câu hỏi đã chuyển từ đạo đức sang chính trị: ai có quyền quyết định, quyết định ở đâu, và ai ký tên.
Thomas Scanlon, một triết gia ở Harvard, lại nhìn theo cách khác. Theo ông, 1 nguyên tắc chỉ đứng vững được khi ta giải thích được nó với từng người chịu thiệt và người đó không có lý do chính đáng để bác bỏ. Thử đứng trước một bà mẹ mà giải thích rằng xe được lập trình để ưu tiên người trẻ, nên con bà, vì đã 60 tuổi, phải chết. Mình không nghĩ ai nói nổi câu ấy. Quy tắc không phân biệt tuổi và giới của nước Đức, dù dở dang, ít ra còn là thứ có thể nói ra được trước mặt người nhà nạn nhân.
Luật của Đức dở dang, nhưng được thông qua ở quốc hội, ai cũng đọc được, ai cũng cãi được. Còn con số ngưỡng phanh trong phần mềm của 1 hãng xe thì là bí mật kinh doanh. Người đi đường không biết mình được tính bằng bao nhiêu.
Triết gia người Anh Bernard Williams có kể một ví dụ mà mình nhớ mãi. Một tài xế xe tải lái cẩn thận, đúng luật, vậy mà một đứa trẻ bất ngờ lao ra và anh ta cán chết nó. Anh ta không có lỗi, tòa án nói vậy, người đứng xem bên đường cũng nói vậy. Nhưng người tài xế ấy sẽ mang cái chết đó theo suốt đời, và Williams cho rằng một người tử tế thì phải cảm thấy như thế. Nếu anh ta phủi tay đi về, tối ấy vẫn ăn cơm ngon miệng, ta sẽ thấy có gì đó không ổn ở con người này.
Đạo đức của loài người, từ xưa đến nay, cần một người như vậy, một người đứng ở chỗ cái chết xảy ra và mang nó về nhà.
Chiếc xe tự lái thì không có người ấy. Người kỹ sư đặt con số ngưỡng phanh từ mấy năm trước, có khi đã chuyển sang công ty khác. Người ngồi trong xe đang ngủ, hoặc đang xem phim. Ban lãnh đạo hãng nhận tin tai nạn dưới dạng một dòng số liệu trong bản tổng kết quý. Trong vụ Uber năm 2018, người duy nhất bị đưa ra tòa là cô lái xe ngồi nhìn điện thoại, còn công ty đã tắt phanh khẩn cấp thì không bị truy tố. Chiếc xe thì không nhớ gì cả. Nó được lau sạch, cập nhật phần mềm, rồi lại tiếp tục chạy.
Mẹ của người chết có thể hỏi ai đã giết con bà. Câu trả lời trung thực nhất có lẽ là: 1 con số, do nhiều người cùng đặt ra, mà không ai trong số họ nhớ mình đã đặt.