Thiết kế xe tự lái có đạo đức
bởi Katharine Miller, Đại học Stanford
Ảnh: Unsplash/CC0 Miền công cộng
Thí nghiệm tưởng tượng cổ điển được gọi là "bài toán xe đẩy" đặt câu hỏi: Bạn có nên kéo cần gạt để chuyển hướng một chiếc xe đẩy đang bỏ chạy để nó giết chết một người chứ không phải năm người không? Ngoài ra: Điều gì sẽ xảy ra nếu bạn phải đẩy ai đó lên đường ray để dừng xe đẩy? Sự lựa chọn đạo đức trong mỗi trường hợp này là gì?
Trong nhiều thập kỷ, các nhà triết học đã tranh luận xem chúng ta nên chọn giải pháp thực dụng (điều gì tốt hơn cho xã hội, tức là ít người chết hơn) hay giải pháp coi trọng quyền cá nhân (chẳng hạn như quyền không bị cố ý gây hại).
Trong những năm gần đây, các nhà thiết kế phương tiện tự động cũng đã cân nhắc cách AV đối mặt với các tình huống lái xe bất ngờ có thể giải quyết các tình huống khó xử tương tự. Ví dụ: AV nên làm gì nếu xe đạp đột ngột đi vào làn đường của nó? Liệu nó có nên rẽ vào dòng xe cộ đang chạy tới hay đâm vào xe đạp không?
Theo Chris Gerdes, giáo sư danh dự về kỹ thuật cơ khí và đồng giám đốc của Trung tâm Nghiên cứu Ô tô tại Stanford (CARS), giải pháp ở ngay trước mắt chúng ta. Nó được xây dựng trong hợp đồng xã hội mà chúng tôi đã có với những người lái xe khác, như được quy định trong luật giao thông của chúng tôi và cách giải thích của họ bởi các tòa án. Cùng với các cộng tác viên tại Ford Motor Co., Gerdes gần đây đã xuất bản một giải pháp cho vấn đề về xe đẩy trong ngữ cảnh AV. Ở đây, Gerdes mô tả công việc đó và gợi ý rằng nó sẽ mang lại niềm tin lớn hơn cho AV.
Luật giao thông của chúng ta có thể giúp hướng dẫn hành vi đạo đức bằng phương tiện tự động như thế nào?
Ford có một chính sách công ty nói rằng, Luôn tuân thủ luật pháp. Và dự án này phát triển từ một số câu hỏi đơn giản: Chính sách đó có áp dụng cho lái xe tự động không? Và khi nào, nếu có bao giờ, việc AV vi phạm luật giao thông có phải là đạo đức không?
Khi nghiên cứu những câu hỏi này, chúng tôi nhận ra rằng ngoài luật giao thông, còn có các quyết định phúc thẩm và hướng dẫn của bồi thẩm đoàn giúp xác định hợp đồng xã hội đã phát triển trong suốt hơn một trăm năm chúng ta lái ô tô. Và cốt lõi của hợp đồng xã hội đó xoay quanh việc thực hiện nghĩa vụ quan tâm đến những người tham gia giao thông khác bằng cách tuân thủ luật giao thông trừ trường hợp cần thiết để tránh va chạm. Về cơ bản: Trong cùng một tình huống mà việc vi phạm luật về mặt đạo đức có vẻ hợp lý, thì việc vi phạm luật giao thông một cách hợp pháp cũng là điều hợp lý.
Từ góc độ AI lấy con người làm trung tâm, đây là một điểm quan trọng: Chúng tôi muốn các hệ thống AV cuối cùng phải chịu trách nhiệm trước con người. Và cơ chế mà chúng ta có để quy trách nhiệm cho họ trước con người là yêu cầu họ tuân thủ luật giao thông nói chung. Tuy nhiên, nguyên tắc cơ bản này—rằng AV phải tuân thủ luật pháp—không được chấp nhận hoàn toàn trong toàn ngành. Một số người nói về lái xe tự nhiên, nghĩa là nếu con người đang tăng tốc, thì phương tiện tự động cũng sẽ tăng tốc. Nhưng không có cơ sở pháp lý nào để làm điều đó với tư cách là một phương tiện tự động hoặc với tư cách là một công ty nói rằng họ tuân thủ luật pháp.
Vì vậy, thực sự cơ sở duy nhất để AV vi phạm luật là nó cần thiết để tránh va chạm, và hóa ra luật gần như đồng ý với điều đó. Ví dụ: nếu không có phương tiện giao thông nào đang chạy tới và xe AV vượt qua vạch đôi màu vàng để tránh va chạm với xe đạp, thì xe đó có thể đã vi phạm luật giao thông nhưng không vi phạm luật vì đã làm điều cần thiết để tránh va chạm với xe đạp. va chạm trong khi vẫn duy trì nghĩa vụ quan tâm đến những người tham gia giao thông khác.
Ví dụ trực quan về các phong bì khác nhau và xem xét các thuộc tính tương đối của chúng. Ảnh: Nguyên tắc lái xe đặc biệt cho xe tự hành: https://repository.law.umich.edu/jlm/vol2022/iss1/2/
Các vấn đề đạo đức mà các nhà thiết kế AV phải giải quyết là gì?
Những tình huống khó xử về đạo đức mà các lập trình viên AV phải đối mặt chủ yếu giải quyết các tình huống lái xe đặc biệt—những trường hợp ô tô không thể đồng thời thực hiện nghĩa vụ đối với tất cả người tham gia giao thông và hành khách trên xe.
Cho đến nay, đã có rất nhiều cuộc thảo luận xoay quanh phương pháp thực dụng, đề xuất rằng các nhà sản xuất phương tiện tự động phải quyết định ai sống và ai chết trong những tình huống tiến thoái lưỡng nan này—người đi xe đạp băng qua trước AV hoặc người tham gia giao thông ngược chiều, vì thí dụ. Nhưng đối với tôi, tiền đề chiếc xe quyết định cuộc sống của ai có giá trị hơn là một thiếu sót sâu sắc. Và nói chung, các nhà sản xuất AV đã từ chối giải pháp thực dụng. Họ sẽ nói rằng họ không thực sự lập trình các vấn đề về xe đẩy; họ đang lập trình AV để được an toàn. Vì vậy, ví dụ, họ đã phát triển các phương pháp như RSS [an toàn nhạy cảm với trách nhiệm], đây là nỗ lực tạo ra một bộ quy tắc duy trì một khoảng cách nhất định xung quanh AV để nếu mọi người tuân theo các quy tắc đó, chúng tôi sẽ không có Sự va chạm.
Vấn đề là thế này: Mặc dù RSS không xử lý rõ ràng các tình huống tiến thoái lưỡng nan liên quan đến va chạm không thể tránh khỏi, AV vẫn sẽ hành xử theo một cách nào đó—cho dù hành vi đó được thiết kế có ý thức hay chỉ đơn giản xuất phát từ các quy tắc đã được lập trình trong
với nó. Và mặc dù tôi nghĩ rằng thật công bằng khi nói rằng chúng tôi không thực sự lập trình cho các vấn đề về xe đẩy, nhưng cũng công bằng khi đặt câu hỏi: Chiếc xe sẽ làm gì trong những tình huống này?
Vậy chúng ta nên lập trình AV như thế nào để xử lý các xung đột không thể tránh khỏi?
Nếu AV có thể được lập trình để duy trì nghĩa vụ chăm sóc hợp pháp mà chúng có nghĩa vụ đối với tất cả những người tham gia giao thông, thì va chạm sẽ chỉ xảy ra khi có người khác vi phạm nghĩa vụ chăm sóc của họ đối với AV—hoặc có một số lỗi cơ học hoặc cây đổ trên đường. đường, hoặc hố sụt mở ra. Nhưng giả sử rằng một người tham gia giao thông khác vi phạm nghĩa vụ chăm sóc AV của họ bằng cách vượt đèn đỏ hoặc rẽ trước AV. Sau đó, các nguyên tắc mà chúng tôi đã trình bày rõ ràng rằng AV vẫn nợ người đó nghĩa vụ cẩn thận và nên làm bất cứ điều gì có thể—cho đến giới hạn vật lý của phương tiện—để tránh va chạm mà không kéo bất kỳ ai khác vào đó.
Theo nghĩa đó, chúng tôi có một giải pháp cho vấn đề xe đẩy của AV. Chúng tôi không xem xét khả năng một người bị thương so với nhiều người khác bị thương. Thay vào đó, chúng tôi nói rằng chúng tôi không được phép chọn những hành động vi phạm nghĩa vụ chăm sóc mà chúng tôi có trách nhiệm với người khác. Do đó, chúng tôi cố gắng giải quyết xung đột này với người đã tạo ra nó—người đã vi phạm nghĩa vụ chăm sóc mà họ nợ chúng tôi—mà không đưa những người khác vào cuộc.
Và tôi sẽ lập luận rằng giải pháp này đáp ứng hợp đồng xã hội của chúng ta. Người lái xe kỳ vọng rằng nếu họ tuân thủ luật đi đường và thực hiện đầy đủ nghĩa vụ quan tâm đến người khác, thì họ sẽ có thể di chuyển an toàn trên đường. Tại sao có thể tránh một chiếc xe đạp bằng cách rẽ một phương tiện tự động ra khỏi làn đường của nó và đâm vào một chiếc ô tô khác đang tuân thủ luật? Tại sao lại đưa ra một quyết định có hại cho một người không phải là một phần của tình thế tiến thoái lưỡng nan hiện tại? Chúng ta có nên cho rằng tác hại có thể ít hơn tác hại đối với người đi xe đạp không? Tôi nghĩ thật khó để biện minh cho điều đó không chỉ về mặt đạo đức mà còn trên thực tế.
Có rất nhiều yếu tố không thể biết được trong bất kỳ vụ va chạm xe cơ giới nào. Bạn không biết hành động của những người tham gia giao thông khác nhau sẽ như thế nào và bạn không biết kết quả của một tác động cụ thể sẽ ra sao. Việc thiết kế một hệ thống tuyên bố có thể thực hiện phép tính thực dụng đó ngay lập tức không chỉ đáng ngờ về mặt đạo đức mà còn trên thực tế là không thể. Và nếu một nhà sản xuất đã thiết kế một chiếc AV cần một mạng sống để cứu năm mạng người, thì họ có thể phải chịu trách nhiệm pháp lý đáng kể vì điều đó vì không có điều gì trong hợp đồng xã hội của chúng ta biện minh cho kiểu suy nghĩ vị lợi này.
Liệu giải pháp của bạn cho vấn đề xe đẩy có giúp công chúng tin rằng AV là an toàn không?
Nếu bạn đọc một số nghiên cứu ở đó, bạn có thể nghĩ rằng AV đang sử dụng đạo đức nguồn lực cộng đồng và được đào tạo để đưa ra quyết định dựa trên giá trị của một người đối với xã hội. Tôi có thể tưởng tượng mọi người khá lo lắng về điều đó. Mọi người cũng bày tỏ một số lo ngại về những chiếc ô tô có thể hy sinh hành khách của họ nếu họ xác định rằng điều đó sẽ cứu được nhiều mạng sống hơn. Điều đó có vẻ khó chịu là tốt.
Ngược lại, chúng tôi nghĩ rằng cách tiếp cận của chúng tôi định hình mọi thứ một cách độc đáo. Nếu những chiếc xe này được thiết kế để đảm bảo rằng nghĩa vụ đối với những người tham gia giao thông khác luôn được thực hiện, thì các thành viên của công chúng sẽ hiểu rằng nếu họ tuân theo các quy tắc, họ không có gì phải sợ hãi trước các phương tiện tự động. Ngoài ra, ngay cả khi mọi người vi phạm nghĩa vụ chăm sóc của họ đối với AV, nó sẽ được lập trình để sử dụng hết khả năng của nó để tránh va chạm. Tôi nghĩ điều đó sẽ khiến mọi người yên tâm vì rõ ràng rằng AV sẽ không cân nhắc cuộc sống của họ như một phần của một số tính toán thực dụng được lập trình sẵn.
Giải pháp của bạn cho vấn đề xe đẩy có thể tác động như thế nào đến sự phát triển AV trong tương lai?
Các cuộc thảo luận của chúng tôi với các triết gia, luật sư và kỹ sư hiện đã đi đến điểm mà tôi nghĩ rằng chúng ta có thể rút ra mối liên hệ rõ ràng giữa những gì luật pháp yêu cầu, cách thức hợp đồng xã hội của chúng ta thực hiện các trách nhiệm đạo đức của chúng ta và các yêu cầu kỹ thuật thực tế mà chúng ta có thể viết ra.
Vì vậy, bây giờ chúng ta có thể giao việc này cho người lập trình AV để thực hiện hợp đồng xã hội của chúng ta bằng mã máy tính. Và hóa ra là khi bạn chia nhỏ các khía cạnh cơ bản của nghĩa vụ chăm sóc ô tô, thì bạn sẽ rút ra được một số quy tắc đơn giản như duy trì khoảng cách an toàn theo sau và lái xe với tốc độ hợp lý và thận trọng. Theo nghĩa đó, nó bắt đầu trông hơi giống RSS vì về cơ bản chúng ta có thể thiết lập các giới hạn an toàn khác nhau xung quanh phương tiện.
Hiện tại, chúng tôi đang sử dụng công việc này trong Ford để phát triển một số yêu cầu đối với xe tự động. Và chúng tôi đã xuất bản nó một cách công khai để chia sẻ với phần còn lại của ngành với hy vọng rằng, nếu những người khác thấy nó hấp dẫn, thì nó có thể được đưa vào các phương pháp hay nhất.
