Cam 18 · Test 2 · Passage 2 · Sống cùng với trí thông minh nhân tạo

Trí tuệ nhân tạo Powerful (Al) cần phải được liên kết một cách đáng tin cậy với các giá trị của con người, nhưng điều này có nghĩa là Al cuối cùng sẽ phải kiểm soát những giá trị đó?

Đây là thập kỷ của Al, với hết kỳ tích đáng kinh ngạc này đến kỳ tích đáng kinh ngạc khác. Một con Al chơi cờ vua có thể đánh bại không chỉ tất cả những người chơi cờ bằng xương bằng thịt, mà còn thắng tất cả các máy chơi cờ do con người lập trình trước đó, sau khi chúng học được cách chơi trò này chỉ trong bốn giờ? Đó là tin tức của ngày hôm qua, tiếp theo sẽ là gì đây? Thật vậy, những thành tựu phi thường (prodigious accomplishments) này đều nằm trong cái gọi là AI hẹp, nơi máy móc thực hiện các nhiệm vụ mang tính chuyên môn cao (perform highly specialised tasks). Nhưng nhiều chuyên gia tin rằng hạn chế này chỉ là tạm thời. Đến giữa thế kỷ, chúng ta có thể có trí tuệ nhân tạo nói chung (AGI) - máy móc có thể đạt được hiệu suất cấp độ con người trên toàn bộ phạm vi của những nhiệm vụ mà bản thân chúng ta có thể giải quyết.

Nếu vậy, có rất ít lý do để nghĩ rằng nó sẽ dừng lại ở đó. Máy móc sẽ không có nhiều ràng buộc vật lý (physical constraints) đối với trí thông minh của con người. Bộ não của chúng ta chạy với tốc độ xử lý sinh hóa chậm dựa trên sức mạnh của bóng đèn và kích thước của chúng bị giới hạn bởi kích thước cổ tử cung của con người. Thật đáng chú ý với những gì chúng đạt được, với những khiếm khuyết như vậy. Nhưng chúng có thể ở xa giới hạn vật lý của suy nghĩ như khoảng cách mắt chúng ta từ Kính viễn vọng Không gian Webb cực kỳ mạnh mẽ (incredibly powerful).

Một khi máy móc tốt hơn chúng ta trong việc thiết kế những cỗ máy thậm chí còn thông minh hơn, tiến trình hướng tới những giới hạn này có thể tăng tốc. Điều này có ý nghĩa gì đối với chúng ta? Chúng ta có thể đảm bảo sự chung sống an toàn và đáng giá (safe and worthwhile coexistence) với những cỗ máy như vậy không? Về mặt tích cực, Al đã hữu ích và sinh lời (useful and profitable) cho nhiều thứ, và siêu Al có thể được kỳ vọng là siêu hữu ích và siêu lợi nhuận. Nhưng Al càng trở nên lớn mạnh, việc xác định mục tiêu của nó một cách cẩn thận càng quan trọng. "Văn hóa dân gian đầy rẫy những câu chuyện về những người yêu cầu điều sai trái phải chuốc lấy những hậu quả tai hại (disastrous consequences) - ví dụ, Vua Midas có thể ước rằng mọi thứ ông chạm vào đều biến thành vàng, nhưng đã không thực sự có ý định áp dụng điều này vào bữa sáng của mình.

Vì vậy, chúng ta cần tạo ra những cỗ máy Al mạnh mẽ "thân thiện với con người "- có mục tiêu phù hợp đáng tin cậy với giá trị của chính chúng ta. Một điều khiến nhiệm vụ này trở nên khó khăn đó là bản thân chúng ta không thân thiện với con người một cách đáng tin cậy. Chúng ta làm nhiều điều tệ hại với nhau và với nhiều sinh vật khác cùng chung sống trên hành tinh. Nếu những cỗ máy siêu thông minh (superintelligent machines) không làm tốt hơn chúng ta ở điểm này, chúng ta sẽ gặp rắc rối lớn (be in deep trouble). Chúng ta sẽ có trí thông minh mới mạnh mẽ để khuếch đại những mặt tối trong bản chất sai lầm của chính chúng ta.

Vì sự an toàn (For safety’s sake), do đó chúng ta muốn máy móc trở nên siêu phàm về mặt đạo đức cũng như nhận thức. Chúng ta mong muốn chúng nhắm đến nền tảng đạo đức cao (moral high ground), không phải cho những chỗ sai sót mà nhiều người dành một phần thời gian của mình vào đó. May mắn thay, máy móc sẽ đủ thông minh cho công việc này. Nếu có những con đường dẫn đến nền tảng đạo đức cao, chúng sẽ tốt hơn chúng ta trong việc tìm kiếm và mách bảo ta đi đúng hướng.

Tuy nhiên, có hai vấn đề lớn với tầm nhìn không tưởng (utopian vision) này. Một là cách ta bắt đầu máy móc trên hành trình, hai là ý nghĩa của nó để đến vạch đích này. "Vấn đề "xuất phát"" đó là chúng ta cần nói với máy móc những gì chúng đang tìm kiếm với sự rõ ràng đầy đủ để ta có thể tự tin rằng chúng sẽ tìm thấy nó - bất kể ""nó"" thực sự là gì. Điều này sẽ không dễ dàng, vì chúng ta là những sinh vật bộ lạc (tribal creatures) và mâu thuẫn về lý tưởng. Ta thường bỏ qua sự đau khổ của người lạ, và thậm chí góp phần vào đó, ít nhất là gián tiếp làm vậy. Làm thế nào để chúng ta chỉ cho máy móc theo chiều hướng của một cái gì đó tốt hơn?

Đối với vấn đề "đích đến", chúng ta có thể, bằng cách đặt mình dưới sự dẫn dắt của những hướng dẫn đạo đức và người gác cổng, hy sinh quyền tự chủ (autonomy) của chính mình - một phần quan trọng của những thứ làm cho chúng ta trở thành con người. Những cỗ máy giỏi người mà hơn chúng ta trong việc bám sát nền tảng đạo đức cao có thể được kỳ vọng sẽ ngăn cản một số sai sót mà chúng ta hiện đang coi là điều hiển nhiên (take for granted). Ví dụ, ta có thể mất đi sự tự do để phân biệt đối xử theo cách có lợi (in favour of) cho cộng đồng của mình.

Tất nhiên, mất tự do (loss of freedom) trong việc cư xử tồi tệ không phải lúc nào cũng là một điều xấu: phủ nhận quyền tự do đưa trẻ em vào làm việc trong các nhà máy, hoặc hút thuốc trong nhà hàng là những dấu hiệu của sự tiến bộ. Nhưng liệu ta đã sẵn sàng cho việc cảnh sát bằng silicon có đạo đức hạn chế các lựa chọn của ta hay chưa? Họ có thể giỏi làm điều đó đến mức chúng ta sẽ không để ý đến họ, nhưng rất ít người trong chúng ta có khả năng chào đón một tương lai như vậy.

Những vấn đề này có vẻ xa vời (far-fetched), nhưng ở một mức độ nào đó, chúng đã ở hiện diện ở đây. Chẳng hạn như Al đã có một số thông tin đầu vào về cách sử dụng các nguồn lực trong Dịch vụ Y tế Quốc gia (NHS) của chúng ta ở Vương quốc Anh. Nếu nó được trao một vai trò lớn hơn, nó có thể làm hiệu quả hơn nhiều so với việc con người có thể quản lý và hành động vì lợi ích của (in the interests of) người nộp thuế và những người sử dụng hệ thống y tế. Tuy nhiên, chúng ta sẽ tước đi quyền kiểm soát của một số người (ví dụ như các bác sĩ cấp cao) cái mà họ hiện đang được hưởng. Vì ta muốn đảm bảo rằng mọi người được đối xử bình đẳng và các chính sách là công bằng, các mục tiêu của Al sẽ cần phải được xác định cụ thể một cách đúng đắn.

Chúng ta có một công nghệ mới mạnh mẽ để đối phó (deal with) —chính nó, theo nghĩa đen, là một cách suy nghĩ mới. Vì sự an toàn của chính mình, chúng ta cần chỉ cho những nhà tư tưởng mới này đi đúng hướng và khiến họ hành động tốt vì chúng ta. Vẫn chưa rõ liệu điều này có khả thi hay không, nhưng nếu có, nó sẽ đòi hỏi một tinh thần hợp tác (cooperative spirit) và sẵn sàng gạt (set aside) lợi ích cá nhân sang một bên.

Cả trí thông minh nói chung và lý luận đạo đức nói riêng thường được cho là năng lực độc đáo của con người. Nhưng sự an toàn dường như đòi hỏi chúng ta phải nghĩ về chúng như một gói hàng: nếu chúng ta muốn cung cấp trí thông minh chung cho máy móc, chúng ta cũng sẽ cần phải trao cho chúng thẩm quyền đạo đức (moral authority). Và chính xác thì điều đó sẽ để lại loài người ở đâu? Càng có thêm lý do để suy nghĩ về điểm đến ngay bây giờ và cẩn thận về những gì chúng ta mong muốn.