Nếu một ngày nào đó Trí tuệ máy vượt qua Con người về tổng thể, số phận của nhân loại sẽ hoàn toàn phụ thuộc vào hành động của các thực thể Trí tuệ nhân tạo đầy quyền năng. Nick Bostrom - một trong những nhà tư tưởng vĩ đại nhất của nhân loại hiện nay - đã nghiên cứu một cách toàn diện vấn đề mà ông cho là quan trọng nhất của thời đại: Liệu chúng ta có thể giải quyết vấn đề kiểm soát Siêu rí tuệ trước khi quá muộn?
Bìa sách Siêu trí tuệ của ETS
Nick Bostrom hiện là giáo sư giảng dạy tại đại học Oxford và là một chuyên gia về AI. Ông cũng là người sáng lập kiêm giám đốc Viện Tương lai con người tại Đại học Oxford. Năm 2014, Nick Bostrom được đưa vào danh sách World Thinkers của tạp chí Prospect, là người trẻ nhất trong top 15 của mọi lĩnh vực và là nhà triết học phân tích có thứ hạng cao nhất. Tỷ phú Elon Musk, người sáng lập SpaceX và Tesla đánh giá: “Một cuốn sách đáng đọc... Nó nhắc nhở chúng ta phải tuyệt đối cẩn thận với AI”. Ảnh: Omega Plus cung cấp
Não bộ của con người sở hữu nhiều năng lực mạnh mẽ mà các loài động vật khác không có được, và những năng lực này đã đưa chúng ta lên vị trí độc tôn. Tuy nhiên, với tốc độ phát triển theo cấp số nhân của khoa học công nghệ, và kèm theo đó là sự xuất hiện của lĩnh vực Trí tuệ nhân tạo (AI - Artificial Intelligence), một ngày nào đó, máy móc sẽ sở hữu bộ não ngang tầm, hay thậm chí là mạnh mẽ hơn con người rất nhiều lần. Khi đó, cuộc sống của chúng ta sẽ bị chi phối bởi Trí tuệ máy, giống như cái cách mà chúng ta hiện đang chi phối các giống loài khác trên hành tinh này. Vậy, làm thế nào chúng ta có thể kiểm soát được “sự bùng nổ trí tuệ” đó?
Tạm thời, trí tuệ của máy móc vẫn còn thua xa con người, nhưng một ngày nào đó, chúng sẽ phát triển thành Siêu trí tuệ. Trong cuốn sách, tác giả trình bày tương đối chi tiết về những con đường dẫn đến Siêu trí tuệ, bao gồm: Trí tuệ nhân tạo (chế tạo một hệ thống lấy học máy làm nền tảng và nhắm đến mục tiêu đạt được Trí tuệ tổng thể), Giả lập hoàn chỉnh não bộ (tạo ra phần mềm thông minh bằng cách quét và lập mô hình cấu trúc tính toán của não bộ sinh học), Nhận thức sinh học (tăng cường chức năng của bộ não sinh học), Giao diện người-máy (cấy ghép nhằm tạo ra sự kết nối và trao đổi thông tin giữa người và máy) và Các mạng lưới và tổ chức (tăng cường từng bước mạng lưới kết nối trí não của nhiều cá nhân đơn lẻ với nhau và với các dạng máy móc hỗ trợ).
Khi Siêu trí tuệ ở một dạng thức nào đó xuất hiện, chúng ta có thể nói về một sự bùng nổ trí tuệ, nghĩa là một loạt những sự phát triển mạnh mẽ trên diện rộng của Trí tuệ máy trong một thời gian ngắn. Điều này đồng nghĩa với việc hệ thống sẽ tìm ra cách vượt qua trí tuệ con người và tự hiện thực hóa mục tiêu của mình. Một số mục tiêu trong đó có thể được chính con người lập trình nên, nhưng chúng ta khó mà nắm bắt được toàn bộ thế giới phức tạp và sẽ để lại kẽ hở dẫn đến sự xuất hiện của “các chế độ sai lỗi ác tính”, bao gồm: Sự hiện thực hóa sai lệch, Dư thừa hạ tầng và Tội ác tâm trí, với hậu quả khả dĩ chính là sự diệt vong của toàn nhân loại.
Trước viễn cảnh này, Nick Bostrom đã đưa ra câu hỏi: Kết quả mặc định có phải là Tận thế? Theo Bostrom, chúng ta cần nhắm tới việc giải quyết vấn đề kiểm soát để tạo ra một dạng thức Siêu trí tuệ an toàn. Điều này có thể được thực hiện thông qua một số lộ trình, chẳng hạn như thiết kế mục tiêu cho tác tử, đưa ra mô tả chi tiết, gán cho tác tử một số giá trị nhất định về đạo đức.v.v.
Nick Bostrom dẫn dắt người đọc lần lượt đi qua những con đường nguy hiểm, những khúc cua gắt trong suy tư và chiến lược nhằm hướng tới một kết quả như ý muốn trong việc kiểm soát Siêu trí tuệ và sử dụng nó như một công cụ hỗ trợ con người.
Cuốn sách nghiên cứu sâu sắc về AI - Trí tuệ nhân tạo
Hãy suy nghĩ về chặng đường dài AI đang tiếp tục đi
GS.TSKH Hồ Tú Bảo, Viện Nghiên cứu Cao cấp về Toán (VIASM) và Viện John von Neumann (JVN), ĐHQG TP.HCM nhận xét về cuốn sách:
Trí tuệ nhân tạo, hay AI, là khoa học nhằm làm cho máy tính nói riêng và máy móc nói chung biết hoạt động như có trí thông minh của con người. Với khát vọng này, từ lúc bắt đầu vào giữa những năm 1950 và nhiều thập kỷ tiếp theo, mục tiêu trung tâm của AI là làm sao cho máy biết lập luận và suy diễn (theo logic của con người) và có tri thức (nhờ đưa tri thức con người vào máy). Nhiều năng lực khác của trí thông minh cũng là những mục tiêu cụ thể của AI, đó là làm cho máy có thể nhận biết thế giới bên ngoài như với giác quan con người: Nghe (nhận dạng tiếng nói), nhìn (thị giác máy), hiểu (ngôn ngữ tự nhiên), học (để có kiến thức mới), giải quyết vấn đề (như khám chữa bệnh), lập kế hoạch (như lập thời gian biểu thông minh và định giá vé tối ưu của các chuyến bay), hay các robot thông minh...
Những nghiên cứu suốt hơn bảy thập kỷ qua để làm cho máy có trí thông minh và trí tuệ ở mức cao của con người đã tạo nên hướng phát triển “AI bắt chước con người” hay còn gọi “AI ở cấp độ con người”. Hướng phát triển này được gọi là “AI tổng quát” (general AI) hoặc “AI mạnh” (strong AI). Một ví dụ là từ ba thập kỷ trước, giới nghiên cứu AI đã đặt mục tiêu vào năm 2050 sẽ chế ra một đội robots đá bóng và thắng đội vô địch World Cup. Đây là mục tiêu tạo một đội bóng gồm các robot di chuyển nhanh trong một môi trường động và chơi bóng hay. Mục tiêu này đòi hỏi tích hợp các kỹ thuật AI và nhiều loại công nghệ với robot thông minh, công nghệ đa tác tử tự trị và hợp tác, lập luận thời gian thực với dữ liệu từ nhiều cảm biến... Dù đã đạt được những kết quả khích lệ, vẫn còn một chặng đường rất dài để có thể đạt được khát vọng về AI ở cấp độ con người.
Cũng trong quá trình phát triển bảy thập kỷ qua, lĩnh vực học máy (machine learning) của AI - với mục tiêu làm cho máy có thể học như con người và với các phương pháp học quy nạp từ dữ liệu - đã phát triển rất nhanh, giải quyết được nhiều bài toán thực tế, và là phương pháp hiệu quả để hầu hết các lĩnh vực khác của AI như nhận dạng tiếng nói và hình ảnh, vượt qua hạn chế của các cách tiếp cận truyền thống. Cùng lúc AI “bắt chước con người” được theo đuổi, lĩnh vực về các hệ thống thông minh với tên gọi “cybernetics” (điều khiển học) - nổi tiếng từ cuốn sách cùng tên của Norbert Wiener xuất bản năm 1948 với cảm hứng từ trí thông minh của con người (và của động vật) - cũng liên tục phát triển. Khi các thuật toán học máy từ dựa vào heuristic chuyển dần sang dựa vào các nền tảng toán học vững chắc cũng là lúc các phương pháp học máy trộn với các phương pháp của điều khiển học.
Khi nhận xét rằng các phương pháp của điều khiển học tập trung vào xử lý tín hiệu và ra quyết định cho những công việc có thể phức tạp nhưng không đòi hỏi quá nhiều năng lực trí tuệ cao của con người. Ví dụ như một chiếc xe tự lái chủ yếu cần nhận ra mọi thứ trên con đường, biết đi nhanh đi chậm, biết tránh các xe khác để đi an toàn. Nhiều thành tựu nổi bật khoảng hai mươi năm qua dưới tên “AI” đạt được chủ yếu trong các lĩnh vực như nhận dạng và điều khiển chuyển động, hay thống kê và học máy thống kê nhằm tìm kiếm các mẫu dạng trong dữ liệu và đưa ra các dự đoán có căn cứ, kiểm tra các giả thuyết và đề xuất các quyết định. Các hệ thống tìm kiếm tài liệu, phân loại văn bản, phát hiện gian lận, khuyến nghị hành động, cá thể hoá việc chẩn đoán và chữa bệnh, phân tích mạng xã hội... là những thành công lớn của AI và được theo đuổi bởi các công ty khổng lồ như Google, Netflix, Facebook và Amazon... Những thành công này cho ta chứng kiến trong hai thập kỷ qua nhiều tiến bộ về học thuật và phát triển sản phẩm cho một hướng phát triển nữa của AI với tên gọi “AI tăng cường trí tuệ”. Hướng nghiên cứu này của AI giúp con người giải quyết những bài toán, những nhiệm vụ cụ thể cần đến trí thông minh và sự sáng tạo. Những nhiệm vụ này có thể có ở mọi lĩnh vực hoạt động của con người, từ nông nghiệp, du lịch, thương mại đến y học, giáo dục... Hướng phát triển này được gọi là “AI chuyên dụng” (narrow AI) hoặc “AI yếu” (weak AI). “Yếu” ở đây vì không làm việc vạn năng, nhưng rất “mạnh” ở việc cụ thể phải làm.
Chiến lược phát triển AI của các quốc gia hiện nay chủ yếu tập trung vào AI chuyên dụng. Với lượng dữ liệu ngày càng nhiều và phong phú, các máy tính ngày càng mạnh, và các thuật toán ngày càng hiệu quả, AI chuyên dụng đang đem AI vào cuộc sống con người nhiều hơn bao giờ hết, và là công nghệ số chủ yếu giúp con người sống và làm việc trên môi trường số.
Siêu trí tuệ gần hơn với hướng phát triển của AI ở cấp độ con người và mở cho ta những gợi ý, hiểu biết và suy nghĩ về chặng đường dài AI đang tiếp tục đi.
Siêu trí tuệ - một thảm họa mang tính sống còn sau này
Nick Bostrom viết những dòng mở đầu của cuốn sách này: Bên trong đầu bạn có một thứ đang đọc. Thứ đó, hay chính là bộ não con người, có một vài năng lực mà não bộ của những con vật khác không có, và chính nhờ những năng lực khác biệt ấy mà chúng ta có thể thống trị hành tinh này. Những loài vật khác có cơ bắp khỏe mạnh và móng vuốt sắc nhọn, còn chúng ta lại có một bộ não thông minh hơn. Ưu thế nhỏ này về trí tuệ đã dẫn đến việc chúng ta phát triển ngôn ngữ, công nghệ và tổ chức xã hội phức tạp. Ưu thế đó tích tụ dần theo thời gian, vì mỗi thế hệ lại kế thừa thành quả của những người đi trước.
Nếu ngày nào đó chúng ta chế tạo ra những bộ não máy vượt qua được não người về Trí tuệ tổng quát (general intelligence), thì thứ Siêu trí tuệ này có thể trở nên vô cùng mạnh mẽ. Và cũng giống như số phận của lũ gorila hiện tại phụ thuộc nhiều vào con người hơn là chính bản thân chúng, thì số phận của chúng ta cũng sẽ phụ thuộc y như vậy vào hành động của những Siêu trí tuệ máy.
Thật ra, con người có một ưu thế: Chúng ta chế tạo ra những thứ như vậy. Về nguyên tắc chúng ta có thế chế tạo ra một loại siêu trí tuệ có ý thức bảo vệ các giá trị nhân bản, và chắc chắn chúng ta có lý do để làm việc đó. Trên thực tế, vấn đề kiểm soát - phương thức kiểm soát những gì Siêu trí tuệ sẽ làm - xem ra khá khó khăn. Chúng ta dường như chỉ có một cơ hội. Một khi Siêu trí tuệ không thân thiện đã tồn tại, nó sẽ ngăn cản chúng ta thay thế nó hay thay đổi những ưu tiên của nó, và khi đó, số phận nhân loại sẽ bị định đoạt.
Trong cuốn sách này, tôi sẽ tìm hiểu thách thức tồn tại trong viễn cảnh Siêu trí tuệ, và cách tốt nhất để chúng ta ứng phó với nó. Rất có thể đó sẽ là thách thức quan trọng và khó khăn nhất mà nhân loại từng phải đối mặt, và cho dù thành công hay thất bại, đó có thể cũng sẽ là thách thức cuối cùng dành cho chúng ta.
Cuốn sách này không đưa ra bất kỳ luận điểm nào cho rằng chúng ta đang ở ngưỡng của một đột phá lớn về Trí tuệ nhân tạo, hay có thể dự báo thời điểm chuyện này sẽ xảy ra với bất kỳ mức độ chính xác nào. Chuyện đó dường như sẽ diễn ra vào một lúc nào đó trong thế kỷ này, nhưng chúng ta không biết chắc. Các chương đầu thảo luận về những lộ trình có thể và đề cập đôi chút về thời điểm, nhưng phần lớn cuốn sách nói về những gì xảy ra sau thời điểm đó. Chúng tôi nghiên cứu động lực của một cuộc bùng nổ trí tuệ, những dạng thức và quyền năng của Siêu trí tuệ, và những lựa chọn chiến lược sẵn có cho một tác tử Siêu trí tuệ chiếm được ưu thế quyết định. Sau đó chúng tôi chuyển tiêu điểm sang vấn đề kiểm soát và đặt câu hỏi về việc chúng ta có thể làm để thiết lập những điều kiện ban đầu nhằm sống sót và có được lợi ích vào thời điểm sau cùng. Tới cuối cuốn sách, chúng tôi sẽ nghiền ngẫm bức tranh toàn cảnh được vẽ ra từ những nghiên cứu của mình. Chúng tôi cũng sẽ đưa ra một số khuyến nghị về những việc cần làm nhằm tăng khả năng tránh được một thảm họa mang tính sống còn sau này.
Đây không phải là một cuốn sách dễ viết. Tôi hy vọng rằng con đường đã vạch ra sẽ cho phép những nhà thám hiểm khác vươn tới những ranh giới mới nhanh chóng và dễ dàng hơn, để khi đến đó, họ vẫn còn khỏe khoắn và sẵn sàng tham gia vào việc tiếp tục mở rộng tầm hiểu biết của chúng ta. Và nếu con đường đã mở có chút gập ghềnh quanh co, tôi hy vọng rằng những người quan sát, khi đánh giá kết quả, sẽ không coi nhẹ những gian truân sẽ gặp phải trên con đường đó!
Những cuộc đua công nghệ: Một vài ví dụ lịch sử
Trong suốt chiều dài lịch sử, đã có sự gia tăng về tốc độ khuếch tán kiến thức và công nghệ trên thế giới, và hệ quả là khoảng cách về thời gian giữa những người đi đầu về công nghệ và những người theo sau gần nhất đã bị rút ngắn.
Trung Hoa đã tìm cách duy trì vị thế độc quyền trong ngành sản xuất lụa trong gần 2.000 năm. Kết quả khảo cổ cho thấy việc sản xuất có thể đã bắt đầu khoảng năm 3.000 TCN, hay thậm chí sớm hơn. Ngành trồng dâu nuôi tằm là một bí mật được cất giữ cẩn thận. Hành vi tiết lộ kỹ thuật, cũng như việc xuất khẩu tằm hay trứng tằm ra ngoài lãnh thổ Trung Hoa bị khép vào tội tử hình. Những người La Mã, mặc dù lụa tơ tằm được nhập khẩu vào đế quốc này có giá rất cao, vẫn không học được nghệ thuật sản xuất lụa tơ tằm. Cho tới năm 300, một đoàn thám hiểm Nhật Bản đã tìm cách bắt được một ít trứng tằm cùng với ba thiếu nữ Trung Hoa. Những thiếu nữ này buộc phải tiết lộ nghệ thuật lụa tơ tằm cho những kẻ bắt cóc mình. Thành Byzantium cũng gia nhập câu lạc bộ các nhà sản xuất vào năm 522. Sự tụt hậu cũng xuất hiện trong câu chuyện về việc sản xuất đồ sứ. Người ta đã hành nghề này ở Trung Hoa từ đời Tống khoảng năm 600 (và có thể đồ sứ đã được sử dụng từ những năm 200), nhưng phải đến thế kỷ 18, người châu Âu mới có thể làm được thành thạo. Xe có bánh xuất hiện ở một số địa điểm ở Châu Âu và vùng Lưỡng Hà vào khoảng năm 3.500 TCN, nhưng cũng phải đến thời kỳ hậu Colombo mới đến được nước Mỹ. Trên quy mô lớn hơn, loài người cần 10 nghìn năm để lan tỏa hầu hết địa cầu, cuộc Cách mạng Nông nghiệp cần hàng ngàn năm, Cách mạng Công nghiệp chỉ cần vài trăm năm và một cuộc Cách mạng thông tin có thể nói đã lan tỏa trên toàn cầu chỉ trong khoảng thời gian vài thập kỷ, mặc dù tất nhiên là những sự chuyển giao này không hẳn là có mức độ sâu sắc tương đương nhau. (Trò chơi video Dance Dance Revolution lan truyền từ Nhật sang Châu Âu và Bắc Mỹ chỉ trong vòng 1 năm).
Thế kỷ XX đã chứng kiến các cuộc chạy đua công nghệ có ý nghĩa chiến lược: Bom hạt nhân (từ năm 1945), Bom nhiệt hạch (từ năm 1952), Khả năng phóng vệ tinh (từ năm 1958), Tên lửa đạn đạo liên lục địa (từ năm 1959), Khả năng đưa con người lên vũ trụ (từ năm 1961), Tên lửa mang nhiều đầu đạn hạt nhân (từ năm 1970). Các công nghệ được các cường quốc đối địch coi là có tầm quan trọng chiến lược vì ý nghĩa quân sự hay biểu tượng của chúng.
Sẽ rất khó lường khi diễn ra việc chạy đua giữa một số nước trong việc phát triển Siêu trí tuệ. Nick Bostrom cho rằng, việc hợp tác quốc tế có khả năng xảy ra hơn nếu các cấu trúc quản trị toàn cầu nói chung trở nên mạnh mẽ hơn. Việc hợp tác này còn có khả năng xảy ra cao hơn nữa nếu ý nghĩa của một sự bùng nổ trí tuệ được biết trước và nếu có thể giám sát hiệu quả tất cả các dự án nghiêm túc. Tuy nhiên, ngay cả khi việc giám sát là bất khả thi thì sự hợp tác quốc tế vẫn có thể diễn ra. Nhiều quốc gia có thể liên kết với nhau để hỗ trợ một dự án chung. Nếu dự án chung này được cấp đủ nguồn tài nguyên, nó có thể có cơ hội tốt để trở thành dự án đầu tiên đạt được mục đích. Trước đây đã từng có một số dự án hợp tác khoa học đa quốc gia quy mô lớn thành công, như Trạm Vũ trụ Quốc tế, Dự án Bản đồ Gen Người và Máy gia tốc hạt Hadron lớn. “Siêu trí tuệ” chỉ nên được phát triển vì lợi ích của toàn nhân loại và phục vụ các lý tưởng đạo đức phổ quát.
Siêu trí tuệ là cơ hội hay thách thức?
Hãy khơi dậy những bản chất tốt đẹp nhất
Nick Bostrom viết, trước viễn cảnh bùng nổ trí tuệ, con người chúng ta giống như những đứa trẻ đang chơi với một quả bom. Đó là sự không phù hợp giữa sức mạnh của thứ “đồ chơi” đó và sự non nớt trong hành vi của con người. Siêu trí tuệ là một thách thức mà hiện tại chúng ta chưa sẵn sàng và sẽ không sẵn sàng đối phó trong một thời gian dài. Chúng ta hầu như không có thông tin về thời điểm phát nổ, mặc dù tiếng đồng hồ đếm ngược vẫn vang vọng bên tai.
Với một đứa trẻ cầm quả bom trong tay, điều hợp lý cần làm là đặt nó xuống một cách nhẹ nhàng, nhanh chóng ra khỏi khu vực nguy hiểm và liên lạc với người lớn ở nơi gần nhất. Tuy nhiên, ở đây chúng ta có rất nhiều đứa trẻ, và mỗi đứa trẻ đều có quyền truy cập vào một cơ chế kích hoạt độc lập. Cơ hội mà ở đó tất cả chúng ta đều thấy cần phải đặt thứ đó xuống gần như là con số không. Một vài tên nhóc ngốc nghếch luôn muốn bấm nút kích nổ chỉ để xem điều gì sẽ đến.
Chúng ta cũng không thể có được sự an toàn bằng cách chạy trốn, vì sự bùng nổ trí tuệ sẽ thổi bay mọi thứ. Chúng ta cũng không nhìn thấy “người lớn” nào xung quanh cả.
Trong tình huống này, toàn bộ cảm giác phấn khích sẽ không còn nữa mà thay vào đó sẽ là hoảng loạn và sợ hãi; nhưng thái độ phù hợp nhất sẽ là quyết định đầu tư vào năng lực càng nhiều càng tốt, giống như khi chuẩn bị cho một kỳ thì khó khăn sẽ chắp cánh hoặc huỷ hoại ước mơ.
Thái độ này không phải là một kiểu “cuồng tín”. Sự bùng nổ trí tuệ có thể cách chúng ta nhiều thập kỷ trong tương lai. Hơn nữa, thách thức mà chúng ta phải đối mặt một phần là giữ lấy nhân tính của mình: Duy trì được sự vững chắc, lương tri và tính đúng đắn ngay cả khi vấn đề phi tự nhiên và phi nhân tính nhất này xảy đến. Chúng ta cần phải vận dụng tất cả nguồn lực của con người để giải quyết vấn đề này.
Nhưng, chúng ta cũng không nên đánh mất những gì có ý nghĩa toàn cầu. Thông qua những chuyện vặt vãnh hằng ngày, chúng ta có thể nhận thức, tuy mơ hồ, về nhiệm vụ thiết yếu của thời đại. Trong cuốn sách này, chúng tôi đã cố gắng phân biệt thêm một vài nét chính của một viễn cảnh vẫn còn tương đối mơ hồ và được định nghĩa một cách tiêu cực - một viễn cảnh đặt ra ưu tiên hàng đầu về đạo đức (ít nhất là từ quan điểm phi cá nhân và theo chủ nghĩa thế tục) cho việc giảm thiểu rủi ro diệt vong và duy trì quỹ đạo nền văn minh dẫn đến việc tài nguyên vũ trụ của nhân loại được sử dụng một cách hồ hởi và đầy lòng trắc ẩn.
(Tổng hợp từ báo Lao Động)
LINK ĐẶT MUA SẢN PHẨM 'SIÊU TRÍ TUỆ' TẠI ĐÂY
